背景
#

在日常使用 efk 日志系统的过程中，每天造成的日志索引量是巨大的，需要进行对相关的索引进行定期清理，来缓解后端储存的占用。如何实现在 kubernetes 中进行优雅的定期清理？本文将介绍使用 kubernetes 中的 Cronjob 资源对象进行其需求的实现。

常规情况下清理 n day 以前的数据

curl -XDELETE http://elasticsearch-logging.kube-system:9200/logstash-`date -d"n days ago" +"%Y.%m.%d"`

这种方法，是网上比较常规的方式，如某一天忘记执行了，就会出现数据未清理干净的情况，有点不优雅，如何解决？

进行优化后的清理策略

cleanPrefixPath='k8s-'
agoCleanTime=`date -d "n days ago" +%s`

for i in `curl http://user:pass@es_url/_cat/indices?v 2>&1 |awk -F '[ ]+' '{print $3}'|sort -n |grep -v '^\.'|egrep "${cleanPrefixPath}[0-9]+.[0-9]+.[0-9]+"`;do
        secTime=`echo ${i#*-}|tr '.' '-'|xargs -I {} date -d "{}" +%s`
        if [ "${secTime}" -le "${agoCleanTime}" ];then
                curl -XDELETE http://user:pass@es_url/"${i}"
        fi
done

转换为Yaml资源清单后呢？
#

# es-clean-cronjob.yaml
apiVersion: v1
kind: ConfigMap
metadata:
  name: es-auth-up
data:
  user: "elastic"
  password: "xxxxx"
  es_url: "elasticsearch-data.logging:9200"
  
---
apiVersion: batch/v1beta1 # or batch/v1
kind: CronJob
metadata:
  name: es-clean-job
spec:
  schedule: "0 12 * * *" # 每天中午 12:00 执行
  jobTemplate:
    spec:
      template:
        spec:
          containers:
          - name: es-clean-job
            image: idocker.io/centos:7
            imagePullPolicy: IfNotPresent
            env: 
              - name: ES_USER
                valueFrom:
                  configMapKeyRef:
                    name: es-auth-up
                    key: user
              - name: ES_PASS
                valueFrom:
                  configMapKeyRef:
                    name: es-auth-up
                    key: password
              - name: ES_URL
                valueFrom:
                  configMapKeyRef:
                    name: es-auth-up
                    key: es_url
            command: ["/bin/bash"]
            args:
              - -c
              - |
                set -eu
                ln -sf /usr/share/zoneinfo/Asia/Shanghai /etc/localtime
                cleanPrefixPath='k8s-'  # 删除前缀, 设置为空时将对所有索引生效
                agoCleanTime=`date -d "30 days ago" +%s` # 删除 30 天以前的日志
                for i in `curl http://"${ES_USER}":"${ES_PASS}"@"${ES_URL}"/_cat/indices?v 2>&1 |awk -F '[ ]+' '{print $3}'|sort -n |grep -v '^\.'|egrep "${cleanPrefixPath}[0-9]+.[0-9]+.[0-9]+"`;do
                        secTime=`echo ${i#*-}|tr '.' '-'|xargs -I {} date -d "{}" +%s`
                        if [ "${secTime}" -le "${agoCleanTime}" ];then
                                curl -XDELETE http://"${ES_USER}":"${ES_PASS}"@"${ES_URL}"/"${i}"
                        fi
                done                
          restartPolicy: Never
      backoffLimit: 2

执行创建

kubectl apply -f ./es-clean-cronjob.yaml  -n logging

示例的索引结构

执行时的日志输出

问题记录
#

Cronjob 时区问题

ToDo
#

初探 K8s VPA 垂直更改 Pod 资源请求

2021年7月8日·643 字·2 分钟·

k8s vpa pod

使用 Kube-Vip 部署高可用的 Kubernetes 集群

2021年6月24日·1523 字·4 分钟·

k8s kube-vip containerd kubeadm

Kaniko Docker 镜像构建初体验

2021年6月15日·483 字·1 分钟·

k8s Kaniko docker install

Rancher 导入集群提示 Scheduler & Controller 不健康问题修复

2021年6月8日·884 字·2 分钟·

k8s rancher kubekey

使用 Helm 部署 Spinnaker 持续部署(CD)平台

2021年5月24日·2781 字·6 分钟·

devops k8s helm spinnaker ci-cd

使用 helm 在 Kubernetes 中部署 Nexus 私服

2021年5月23日·2270 字·5 分钟·

k8s devops helm nexus3

使用 Cronjob 定时清理 ElasticSearch 中的日志索引

背景
#

转换为Yaml资源清单后呢？
#

问题记录
#

ToDo
#

相关文章

背景#

转换为Yaml资源清单后呢？#

问题记录#

ToDo#

相关文章

背景
#

转换为Yaml资源清单后呢？
#

问题记录
#

ToDo
#