• 【Prometheus】Prometheus的k8s部署

    Kubernetes 集群部署 Prometheus 和 Grafana

    //实验环境
    控制节点/master01        192.168.67.30
    工作节点/node01            192.168.67.12
    工作节点/node02            192.168.67.13

    //node-exporter 安装

    #创建监控 namespace

    kubectl create ns monitor-sa

    #部署 node-exporter

    1. mkdir /opt/prometheus
    2. cd /opt/prometheus/
    3.  
    4. vim node-export.yaml
    1. ---
    2. apiVersion: apps/v1
    3. # daemonset可以保证 k8s 集群的每个节点都运行完全一样的 pod
    4. kind: DaemonSet
    5. metadata:
    6.   name: node-exporter
    7.   namespace: monitor-sa
    8.   labels:
    9.     name: node-exporter
    10. spec:
    11.   selector:
    12.     matchLabels:
    13.      name: node-exporter
    14.   template:
    15.     metadata:
    16.       labels:
    17.         name: node-exporter
    18.     spec:
    19.       hostPID: true
    20.       hostIPC: true
    21.       hostNetwork: true
    22.       containers:
    23.       - name: node-exporter
    24.         image: prom/node-exporter:v0.16.0
    25.         ports:
    26.         - containerPort: 9100
    27.         resources:
    28.           requests:
    29.             #这个容器运行至少需要0.15核cpu
    30.             cpu: 0.15
    31.         securityContext:
    32.           #开启特权模式
    33.           privileged: true
    34.         args:
    35.         - --path.procfs
    36.         - /host/proc
    37.         - --path.sysfs
    38.         - /host/sys
    39.         - --collector.filesystem.ignored-mount-points
    40.         - '"^/(sys|proc|dev|host|etc)($|/)"'
    41.         volumeMounts:
    42.         - name: dev
    43.           mountPath: /host/dev
    44.         - name: proc
    45.           mountPath: /host/proc
    46.         - name: sys
    47.           mountPath: /host/sys
    48.         - name: rootfs
    49.           mountPath: /rootfs
    50.       tolerations:
    51.       - key: "node-role.kubernetes.io/master"
    52.         operator: "Exists"
    53.         effect: "NoSchedule"
    54.       volumes:
    55.         - name: proc
    56.           hostPath:
    57.             path: /proc
    58.         - name: dev
    59.           hostPath:
    60.             path: /dev
    61.         - name: sys
    62.           hostPath:
    63.             path: /sys
    64.         - name: rootfs
    65.           hostPath:
    66.             path: /

    #hostNetwork、hostIPC、hostPID都为True时，表示这个Pod里的所有容器，会直接使用宿主机的网络，直接与宿主机进行IPC（进程间通信）通信，可以看到宿主机里正在运行的所有进程。加入了hostNetwork:true会直接将我们的宿主机的9100端口映射出来，从而不需要创建service在我们的宿主机上就会有一个9100的端口。

    1. #创建资源并查看
    2. kubectl apply -f node-export.yaml
    3.  
    4. kubectl get pods -n monitor-sa -o wide

    #通过 node-exporter 采集数据

    node-exporter 默认的监听端口是 9100；
    可以执行 curl http://主机ip:9100/metrics 获取到主机的所有监控数据

    curl -Ls http://192.168.10.19:9100/metrics | grep node_cpu_seconds
    1. # HELP node_cpu_seconds_total Seconds the cpus spent in each mode.		#Help 用于解释当前指标的含义
    2. # TYPE node_cpu_seconds_total counter				#Type 用于说明数据的类型，这是一个 counter（计数器）类型的数据
    3. node_cpu_seconds_total{cpu="0",mode="idle"} 1076.15		#接下来就是具体的指标的值
    4. node_cpu_seconds_total{cpu="0",mode="iowait"} 0.99
    5. node_cpu_seconds_total{cpu="0",mode="irq"} 0
    6. node_cpu_seconds_total{cpu="0",mode="nice"} 0
    7. node_cpu_seconds_total{cpu="0",mode="softirq"} 3.15
    8. node_cpu_seconds_total{cpu="0",mode="steal"} 0
    9. node_cpu_seconds_total{cpu="0",mode="system"} 23.17
    10. node_cpu_seconds_total{cpu="0",mode="user"} 24.49
    11. node_cpu_seconds_total{cpu="1",mode="idle"} 1079.71
    12. node_cpu_seconds_total{cpu="1",mode="iowait"} 0.75
    13. node_cpu_seconds_total{cpu="1",mode="irq"} 0
    14. node_cpu_seconds_total{cpu="1",mode="nice"} 0
    15. node_cpu_seconds_total{cpu="1",mode="softirq"} 3.6
    16. node_cpu_seconds_total{cpu="1",mode="steal"} 0
    17. node_cpu_seconds_total{cpu="1",mode="system"} 22.04
    18. node_cpu_seconds_total{cpu="1",mode="user"} 25.6

    curl -Ls http://192.168.10.19:9100/metrics | grep node_load
    1. # HELP node_load1 1m load average.
    2. # TYPE node_load1 gauge
    3. node_load1 0.24
    4. # HELP node_load15 15m load average.
    5. # TYPE node_load15 gauge
    6. node_load15 0.16
    7. # HELP node_load5 5m load average.
    8. # TYPE node_load5 gauge
    9. node_load5 0.18

    Prometheus 安装和配置

    （1）创建 sa 账号，对 sa 做 rbac 授权

    创建账号；#创建一个 sa 账号 monitor

    kubectl create serviceaccount monitor -n monitor-sa

    绑定授权；#把 sa 账号 monitor 通过 clusterrolebing 绑定到 clusterrole 上

    kubectl create clusterrolebinding monitor-clusterrolebinding -n monitor-sa --clusterrole=cluster-admin  --serviceaccount=monitor-sa:monitor

    （2）创建一个 configmap 存储卷，用来存放 prometheus 配置信息

    1. vim prometheus-cfg.yaml
    2.  
    3. ---
    4. kind: ConfigMap
    5. apiVersion: v1
    6. metadata:
    7.   labels:
    8.     app: prometheus
    9.   name: prometheus-config
    10.   namespace: monitor-sa
    11. data:
    12.   prometheus.yml: |
    13.     global:                     #指定prometheus的全局配置，比如采集间隔，抓取超时时间等
    14.       scrape_interval: 15s      #采集目标主机监控数据的时间间隔，默认为1m
    15.       scrape_timeout: 10s       #数据采集超时时间，默认10s
    16.       evaluation_interval: 1m 	#触发告警生成alert的时间间隔，默认是1m
    17.     scrape_configs:             #配置数据源，称为target，每个target用job_name命名。又分为静态配置和服务发现
    18.     - job_name: 'kubernetes-node'
    19.       kubernetes_sd_configs:    # *_sd_configs 指定的是k8s的服务发现
    20.       - role: node              #使用node角色，它使用默认的kubelet提供的http端口来发现集群中每个node节点
    21.       relabel_configs:	        #重新标记
    22.       - source_labels: [__address__]    #配置的原始标签，匹配地址
    23.         regex: '(.*):10250'             #匹配带有10250端口的url;可以自定义
    24.         replacement: '${1}:9100'        #把匹配到的ip:10250的ip保留
    25.         target_label: __address__       #新生成的url是${1}获取到的ip:9100
    26.         action: replace         #动作替换
    27.       - action: labelmap
    28.         regex: __meta_kubernetes_node_label_(.+)    #匹配到下面正则表达式的标签会被保留,如果不做regex正则的话，默认只是会显示instance标签
    29.     - job_name: 'kubernetes-node-cadvisor'    #抓取cAdvisor数据，是获取kubelet上/metrics/cadvisor接口数据来获取容器的资源使用情况
    30.       kubernetes_sd_configs:
    31.       - role:  node
    32.       scheme: https
    33.       tls_config:
    34.         ca_file: /var/run/secrets/kubernetes.io/serviceaccount/ca.crt
    35.       bearer_token_file: /var/run/secrets/kubernetes.io/serviceaccount/token
    36.       relabel_configs:
    37.       - action: labelmap    #把匹配到的标签保留
    38.         regex: __meta_kubernetes_node_label_(.+)    #保留匹配到的具有__meta_kubernetes_node_label的标签
    39.       - target_label: __address__                   #获取到的地址：__address__="192.168.80.20:10250"
    40.         replacement: kubernetes.default.svc:443     #把获取到的地址替换成新的地址kubernetes.default.svc:443
    41.       - source_labels: [__meta_kubernetes_node_name]
    42.         regex: (.+)                                 #把原始标签中__meta_kubernetes_node_name值匹配到
    43.         target_label: __metrics_path__              #获取__metrics_path__对应的值
    44.         replacement: /api/v1/nodes/${1}/proxy/metrics/cadvisor	
    45.         #把metrics替换成新的值api/v1/nodes/k8s-master1/proxy/metrics/cadvisor
    46.         #${1}是__meta_kubernetes_node_name获取到的值
    47.         #新的url就是https://kubernetes.default.svc:443/api/v1/nodes/k8s-master1/proxy/metrics/cadvisor
    48.     - job_name: 'kubernetes-apiserver'
    49.       kubernetes_sd_configs:
    50.       - role: endpoints                             #使用k8s中的endpoint服务发现，采集apiserver 6443端口获取到的数据
    51.       scheme: https
    52.       tls_config:
    53.         ca_file: /var/run/secrets/kubernetes.io/serviceaccount/ca.crt
    54.       bearer_token_file: /var/run/secrets/kubernetes.io/serviceaccount/token
    55.       relabel_configs:
    56.       - source_labels: [__meta_kubernetes_namespace, __meta_kubernetes_service_name, __meta_kubernetes_endpoint_port_name]    #[endpoint这个对象的名称空间,endpoint对象的服务名,exnpoint的端口名称]
    57.         action: keep    #采集满足条件的实例，其他实例不采集
    58.         regex: default;kubernetes;https    #正则匹配到的默认空间下的service名字是kubernetes，协议是https的endpoint类型保留下来
    59.     - job_name: 'kubernetes-service-endpoints'
    60.       kubernetes_sd_configs:
    61.       - role: endpoints
    62.       relabel_configs:
    63.       - source_labels: [__meta_kubernetes_service_annotation_prometheus_io_scrape]
    64.         action: keep
    65.         regex: true
    66. 		#重新打标仅抓取到的具有"prometheus.io/scrape: true"的annotation的端点， 意思是说如果某个service具有prometheus.io/scrape = true的annotation声明则抓取，annotation本身也是键值结构， 所以这里的源标签设置为键，而regex设置值true，当值匹配到regex设定的内容时则执行keep动作也就是保留，其余则丢弃。
    67.       - source_labels: [__meta_kubernetes_service_annotation_prometheus_io_scheme]
    68.         action: replace
    69.         target_label: __scheme__
    70.         regex: (https?)
    71. 		#重新设置scheme，匹配源标签__meta_kubernetes_service_annotation_prometheus_io_scheme也就是prometheus.io/scheme annotation，如果源标签的值匹配到regex，则把值替换为__scheme__对应的值。
    72.       - source_labels: [__meta_kubernetes_service_annotation_prometheus_io_path]
    73.         action: replace
    74.         target_label: __metrics_path__
    75.         regex: (.+)
    76. 		#应用中自定义暴露的指标，也许你暴露的API接口不是/metrics这个路径，那么你可以在这个POD对应的service中做一个 "prometheus.io/path = /mymetrics" 声明，上面的意思就是把你声明的这个路径赋值给__metrics_path__， 其实就是让prometheus来获取自定义应用暴露的metrices的具体路径， 不过这里写的要和service中做好约定，如果service中这样写 prometheus.io/app-metrics-path: '/metrics' 那么你这里就要__meta_kubernetes_service_annotation_prometheus_io_app_metrics_path这样写。
    77.       - source_labels: [__address__, __meta_kubernetes_service_annotation_prometheus_io_port]
    78.         action: replace
    79.         target_label: __address__
    80.         regex: ([^:]+)(?::\d+)?;(\d+)
    81.         replacement: $1:$2
    82.         #暴露自定义的应用的端口，就是把地址和你在service中定义的 "prometheus.io/port = " 声明做一个拼接， 然后赋值给__address__，这样prometheus就能获取自定义应用的端口，然后通过这个端口再结合__metrics_path__来获取指标，如果__metrics_path__值不是默认的/metrics那么就要使用上面的标签替换来获取真正暴露的具体路径。
    83.       - action: labelmap        #保留下面匹配到的标签
    84.         regex: __meta_kubernetes_service_label_(.+)
    85.       - source_labels: [__meta_kubernetes_namespace]
    86.         action: replace        #替换__meta_kubernetes_namespace变成kubernetes_namespace
    87.         target_label: kubernetes_namespace
    88.       - source_labels: [__meta_kubernetes_service_name]
    89.         action: replace
    90.         target_label: kubernetes_name
    kubectl apply -f prometheus-cfg.yaml

    （3）通过 deployment 部署 prometheus

    #将 prometheus 调度到 node1 节点，在 node1 节点创建 prometheus 数据存储目录

    mkdir /data && chmod 777 /data

    #通过 deployment 部署 prometheus

    1. vim prometheus-deploy.yaml
    2. ---
    3. apiVersion: apps/v1
    4. kind: Deployment
    5. metadata:
    6.   name: prometheus-server
    7.   namespace: monitor-sa
    8.   labels:
    9.     app: prometheus
    10. spec:
    11.   replicas: 1
    12.   selector:
    13.     matchLabels:
    14.       app: prometheus
    15.       component: server
    16.     #matchExpressions:
    17.     #- {key: app, operator: In, values: [prometheus]}
    18.     #- {key: component, operator: In, values: [server]}
    19.   template:
    20.     metadata:
    21.       labels:
    22.         app: prometheus
    23.         component: server
    24.       annotations:
    25.         prometheus.io/scrape: 'false'
    26.     spec:
    27.       nodeName: node01              #指定pod调度到哪个节点上	
    28.       serviceAccountName: monitor
    29.       containers:
    30.       - name: prometheus
    31.         image: prom/prometheus:v2.2.1
    32.         imagePullPolicy: IfNotPresent
    33.         command:
    34.           - prometheus
    35.           - --config.file=/etc/prometheus/prometheus.yml
    36.           - --storage.tsdb.path=/prometheus        #数据存储目录
    37.           - --storage.tsdb.retention=720h          #数据保存时长
    38.           - --web.enable-lifecycle                 #开启热加载
    39.         ports:
    40.         - containerPort: 9090
    41.           protocol: TCP
    42.         volumeMounts:
    43.         - mountPath: /etc/prometheus/prometheus.yml
    44.           name: prometheus-config
    45.           subPath: prometheus.yml
    46.         - mountPath: /prometheus/
    47.           name: prometheus-storage-volume
    48.       volumes:
    49.         - name: prometheus-config
    50.           configMap:
    51.             name: prometheus-config
    52.             items:
    53.               - key: prometheus.yml
    54.                 path: prometheus.yml
    55.                 mode: 0644
    56.         - name: prometheus-storage-volume
    57.           hostPath:
    58.            path: /data
    59.            type: Directory

    1. kubectl apply -f prometheus-deploy.yaml
    2.  
    3. kubectl get pods -o wide -n monitor-sa

    （4）给 prometheus pod 创建一个 service

    1. vim prometheus-svc.yaml
    2. ---
    3. apiVersion: v1
    4. kind: Service
    5. metadata:
    6.   name: prometheus
    7.   namespace: monitor-sa
    8.   labels:
    9.     app: prometheus
    10. spec:
    11.   type: NodePort
    12.   ports:
    13.     - port: 9090
    14.       targetPort: 9090
    15.       protocol: TCP
    16.       nodePort: 31000
    17.   selector:
    18.     app: prometheus
    19.     component: server
    kubectl apply -f prometheus-svc.yaml

    1. kubectl get svc -n monitor-sa
    2. NAME         TYPE       CLUSTER-IP      EXTERNAL-IP   PORT(S)          AGE
    3. prometheus   NodePort   10.107.188.51           9090:31000/TCP   86s

    #通过上面可以看到 service 在 node 节点上映射的端口是 31000，这样我们访问 k8s 集群的 node 节点的 ip:31000，就可以访问到 prometheus 的 web ui 界面了。
    浏览器访问 http://192.168.10.20:31000

    #点击页面的Status->Targets，如看到所有 Target 状态都为 UP，说明我们配置的服务发现可以正常采集数据

    #查询 K8S 集群中一分钟之内每个 Pod 的 CPU 使用率

    sum by (name)( rate(container_cpu_usage_seconds_total{image!="", name!=""}[1m] ) )

    Prometheus 配置热加载

    ###为了每次修改配置文件可以热加载prometheus，也就是不停止prometheus，就可以使配置生效，想要使配置生效可用如下热加载命令：

    1. kubectl get pods -n monitor-sa -o wide -l app=prometheus
    2. NAME                                 READY   STATUS    RESTARTS   AGE   IP           NODE     NOMINATED NODE   READINESS GATES
    3. prometheus-server-75fb7f8fc6-8vxwj   1/1     Running   0          18h   10.244.1.3   node01

    #想要使配置生效可用如下命令热加载

    curl -X POST -Ls http://10.244.1.3:9090/-/reload

    #查看 log

    kubectl logs -n monitor-sa prometheus-server-75fb7f8fc6-8vxwj | grep "Loading configuration file"

    ###一般热加载速度比较慢，可以暴力重启prometheus，如修改上面的 prometheus-cfg.yaml 文件之后，可用如下命令：
    #可执行先强制删除，然后再通过 apply 更新

    1. kubectl delete -f prometheus-cfg.yaml
    2. kubectl delete -f prometheus-deploy.yaml
    3. kubectl apply -f prometheus-cfg.yaml
    4. kubectl apply -f prometheus-deploy.yaml

    注意：线上环境最好使用热加载，暴力删除可能造成监控数据的丢失

    Grafana 安装

    1. vim grafana.yaml
    2. ---
    3. apiVersion: apps/v1
    4. kind: Deployment
    5. metadata:
    6.   name: monitoring-grafana
    7.   namespace: kube-system
    8. spec:
    9.   replicas: 1
    10.   selector:
    11.     matchLabels:
    12.       task: monitoring
    13.       k8s-app: grafana
    14.   template:
    15.     metadata:
    16.       labels:
    17.         task: monitoring
    18.         k8s-app: grafana
    19.     spec:
    20.       containers:
    21.       - name: grafana
    22.         image: grafana/grafana:5.0.4
    23.         ports:
    24.         - containerPort: 3000
    25.           protocol: TCP
    26.         volumeMounts:
    27.         - mountPath: /etc/ssl/certs
    28.           name: ca-certificates
    29.           readOnly: true
    30.         - mountPath: /var
    31.           name: grafana-storage
    32.         env:
    33.         - name: INFLUXDB_HOST
    34.           value: monitoring-influxdb
    35.         - name: GF_SERVER_HTTP_PORT
    36.           value: "3000"
    37.           # The following env variables are required to make Grafana accessible via
    38.           # the kubernetes api-server proxy. On production clusters, we recommend
    39.           # removing these env variables, setup auth for grafana, and expose the grafana
    40.           # service using a LoadBalancer or a public IP.
    41.         - name: GF_AUTH_BASIC_ENABLED
    42.           value: "false"
    43.         - name: GF_AUTH_ANONYMOUS_ENABLED
    44.           value: "true"
    45.         - name: GF_AUTH_ANONYMOUS_ORG_ROLE
    46.           value: Admin
    47.         - name: GF_SERVER_ROOT_URL
    48.           # If you're only using the API Server proxy, set this value instead:
    49.           # value: /api/v1/namespaces/kube-system/services/monitoring-grafana/proxy
    50.           value: /
    51.       volumes:
    52.       - name: ca-certificates
    53.         hostPath:
    54.           path: /etc/ssl/certs
    55.       - name: grafana-storage
    56.         emptyDir: {}
    57. ---
    58. apiVersion: v1
    59. kind: Service
    60. metadata:
    61.   labels:
    62.     # For use as a Cluster add-on (https://github.com/kubernetes/kubernetes/tree/master/cluster/addons)
    63.     # If you are NOT using this as an addon, you should comment out this line.
    64.     kubernetes.io/cluster-service: 'true'
    65.     kubernetes.io/name: monitoring-grafana
    66.   name: monitoring-grafana
    67.   namespace: kube-system
    68. spec:
    69.   # In a production setup, we recommend accessing Grafana through an external Loadbalancer
    70.   # or through a public IP.
    71.   # type: LoadBalancer
    72.   # You could also use NodePort to expose the service at a randomly-generated port
    73.   # type: NodePort
    74.   ports:
    75.   - port: 80
    76.     targetPort: 3000
    77.   selector:
    78.     k8s-app: grafana
    79.   type: NodePort
    kubectl apply -f grafana.yaml
    1. kubectl get pods -n kube-system -l task=monitoring -o wide
    2.  
    3. kubectl get svc -n kube-system | grep grafana  
    4. monitoring-grafana   NodePort    10.96.53.95           80:32087/TCP             26s

    Grafana 配置 

    （1）浏览器访问http://192.168.10.21:32087 ，登陆 grafana

    （2）开始配置 grafana 的 web 界面：选择 Add data source
    【Name】设置成 Prometheus
    【Type】选择  Prometheus
    【URL】设置成 http://prometheus.monitor-sa.svc:9090        #使用service的集群内部端口配置服务端地址
    点击 【Save & Test】

    （3）导入监控模板
    官方链接搜索：

    https://grafana.com/dashboards?dataSource=prometheus&search=kubernetes

    （4）监控 node 状态
    点击左侧+号选择【Import】
    点击【Upload .json File】导入 node_exporter.json 模板
    【Prometheus】选择 Prometheus
    点击【Import】

    （5）监控 容器 状态
    点击左侧+号选择【Import】
    点击【Upload .json File】导入 docker_rev1.json 模板
    【Prometheus】选择 Prometheus
    点击【Import】

    k8s 部署 kube-state-metrics 组件

    （1）安装 kube-state-metrics 组件

    #创建 sa，并对 sa 授权

    1. vim kube-state-metrics-rbac.yaml 
    2. ---
    3. apiVersion: v1
    4. kind: ServiceAccount
    5. metadata:
    6.   name: kube-state-metrics
    7.   namespace: kube-system
    8. ---
    9. apiVersion: rbac.authorization.k8s.io/v1
    10. kind: ClusterRole
    11. metadata:
    12.   name: kube-state-metrics
    13. rules:
    14. - apiGroups: [""]
    15.   resources: ["nodes", "pods", "services", "resourcequotas", "replicationcontrollers", "limitranges", "persistentvolumeclaims", "persistentvolumes", "namespaces", "endpoints"]
    16.   verbs: ["list", "watch"]
    17. - apiGroups: ["extensions"]
    18.   resources: ["daemonsets", "deployments", "replicasets"]
    19.   verbs: ["list", "watch"]
    20. - apiGroups: ["apps"]
    21.   resources: ["statefulsets"]
    22.   verbs: ["list", "watch"]
    23. - apiGroups: ["batch"]
    24.   resources: ["cronjobs", "jobs"]
    25.   verbs: ["list", "watch"]
    26. - apiGroups: ["autoscaling"]
    27.   resources: ["horizontalpodautoscalers"]
    28.   verbs: ["list", "watch"]
    29. ---
    30. apiVersion: rbac.authorization.k8s.io/v1
    31. kind: ClusterRoleBinding
    32. metadata:
    33.   name: kube-state-metrics
    34. roleRef:
    35.   apiGroup: rbac.authorization.k8s.io
    36.   kind: ClusterRole
    37.   name: kube-state-metrics
    38. subjects:
    39. - kind: ServiceAccount
    40.   name: kube-state-metrics
    41.   namespace: kube-system
    kubectl apply -f kube-state-metrics-rbac.yaml

    k8s 部署 kube-state-metrics 组件

    专门查看监控状态的

    #安装 kube-state-metrics 组件和 service

    1. vim kube-state-metrics-deploy.yaml 
    2. ---
    3. apiVersion: apps/v1
    4. kind: Deployment
    5. metadata:
    6.   name: kube-state-metrics
    7.   namespace: kube-system
    8. spec:
    9.   replicas: 1
    10.   selector:
    11.     matchLabels:
    12.       app: kube-state-metrics
    13.   template:
    14.     metadata:
    15.       labels:
    16.         app: kube-state-metrics
    17.     spec:
    18.       serviceAccountName: kube-state-metrics
    19.       containers:
    20.       - name: kube-state-metrics
    21.         image: quay.io/coreos/kube-state-metrics:v1.9.0
    22.         ports:
    23.         - containerPort: 8080
    24. ---
    25. apiVersion: v1
    26. kind: Service
    27. metadata:
    28.   annotations:
    29.     prometheus.io/scrape: 'true'
    30.   name: kube-state-metrics
    31.   namespace: kube-system
    32.   labels:
    33.     app: kube-state-metrics
    34. spec:
    35.   ports:
    36.   - name: kube-state-metrics
    37.     port: 8080
    38.     protocol: TCP
    39.   selector:
    40.     app: kube-state-metrics
    1. kubectl apply -f kube-state-metrics-deploy_svc.yaml
    2.  
    3. kubectl get pods,svc -n kube-system -l app=kube-state-metrics

    （2）Grafana 配置

    #监控 k8s 群集状态
    点击左侧+号选择【Import】
    点击【Upload .json File】导入 kubernetes-cluster-prometheus_rev4.json 模板
    【Prometheus】选择 Prometheus
    点击【Import】

    #监控 k8s 群集性能状态
    点击左侧+号选择【Import】
    点击【Upload .json File】导入 kubernetes-cluster-monitoring-via-prometheus_rev3.json 模板
    【Prometheus】选择 Prometheus
    点击【Import】

    kubernetes 配置 alertmanager 发送报警到邮箱

    Prometheus报警处理流程

    1）Prometheus Server 监控目标主机上暴露的 http接口（假设接口A），通过Promethes配置的'scrape_interval' 定义的时间间隔， 定期采集目标主机上监控数据。

    2）当接口A不可用的时候，Server 端会持续的尝试从接口中取数据，直到 "scrape_timeout" 时间后停止尝试。 这时候把接口的状态变为 "DOWN"。

    3）Prometheus 同时根据配置的 evaluation_interval 的时间间隔，定期（默认1min）的对 Alert Rule 进行评估； 当到达评估周期的时候，发现接口A为 DOWN，即 UP=0 为真，激活 Alert，进入 PENDING 状态，并记录当前 active 的时间；

    4）当下一个 alert rule 的评估周期到来的时候，发现 UP=0 继续为真，然后判断警报 Active 的时间是否已经超出 rule 里的 for 持续时间，如果未超出，则进入下一个评估周期；如果时间超出，则 alert 的状态变为 FIRING；同时调用 Alertmanager 接口， 发送相关报警数据。

    5）AlertManager 收到报警数据后，会将警报信息进行分组，然后根据 alertmanager 配置的 group_wait 时间先进行等待。等 wait 时间过后再发送报警信息。

    6）属于同一个 Alert Group的警报，在等待的过程中可能进入新的 alert，如果之前的报警已经成功发出，那么间隔 group_interval 的时间间隔后再重新发送报警信息。比如配置的是邮件报警，那么同属一个 group 的报警信息会汇总在一个邮件里进行发送。

    7）如果 Alert Group里的警报一直没发生变化并且已经成功发送，等待 repeat_interval 时间间隔之后再重复发送相同的报警邮件； 如果之前的警报没有成功发送，则相当于触发第6条条件，则需要等待 group_interval 时间间隔后重复发送。

    8）同时最后至于警报信息具体发给谁，满足什么样的条件下指定警报接收人，设置不同报警发送频率，这里使用 alertmanager 的 route 路由规则进行配置。

    Prometheus 及 Alertmanager 配置

    （1）创建 alertmanager 配置文件

    1. vim alertmanager-cm.yaml
    2. ---
    3. kind: ConfigMap
    4. apiVersion: v1
    5. metadata:
    6.   name: alertmanager
    7.   namespace: monitor-sa
    8. data:
    9.   alertmanager.yml: |-
    10.     global:                    #设置发件人邮箱信息
    11.       resolve_timeout: 1m
    12.       smtp_smarthost: 'smtp.qq.com:25'
    13.       smtp_from: '124481457@qq.com'
    14.       smtp_auth_username: '124481457@qq.com'
    15.       smtp_auth_password: 'yoevnefvknmqbjia'    #此处为授权码，登录QQ邮箱【设置】->【账户】中的【生成授权码】获取
    16.       smtp_require_tls: false
    17.     route:                        #用于设置告警的分发策略
    18.       group_by: [alertname]         #采用哪个标签来作为分组依据
    19.       group_wait: 10s               #组告警等待时间。也就是告警产生后等待10s，如果有同组告警一起发出
    20.       group_interval: 10s           #上下两组发送告警的间隔时间
    21.       repeat_interval: 10m          #重复发送告警的时间，减少相同邮件的发送频率，默认是1h
    22.       receiver: default-receiver    #定义谁来收告警
    23.     receivers:                    #设置收件人邮箱信息
    24.     - name: 'default-receiver'
    25.       email_configs:
    26.       - to: '960027936@139.com'    #设置收件人邮箱地址
    27.         send_resolved: true
    kubectl apply -f alertmanager-cm.yaml

    （2）创建 prometheus 和告警规则配置文件

    #上传 prometheus-alertmanager-cfg.yaml 文件

    #删除之前的配置，更新配置

    1. kubectl delete -f prometheus-cfg.yaml
    2. kubectl apply -f prometheus-alertmanager-cfg.yaml
    3.  
    4. kubectl get cm -n monitor-sa 
    5. alertmanager        1      2m29s
    6. kube-root-ca.crt    1      14h
    7. prometheus-config   2      29s

    （3）安装 prometheus 和 alertmanager

    #生成一个 secret 资源 etcd-certs，这个在部署 prometheus 需要，用于监控 etcd 相关资源

    kubectl -n monitor-sa create secret generic etcd-certs --from-file=/etc/kubernetes/pki/etcd/server.key  --from-file=/etc/kubernetes/pki/etcd/server.crt --from-file=/etc/kubernetes/pki/etcd/ca.crt

    #更新资源清单 yaml 文件，安装 prometheus 和 alertmanager

    1. vim prometheus-alertmanager-deploy.yaml
    2. ---
    3. apiVersion: apps/v1
    4. kind: Deployment
    5. metadata:
    6.   name: prometheus-server
    7.   namespace: monitor-sa
    8.   labels:
    9.     app: prometheus
    10. spec:
    11.   replicas: 1
    12.   selector:
    13.     matchLabels:
    14.       app: prometheus
    15.       component: server
    16.     #matchExpressions:
    17.     #- {key: app, operator: In, values: [prometheus]}
    18.     #- {key: component, operator: In, values: [server]}
    19.   template:
    20.     metadata:
    21.       labels:
    22.         app: prometheus
    23.         component: server
    24.       annotations:
    25.         prometheus.io/scrape: 'false'
    26.     spec:
    27.       nodeName: node01
    28.       serviceAccountName: monitor
    29.       containers:
    30.       - name: prometheus
    31.         image: prom/prometheus:v2.2.1
    32.         imagePullPolicy: IfNotPresent
    33.         command:
    34.         - "/bin/prometheus"
    35.         args:
    36.         - "--config.file=/etc/prometheus/prometheus.yml"
    37.         - "--storage.tsdb.path=/prometheus"
    38.         - "--storage.tsdb.retention=24h"
    39.         - "--web.enable-lifecycle"
    40.         ports:
    41.         - containerPort: 9090
    42.           protocol: TCP
    43.         volumeMounts:
    44.         - mountPath: /etc/prometheus
    45.           name: prometheus-config
    46.         - mountPath: /prometheus/
    47.           name: prometheus-storage-volume
    48.         - name: k8s-certs
    49.           mountPath: /var/run/secrets/kubernetes.io/k8s-certs/etcd/
    50.         - name: localtime
    51.           mountPath: /etc/localtime
    52.       - name: alertmanager
    53.         image: prom/alertmanager:v0.14.0
    54.         imagePullPolicy: IfNotPresent
    55.         args:
    56.         - "--config.file=/etc/alertmanager/alertmanager.yml"
    57.         - "--log.level=debug"
    58.         ports:
    59.         - containerPort: 9093
    60.           protocol: TCP
    61.           name: alertmanager
    62.         volumeMounts:
    63.         - name: alertmanager-config
    64.           mountPath: /etc/alertmanager
    65.         - name: alertmanager-storage
    66.           mountPath: /alertmanager
    67.         - name: localtime
    68.           mountPath: /etc/localtime
    69.       volumes:
    70.         - name: prometheus-config
    71.           configMap:
    72.             name: prometheus-config
    73.         - name: prometheus-storage-volume
    74.           hostPath:
    75.            path: /data
    76.            type: Directory
    77.         - name: k8s-certs
    78.           secret:
    79.            secretName: etcd-certs
    80.         - name: alertmanager-config
    81.           configMap:
    82.             name: alertmanager
    83.         - name: alertmanager-storage
    84.           hostPath:
    85.            path: /data/alertmanager
    86.            type: DirectoryOrCreate
    87.         - name: localtime
    88.           hostPath:
    89.            path: /usr/share/zoneinfo/Asia/Shanghai
    1. kubectl delete -f prometheus-deploy.yaml
    2. kubectl apply -f prometheus-alertmanager-deploy.yaml
    3.  
    4. kubectl get pods -n monitor-sa | grep prometheus

    （4）部署 alertmanager 的 service，方便在浏览器访问

    1. vim alertmanager-svc.yaml
    2. ---
    3. apiVersion: v1
    4. kind: Service
    5. metadata:
    6.   labels:
    7.     name: prometheus
    8.     kubernetes.io/cluster-service: 'true'
    9.   name: alertmanager
    10.   namespace: monitor-sa
    11. spec:
    12.   ports:
    13.   - name: alertmanager
    14.     nodePort: 30066
    15.     port: 9093
    16.     protocol: TCP
    17.     targetPort: 9093
    18.   selector:
    19.     app: prometheus
    20.   sessionAffinity: None
    21.   type: NodePort
    kubectl apply -f alertmanager-svc.yaml

    #查看 service 在物理机映射的端口

    1. kubectl get svc -n monitor-sa
    2. NAME           TYPE       CLUSTER-IP       EXTERNAL-IP   PORT(S)          AGE
    3. alertmanager   NodePort   10.105.125.219           9093:30066/TCP   38s
    4. prometheus     NodePort   10.107.188.51            9090:31000/TCP   23h

    #此时可以看到 prometheus 的 service 在物理机映射的端口是 31000，alertmanager 的 service 在物理机映射的端口是 30066

    浏览器访问 http://192.168.10.20:30066/#/alerts ，登陆 alertmanager

    查看接收到的邮件报警，可以发现与 alertmanager 显示的告警一致

    浏览器访问 http://192.168.10.20:31000 ，点击页面的 Status->Targets，查看 prometheus 的 targets

    //处理 kube-proxy 监控告警

    1. kubectl edit configmap kube-proxy -n kube-system
    2. ......
    3. metricsBindAddress: "0.0.0.0:10249"
    4. #因为 kube-proxy 默认端口10249是监听在 127.0.0.1 上的，需要改成监听到物理节点上

    10249 kube-proxy的外置监控端口 

    #重新启动 kube-proxy

    1. kubectl get pods -n kube-system | grep kube-proxy |awk '{print $1}' | xargs kubectl delete pods -n kube-system
    2.  
    3. ss  -antulp |grep :10249
    4. tcp    LISTEN     0      128      :::10249                :::*                   users:(("kube-proxy",pid=55675,fd=15))

    #alert 查看

    点击 prometheus 页面的 Alerts，点开一个告警项，FIRING 表示 prometheus 已经将告警发给 alertmanager，在 Alertmanager 中可以看到有一个 alert。登录到 浏览器访问 http://192.168.10.20:30066/#/alerts ，登陆 alertmanager 即可看到。

    简历+话术答案

    什么是迁移，迁移要怎么做?

    你在公司管理多少台机器？
    有多少台win，有多少台linux机器？

    面试问到监控，回答：这边prometheus监控用的少，我主要负责k8s这边

    主要记住一些组件，还有工作流程

  • 相关阅读:
    ELK相关软件下载安装
    IDEA 整合 Tomcat 开发 Javaweb 工程 2022-7-28
    Java 多线程编程
    WinForm的控件二次开发
    MYSQL----innoDB存储引擎
    Flutter高仿微信-第30篇-单聊-文本
    Java集合实例
    进销存软件为批发零售商强化标准企业管理流程
    通过平台生态系统加速业务创新
    用友NCCloud2021.11 专项漏洞补丁列表
  • 原文地址：https://blog.csdn.net/Mo_nor/article/details/139669284