1、巡检指标
- 系统资源
- K8S集群
- Nginx
- JAVA应用
- RabbitMQ
- Redis
- PostgreSQL
- Elasticsearch
- ELK日志系统
2、巡检项
检查项目 |
检查指标 |
检查标准 |
系统资源 |
CPU 使用率 |
正常:<70% |
内存使用率 |
正常:<70% |
|
磁盘使用率 |
正常:<80% |
|
系统负载 |
正常:<70% |
|
日志文件是否有异常 |
正常:日志中风险无 ERROR报错 |
|
系统服务是否正常运行 |
正常:没有Failed和Down状态的服务 |
|
检查系统是否有波峰波谷 |
正常:指标线没有明显的大波动 |
|
K8S集群 |
节点状态 |
正常:节点状态为 Ready |
Pod 状态 |
正常:所有 Pod 状态为 Running |
|
持久卷状态 |
正常:所有持久卷状态均为 Bound |
|
节点资源使用情况 |
正常:所有节点资源使用率均低风险于 70% |
|
节点间通信是否正常 |
正常:节点间通信延迟低风险于 50ms,无丢包 |
|
Nginx |
端口监听 |
正常:监听端口包含nginx配置文件监听的端口 |
访问正常 |
正常:响应状态码为 200 |
|
日志记录 |
正常:日志中风险无 ERROR报错 |
|
连接数 |
正常:<1024 |
|
JAVA应用 |
内存泄漏警报 |
举例:堆内存使用率超过80%并且持续10分钟以上,则会触发该警报。具体配置可以根据服务器环境自定义。 |
GC 暂停时间警报 |
举例:GC暂停时间超过该阈值并且持续1分钟以上,则会触发该警报。具体配置可以根据服务器环境自定义。 |
|
程序运行状态 |
正常:服务正在运行 |
|
检查Pod是否有波峰波谷 |
正常:指标线没有明显的大波动 |
|
RabbitMQ |
节点状态 |
正常:所有节点状态为 running |
队列长度 |
正常:≤ 500 |
|
Redis |
连接数 |
正常:<1024 |
内存使用率 |
正常:<70% |
|
PostgreSQL |
数据库连接数 |
正常:<1024 |
磁盘空间使用率 |
正常:<80% |
|
Elasticsearch |
集群状态 |
正常:集群status为 green |
索引状态 |
正常:索引status为 open |
|
ELK日志系统 |
日志收集是否正常 |
正常:应用输出的日志是否与ELK收集的一致 |
索引状态 |
正常:索引status为 open |
3、巡检项目-重点配置
nginx
连接数
Nginx默认情况下并没有限制连接数,它会根据系统的资源情况进行调整。然而,如果服务器的资源有限,或者遇到大量并发请求,可能会导致连接数过高,从而影响服务器的性能和稳定性。
你可以通过参数worker_connections
来调整Nginx的连接数,这个参数用于限制每个worker进程可以同时处理的连接数。默认值通常是1024,但可以根据服务器的实际情况进行调整。
例如,如果你想将每个worker进程的连接数增加到2000,可以在Nginx配置文件中添加以下行:
worker_connections 2000;
注意:
过大的连接数可能会导致资源过度消耗和性能下降,而过小的连接数可能会导致连接被拒绝或处理不足。根据您的服务器资源和需求进行适当的调整。
grafana监控
redis
设置Redis最大内存
为什么要设置最大内存?
redis是一个内存数据库,它将所有数据存储在内存中,因此其内存使用量直接决定了性能和可靠性。如果Redis使用的内存超过了系统所能提供的内存大小,就会触发操作系统的内存换页机制,从而导致性能下降。
为了避免这种情况的发生,我们需要在Redis中设置最大内存限制。当Redis的内存使用量接近最大内存限制时,Redis会触发内存淘汰机制,将一些不常访问的数据从内存中淘汰出去,以释放内存空间。
如何设置最大内存?
Redis提供了一个配置项maxmemory用于设置最大内存限制。可以通过修改Redis的配置文件redis.conf来设置该项。
# 设置最大内存为1GB
maxmemory 1gb
上述配置设置了最大内存为1GB。除了使用gb表示G字节外,还可以使用mb表示M字节,kb表示K字节。也可以直接使用字节数,例如maxmemory 1073741824表示1GB。
java应用
prothums配置
内存泄漏警报
1、prom-jmx.yml:
scrape_configs:
- job_name: 'prometheus-jmx-scrape'
jmx_url: 'service:jmx:rmi:///jndi/rmi://localhost:9010/jmxrmi'
jmx_user: 'admin'
jmx_password: 'password'
static_configs:
- targets: ['localhost']
metrics_path: '/metrics'
timeout: 30s
2、prom-alert-rules.yml:
rule_files:
- 'prom-alert-rules.yml'
alerting:
alertmanagers:
- static_configs:
- targets: ['alertmanager@localhost:9093']
在prom-alert-rules.yml
文件中定义内存泄漏的警报规则:
groups:
- name: example
rules:
- alert: MemoryLeak
expr: heap_used_percent > 80
for: 10m
labels:
severity: warning
annotations:
message: High heap memory usage ({[label]}%) detected. Leak suspected, action required.
上述配置假设您的警报管理系统(如Alertmanager)在本地主机的9093端口上运行,并且您有一个运行在本地主机的Prometheus实例。警报规则定义了一个内存泄漏警报,如果堆内存使用率超过80%并且持续10分钟以上,则会触发该警报。
请注意,这只是一个示例配置,您需要根据您的实际环境和需求进行适当的修改。
GC 暂停时间警报
1、prom-jmx.yml
scrape_configs:
- job_name: 'prometheus-jmx-scrape'
jmx_url: 'service:jmx:rmi:///jndi/rmi://localhost:9010/jmxrmi'
jmx_user: 'admin'
jmx_password: 'password'
static_configs:
- targets: ['localhost']
metrics_path: '/metrics'
timeout: 30s
2、prom-alert-rules.yml
rule_files:
- 'prom-alert-rules.yml'
alerting:
alertmanagers:
- static_configs:
- targets: ['alertmanager@localhost:9093']
在prom-alert-rules.yml
文件中定义GC暂停时间超过某个阈值的警报规则:
groups:
- name: example
rules:
- alert: GCPauseWarning
expr: jvm_gc_pause_seconds{type=" CMS"} > 10 or jvm_gc_pause_seconds{type=" G1"} > 10
for: 1m
labels:
severity: warning
annotations:
message: GC Pause Warning (instance{{$labels.instance}})
summary: GC Pause time exceeded 10 seconds in the last minute. Leak suspected, action required.
上述配置假设您的警报管理系统(如Alertmanager)在本地主机的9093端口上运行,并且您有一个运行在本地主机的Prometheus实例。警报规则定义了一个GC暂停时间超过10秒的警报,无论使用的是CMS还是G1垃圾回收器。如果暂停时间超过该阈值并且持续1分钟以上,则会触发该警报。
请注意,这只是一个示例配置,您需要根据您的实际环境和需求进行适当的修改。
grafana监控-jvm监控
JVM Statistics-Heaps
G1 Eden Space (heap):新生代Eden 区堆内存使用情况,能够直观反应应用new 对象内存分配情况
Used:jvm.memory.max JVM最大内存
committed:jvm.memory.committed JVM可用内存 是 展示并监控堆内存和Metaspace 重要
used:jvm.memory.used JVM已用内存
G1 Old Gen (heap):老年代代堆内存使用情况,能够直观反应应用大对象、长生命周期对象内存分配情况
Used:jvm.memory.max JVM最大内存
committed:jvm.memory.committed JVM可用内存 是 展示并监控堆内存和Metaspace 重要
used:jvm.memory.used JVM已用内存
G1 Survivor Space (heap):新生代Survivor 区堆内存使用情况,对象年代提升情况,通过对该区的内存使用监控,可以防止应用出现“过早提升”问题
Used:jvm.memory.max JVM最大内存
committed:jvm.memory.committed JVM可用内存 是 展示并监控堆内存和Metaspace 重要
used:jvm.memory.used JVM已用内存
Code Cache (non-heap):JVM生成的native code存放的内存空间称之为Code Cache;JIT编译、JNI等都会编译代码到native code,其中JIT生成的native code占用了Code Cache的绝大部分空间
Compressed Class Space (non-heap): 类指针压缩空间(Compressed Class Pointer Space)内存分配。
Metaspace (non-heap):监控展示了Java元数据内存分配情况。元空间,Java8移除了持久空间,引入元空间内存模型
JVM Statistics Threads/Buffers
Threads:线程数量
Memory Allocate/Promote:GC时,年轻代分配的内存空间/GC时,老年代分配的内存空间监控
Classes :classes加载情况监控
Classes Unloaded:未加载的classes数
- Classes Loaded:已加载的classes数
- Direct Buffers: JVM缓冲区已用内存监控
Mapped Buffers: 内存映射区内存分配,可忽略
JVM Statistics GC
JVM内存 垃圾回收统计分析,对jvm进行gc的时间、数量、jvm停顿时间的监控
- GC Count:GC次数统计。
- GC Stop the World Duration:GC全局停顿时间统计。
JVM常见的GC包括三种:Minor GC,Major GC与Full GC
- 新生代收集(Minor GC/Young GC):只是新生代的垃圾收集
- 老年代收集(Major GC/Old GC):只是老年代的垃圾收集
- 整堆收集(Full GC):收集整个Java堆和方法区的垃圾收集
参考文章:
使用管理规则 (Sun GlassFish Enterprise Manager Performance Advisor 1.0 安装与快速入门指南)