从本篇内容你能得到:
1. Zabbix是什么、能做到什么
2. Zabbix组件详解、架构和处理工作流程
3. Zabbix各监控项类型的采集实现(SNMP、ICMP、Ping、简单检查等)
4. Zabbix 模板组成结构与实现
5. Zabbix Agent源码结构与实现分析
6. Zabbix 自动发现逻辑的源码结构与实现详解
全栈监控是什么?
监控一切需要监控的东西,只要能够想到,能够用命令实现的都能用来监控。
基础层:主要偏硬件,监控主机和底层资源。比如cpu、 内存、网络吞吐、硬盘I/O、硬盘使用等
中间层:包括nginx、Redis、MQ、MySQL、 Tomcat等
应用层: HTTP访问的吞吐量、响应时间、 返回码、调用链路分析、性能瓶颈, 还包括用户端的监控等
日志:syslog、nginx log、mysql log等
为什么使用Zabbix?
目前开源的解决方案中,Zabbix和Prometheus是使用较多的两个方案,这两个方案的区别和优势是什么?
对于偏传统的行业,云环境较少的场景下,是比较适合于Zabbix的使用,当然Prometheus是未来发展的方向。
Zabbix是什么?
Zabbix源码主要组成:
frontends:php,主要负责前端的业务操作
Zabbix agent:采集数据
Zabbx server:同步配置,处理数据,分析告警等。
Zabbix处理流程:
主要由四部分组成:
Portal-DB-Server-Agent
详细的工作流程如下:
详细流程可查看下图:
Zabbix是怎么做的?
Zabbix Process
- 当添加(自动发现)一个 host,并且为 host 添加对应的模板的时候,Portal 会解析出来对应的 item, preprocess,trigger 然后放在对应的 Db 表里面。
- Server 的 dbconfig\_thread 会从 Db 拿到对应的数据放在共享内存中,然后poller\_thread 进程读取到对应的 items,开启与 Agent 建立连接,遍历 items 从 Agent(snmp,简单检查 等) 获取到对应的指标数据
- 然后将 指标数据给 preprocessing\_manager\_thread 进程,preprocessing\_manager\_thread 进程会安排对应的preprocessing_worker 进程对数据进行 preprocess
- 最后由 dbsyncer_thread 进程将数据放入 Db 中,Portal 界面从 Db 拿到对应的数据信息绘制和显示
- dbsyncer\_thread 同步数据到DB,遍历数据 并计算 expression 表达式计算指标,最后触发 escalator\_thread 和 alerter_thread 做出相应的动作。
- 对于可监控指标,Agent 自带多种可监控指标 cmd,Agent 只能监控内置的监控指标,可以通过插件拓展 可监控指标。
Zabbix Server
- dbconfig_thread: 配置同步到共享内存,保证所有进程都可读
- poller_thread: 主动监控,解析 items 调用 Agent
- *trapper_thread: 收集 Agent 上报上来的数据
- pinger_thread: 定期 ping 所有监控主机,简单检查 ICMP
- *alerter_thread: 告警消息处理进程从 IPC 读出需要发动的消息,发出告警
- housekeeper_thread: 管家进程,过期数据清理
- discoverer_thread: 主机、服务的自动发现
- escalator_thread: 根据触发器的值判断是否告警,具体执行什么动作
- dbsyncer_thread:同步数据到 db,并计算触发器值也同步到db
- selfmon_thread: 自监控
- preprocessing\_worker\_thread: 数据预处理进程,数据从 poller 和 trapper 进程过来
Zabbix Agent
- collector_thread 周期采集基础信息,主要是内存和 CPU,储存于共享内存中
- listener_thread 用于接收 server 或者 proxy 分配的的采集任务,被动采采集
- active\_checks\_thread 主动采集上报
指标类型
按进程(处理方式)划分指标类型
Poller 进程(被动)
- 1. snmp|SNMP代理检查
- simple_checks|简单检查(应用层状态检查)
- calculated|计算监控项
- internal|Zabbix内部检查
- ssh_checks|SSH检查
- telnet_checks|Telnet检查
- external|外部检查
- aggregate|汇总检查
- odbc_checks|ODBC监控
httppoller 进程(被动)
- http|HTTP 检查
ipmi\_poller\_thread 进程(被动)
- ipmi|IPMI检查
icmp pinger 进程(被动)
- simple_checks|简单检查(icmp 检查)
trapper 进程(主动)
- trapper|捕捉器监控项
- log_items|日志文件监控
- snmptrap|SNMP traps
preprocess 进程(Follow me)
- dependent_items|相关项目(从属监控项)
按客户端依赖划分指标类型
无依赖
- snmp|SNMP代理检查
- ipmi|IPMI检查
- simple_checks|简单检查
- external|外部检查
- odbc_checks|ODBC监控
依赖其他监控项
- calculated|计算监控项
- aggregate|汇总检查
依赖第三方
- zabbix_agent|Zabbix代理检查 (Agent)
- snmptrap|SNMP traps (snmptrap)
- log_items|日志文件监控 (Agent)
- ssh_checks|SSH检查 (ssh 秘钥或密码)
- telnet_checks|Telnet检查 (Telnet Server和 Telnet 密码)
- trapper|捕捉器监控项 (Zabbix Sender)
- http|HTTP 检查 (http 接口)
IDEA
被动监控对 Zabbix Server 来说会有大的压力
从监控类型来看,Zabbix 更多的是被动监控,主动监控只有 Agent Active、SnmpTrap,Sender,但是由于 Zabbix Agent 的强大,很多场景下主动监控的指标覆盖度完全能跟被动监控硬怼。
所以要根据具体监控场景,主动和被动互相搭配,耗时的指标更加倾向于主动监控。
Zabbix监控项类型梳理
附件:
请您添加:xiaoyuerwise,备注“附件”获取,或从本文底部扫码获取。
Zabbix的自动发现
自动发现是伴随着指标监控来的,当发现能有采集到预设的指标时,这台主机就会被标记为可用,然后触发预设的Action,通知或者自动添加监控模板等。
自动发现分类
- 简单检查类
- Agent 类型
- snmp 类型
- ICMP (ping) 类型
自动发现流程
- 配置 IP 段
- 配置自动发现指标
- 配置发现动作 Action
- 发现主机后添加 event
- escalator_thread 进程处理对应的 event
Zabbix的模板结构
模板结构
从属指标
计算指标
Agent源码
附件:
请您添加:xiaoyuerwise,备注“附件”获取,或从本文底部扫码获取。
写在最后
近年来,在AIOps领域极速发展的背景下,IT工具、平台能力、解决方案、AI场景及可用数据集的迫切需求在各行业迸发。基于此,云智慧在2021年8月发布了AIOps社区,旨在树起一面开源旗帜,为各行业客户、用户、研究者和开发者们构建活跃的用户及开发者社区,共同贡献及解决行业难题、促进该领域技术发展。
成立近半年,社区先后开源了数据可视化编排平台-FlyFish、运维管理平台OMP、云服务管理平台-摩尔平台、Hours算法等产品。其中FlyFish斩获中国开源云联盟2021优秀开源项目奖。OMP运维管理平台入选2021 年度 OSC 中国开源项目「最受欢迎项目」榜单。并在业内首次开源了智能运维开源数据集-GAIA数据集,填补了AIOps开源集数据领域的空白。
2021年11月,云智慧正式成为中国开源云联盟成员单位,2022年1月,云智慧入选SegmentFault 思否「2021 中国技术品牌影响力企业榜单」,这一切都代表着开发者和社区对我们的认可,这也更加坚定了云智慧开源战略的决心。
如果您对云智慧AIOps感兴趣,可以通过下方链接了解我们,也可以添加小助手微信,申请加入开发者交流群,可与大咖进行1V1交流!
云智慧AIOps社区:https://www.cloudwise.ai/
Github地址: https://github.com/CloudWise-OpenSource/FlyFish
Gitee地址: https://gitee.com/CloudWise/fly-fish