Zabbix_小Z
作者Zabbix_小Z2021-02-10 12:03
Zabbix大中华区培训师, 上海宏时数据系统有限公司

案例|光大银行如何解决传统监控痛点,打造一体化监控平台?

字数 5322阅读 1796评论 3赞 4

“光大银行为了解决传统监控管理的痛点,从监控平台的建设和全站监控能力,大屏可视化展现和智能监控分析这四点出发,打造了新一代的一体化的统一监控管理平台。”
——马文杰, 中国光大银行总行信息科技部 高级项目经理

本文整理自马文杰在2020Zabbix中国峰会的演讲,ppt网盘链接:https://pan.baidu.com/s/1Q4QttDD_4OCf1J978NFF5A 密码:nbac。更多演讲视频可关注官方Bilibili账号主页(ID:Zabbix中国)。

一 开源监控探索历程

我将从开源监控探索历程、经验分享及对未来监控的展望三部分展开分享。光大银行是中国光大集团的子公司,是全国性的股份制商业银行,目前在内地有39家一级分行和五六十家的二级分行,以及4家的海外分行。

经验分享部分预告(敲黑板~)

  • 高可用
  • 监控大数据的应用
  • 自服务和自动发现
  • Dbforbix改造
  • 加密
  • 标签和宏变量的使用
  • 告警传输的模块EPP
  • 多条件的告警触发器的配置
  • 性能优化
  • 十点使用小技巧(把坑踩平后的总结)

01- 传统的监控管理痛点

传统的监控管理有哪些痛点呢?主要总结为以下四点:

  1. 开源软件缺乏监控,金融行业目前一直是在推进我们的自主可控和国产化,就光大银行而言,近两年来在开源的软件就像redis、MySQL或者是国产软件,例如中标麒麟的操作系统,或者是国产中间件BS,这些软件都已经在行内的占比是越来越多的。但是这些开源的软件和国产的软件,目前还是缺乏有效的一个监控手段和系统化的监控标准。
  2. 商业监控软件有一些费用的,就说我们以前一直都是使用的像是IBM的Tivoli,或者是惠普的Openview监控软件,我们每年需要去购买它的license,还有每年需要去交维保费用,同时国外的这种商业软件的话,在银行使用也会存在一些的信息的安全隐患的问题。
  3. 我们对新技术的支持性比较差。随着银行业的数字化转型,像一些区块链、分布式、大数据等新技术的迅猛发展,现有的监控手段是没有办法满足新兴技术的监控需要。
  4. 缺乏一个自动化和智能化的手段。大多数的一个商业监控软件,就像我们的Tivoli这些软件,它封装是比较厚重的,智能化程度会比较低,自动化部署的成本会比较高,同时会去消耗大量的人工成本,这几点是我们的痛点。

02- 如何解决痛点?

那我们怎么去解决痛点?光大银行的科技部信息数据中心提出了四化建设,分别是敏捷化、数字化、服务化和智能化。

  1. 敏捷化是会利用监控的规范的标准化,实现监控管理和监控的自动发现,实现监控管理的敏捷化。
  2. 数字化的话是利用数字化的指标去量化监控评价结果,去自动查缺补漏,提升监控覆盖率和主动发现率,数字化的去度量业务影响。
  3. 服务化,去深耕继续深耕监控自服务的功能,支持用户通过ITSM的系统变更工单去按时按需的自助的去维护我们的监控策略。
  4. 智能化,通过大数据技术能够使用多指标定位算法,提高根因分析能力和动态机械的准确性。

03 - 建设平台设计思路

光大银行为了解决传统监控管理的痛点,光大银行从监控平台的建设和全站监控能力,大屏可视化展现和智能监控分析这四点出发,打造了新一代的一体化的统一监控管理平台。

  1. 新平台提供统一的接口,就把现有的像ITM、Nagios、OVO、 Zabbix统一的接入到监控管理平台中,进行集中化的管理。
  2. 具备统一的指标体系和对标手段,对接入的监控数据进行统一的标准化的管理。全站监控能力是指监控模板具有开箱即用的功能,并且具备良好的可扩展性,全面支持各类厂商各类型号的一个服务器路由器等资源的监控。
  3. 大屏可视化展现,总体的运行态势感知,面向高层和外部参观者提供全面的运维总览,并且重点保障面向重点,面向重大故障或者重点保障任务的时候,提供实施状态的展示。
  4. 智能分析,智能监控分析,根据大数据技术,对提高更新分析能力和动态机械或者是报警关联的分析的能力。

04- 统一监控体系建设过程

光大银行是从2005年开始逐步去配置监控手段,到2018年新的监控平台进行投产运行。新的监控平台是以Zabbix为底层的采集工具,并且逐步替换现有的像IBM的ITM,或者是OVO等传统的监控工具,形成了基于Zabbix的监控标准化管理,自动化管理、可视化管理和智能化管理,不断提高运维管理的全面控制能力。并且2019年也完成了科技运营数据平台,即大数据平台的拓展运行,以产学研的方式落地AIOPS,引入多种算法分析,实时处理8大类运维数据。

05- Zabbix作为广大银行的重要监控手段

光大银行把Zabbix作为我们的重要的监控手段,在选型的时候已经对比了从基础监控能力、可扩展性和社区资源等多个方面去对比了Zabbix和其他的几款开源软件。

我们认为Zabbix是一款支持多平台的企业级分布式开源监控软件,并且它可以支持多种的复杂条件的多条件告警,并且它提供多种的API的接口,支持二次开发,并且它还具有非常好用的一个自动发现和低级别发现的这样一个功能,有丰富的社区资源,所以完全满足光大银行对开源监控的需要。

在这里插入图片描述

在这里插入图片描述

06- Zabbix在光大银行的作用

Zabbix在光大银行的开源监控体系中的一个作用是什么呢?主要分为以下几点。

  1. 对开源软件的一个监控,包括像redis、nginx、apache等多款开源软件的一个监控覆盖。
  2. 替换现有的商业的监控软件,包括IBM的Tivoli和惠普的OVO等这些软件。
  3. 大数据组建的一个监控,包括像现在的Kafka、Spark、ES等这些大数据的相关组建的一个监控覆盖。
  4. 开发测试环境的监控,把我们开发测试1万多台的设备也纳入到了Zabbix的标准监控里面,为我们的非功能测试提供一个数据的基础。第五是对作为总行及所有分行的监控的重要的手段。

在这里插入图片描述

在这里插入图片描述

二 实践经验分享

01- 高可用

采用了大家比较标配的一个keepalived方式,去实现我们的Server的高可用。Mysql是采用互为主从的关系,即双主模式,通过binarylog的双向同步,在任意一台的Mysql写入都会同步到备库。keepalived是用来监控关键服务的进程和Mysql的进程,检测到故障的话,就会自动切换到备机,就实现这种自动切换,无需手工操作,监控无终端的模式。

02- 监控大数据的应用

zabbix server是从zabbix agent采集监控数据,性能数据入库ZabbixDB,通过flume软件定时去获取监控对象的监控数据,并把它推送到Kafka、大数据平台。其他的像容量监控其他这种系统就会通过大数据平台去消费Kafka的监控性能数据,并且进行一些趋势预测,根因分析、阈值修正、容量分析等各种的大数据分析的功能。

03- 自服务和自动发现

跟其他的可能有点不太一样,自动发现模块是在Zabbix原生的自动发现的模块基础上进行了一定的扩展。原生的模块能够发现指定网络的主机,并且能够发现该主机里面的深度标准化的数据库或者中间件的软件,就例如像Mysql,Oracle,Redis,tuxedo等,前提要做的是深度的标准化,才能去发现这些这些模块这些软件,发现的新主机、新实例,通过自服务的模块去上送到统一监控管理平台。自服务模块是面向用户的可交互的页面,用户会去通过页面去补充监控凭证,就例如像密码之类的数据,通过下发监控策略,更新监控状态,达到监控主机和实力的自助式的监控。

04-Dbforbix改造

Dbforbix是 Zabbix集成的数据库的插件,它支持Oracle、Mysql、Postgresql、DB2等多种数据的采集。取用bdforbix是因为之前发现原生的Zabbix Odbc这种方式监控是存在一些问题的,所以去启用了这样一个插件,并且会在这样一个插件上面去做一些机制优化,功能优化和功能上的扩展,优化了Dbforbix的任务调度的定时机制,并且增加了简单检查类型的监控指标项目的支持。还把原来需要在后台修改配置文件、重启服务才能生效的监控模式,修改为只需要在页面端去配置就立即生效的功能优化,最后还支持了一些指标频率采集的实时修改。

05- 加密

下面再分享一些比较重要的也是比较容易忽视的一些功能。加密其实对于银行业来说是一个非常重要的功能,因为像银行业的话,每年都会有审计过来去审查,因为监控系统是连接到银行业各个业务系统的,如果密码是明文化的,或者是通信是不加密的,都会被审计的审查的,都会有产生一些问题。

所以这边的话通信的话,是采用Zabbix的原生的 PSK进行的被监控主机,agent的和server之间的通信加密。因为当时用的是4.0版本,还没有像5.0现在就有这种自带的原生的加密的方式,所以采用的是基于Linux系统自带的一个base64对宏变量中明文密码进行加密,进行采集的时候再去在底层进行一个解密的操作。

06- 标签和宏变量的使用

通过标签使用,是丰富上层的监控平台提供一个告警字段。因为监控系统的监控类型是分为三大类的,包括大类、中类和子类。举个例子,假如说数据库是大类,Mysql是中类,表空间是子类,通过这种类型的划分做到为告警人员和提供特别准确的告警通知。通过宏变量使用是为监控数据采集提供必要的一些信息凭证。

07- 告警传输的模块EPP

这是自研的一个模块,我们是 EPP模块从通过Zabbix的自带的API去提取读取告警数据,对数据进行一些规则解析,丰富处理和微容器处理,并把它打入到内存型数据库里去。最后处理后的告警数据进入到统一告警平台进行展示和告警。

08 - 多条件的告警触发器的配置

配置前提需要深度的标准化。以Redis数据库为例,不同版本不同模式,假如说无论是主机备机还是哨兵还是集群,各种模式,我都把这些条件作为一个单独的item做处理,在每一条告警触发器中都加入以上的判断条件,就会实现一个监控模板的统一。假如说在不知道这台 ready服务器是主机还是备机,还是哨兵,只是需要去把模板关联上,它会自动读取版本信息,会去使对应的策略去生效。这样做的好处对于日后自动化监控部署的实现,我们一直认为自动化的前提标准化,只有把标准化做好之后,才能去实现自动化监控,以至于后来的智能化监控。

09- 性能优化

主要也是分为五大类,第一是清除无效指标,包括一些不可达不支持的指标,这些指标的话会增加性能消耗,造成恶劣的堵塞。第二是部署的优化,也是包括一些使用模式,Zabbix agent的使用主流模式或者是mysql的调优,一些参数的调优。第三是资源配置优化,数据库要尽量使用物理机,使用proxy分布式的架构,在性能上带来一些优化。第四应用优化,采集频率不要过高,避免去使用像可计算的这种类型的指标项,推荐会比较使用dependent item依赖指标,并且减少明细数据的存储,增加区数据的存储。最后是源码优化,会使用加固后的dbforbix这样的插件。

10- 使用小技巧

  1. 选择适当的监控模式,包括使用policy,还包括agent的选择是选用主动的还是被动的。
  2. 平台优化,包括模板数据库和参数各个方面的优化。
  3. 数据汇总分析,要去使用像图表或趋势拓扑这种数据汇总分析的一个功能。
  4. 监控规范的标准化,包括主机指标告警。
  5. 活用自定义监控,包括非常好用的低级别发现功能。
  6. 充分利用扩展功能,像比较容易忽视的像资产标签加密和远程命令这些内容。
  7. 平台自监控,打铁还是自身硬。
  8. 时间同步,你的APP时间同步没做到位的话,你采集的数据的时间和你的性能数据的时间都是错误的,这样就会造成一个错误的告警。
  9. 数据备份。
  10. 做好清理策略,包括数据清理,迁移和脚本。

在这里插入图片描述

在这里插入图片描述

三 对未来监控的展望

01- 数字化运营的转变

最后一部分是对未来监控的展望。总体来说我们认为是向数字化运营态的转变,包括提升动态,提升洞察力和智能分析能力,主要也是分为以下四点。

  1. 监控思维的转变,数字化思维需要运维人员建立数据意识,以业务价值为导向,数据服务为目标,实现监控数字化转型。
  2. 监控智能化,依赖于大数据的技术,通过海量数据和机器算法实现告警的更新分析,动态机械自动预测等智能化场景的监控应用。
  3. 技术创新,保持技术创新能力,更多的新技术新架构的使用,帮助我们更方便更高效的应对数字化转型中遇到的各种问题。
  4. 监控管理和服务,强化监控标准化的管控能力,以监控标准化作为基准,进一步优化自服务自助式的运维监控模式,提升监控服务的覆盖度。

在这里插入图片描述

在这里插入图片描述

02- 对Zabbix的展望

对于金融行业来说,稳定和安全是最主要的一个要素。

  • 稳定,主要是包括自身的稳定性和对海量数据的处理能力,不能说我系统总是当机或者总是取不到监控数据,这样是不行的。还有面临大量的海量数据,过来之后,直接就产生了巨大的延迟,这样也是不能被允许的。
  • 安全,体现在数据通信和密码显示等各个方面。
  • 全面,能够支撑各种的新技术新架构的监控能力。
  • 智能化体现在自动化的处理能力、智能化告警等各个方面。

我今天的分享就到这里,谢谢大家。ppt网盘链接:https://pan.baidu.com/s/1Q4QttDD_4OCf1J978NFF5A 密码:nbac。

在这里插入图片描述

在这里插入图片描述

如果觉得我的文章对您有用,请点赞。您的支持将鼓励我继续创作!

4

添加新评论3 条评论

kindlekindleIT顾问, 中石化石油工程有限公司
2021-09-29 09:11
很有值得学习的地方
tbartomutbartomu软件架构设计师, vipay
2021-09-24 08:16
讲得很详细
wellyoungwellyoungit技术咨询顾问, DTT
2021-02-23 15:15
讲得很细致

Zabbix_小Z@wellyoung 开心~ 欢迎关注:Zabbix 开源社区。

2021-03-11 09:53
Ctrl+Enter 发表

作者其他文章

相关文章

相关问题

相关资料

X社区推广