应用日志管理采用准实时数据仓库技术,除了全文搜索外,还可业务指标抽取监控。有什么成熟的经验或建议吗?

日志内容的复杂多样,比平常数据更难分析,通常的准实时数据仓库技术好好不高效,存在些不足。

参与13

3同行回答

gengyanggengyang数据仓库工程师民生银行
因为日志格式的不统一造成分析难度较大,需要针对每种格式硬编码实现加工逻辑。可以从日志规范上着手简化加工,给源系统指定日志打印规范,然后一次开发针对不同系统的关注指标进行差异化配置实现多次服用。...显示全部

因为日志格式的不统一造成分析难度较大,需要针对每种格式硬编码实现加工逻辑。可以从日志规范上着手简化加工,给源系统指定日志打印规范,然后一次开发针对不同系统的关注指标进行差异化配置实现多次服用。

收起
银行 · 2019-09-04
浏览2314
  • 规范化的日志肯定是最理想的,但是实践中很难做到,尤其是规划弱外包公司众多的中小银行。针对不规范的日志的管理如全文搜索肯定存在一些好的解决方案,譬如kafka、elasticsearch 等技术。
    2019-09-04
  • gengyang  gengyang回复 mornsky
    日志不规范用es检索也只能模糊匹配,响应时间就不好说了。所以看你的需求,如果仅仅用于日志拍错,那es帮你处理了(就是模糊匹配),如果你需要精确也需要规范化
    2019-09-04
liukangliukang系统分析师日志易
应用日志使用全文搜索引擎在分析问题的时候还是比较重要的,因为:1. 可以加速查询,无需登录每台主机2. 可以将各个应用模块进行串联分析3.  将应用的整体趋势与各个相关联的并非此应用的内容进行结合查看,可以分析出性能问题如果要做全文搜索引擎,建议要考虑一下我们的目标...显示全部

应用日志使用全文搜索引擎在分析问题的时候还是比较重要的,因为:
1. 可以加速查询,无需登录每台主机
2. 可以将各个应用模块进行串联分析
3.  将应用的整体趋势与各个相关联的并非此应用的内容进行结合查看,可以分析出性能问题

如果要做全文搜索引擎,建议要考虑一下我们的目标。假如是我们上面是主要目标,则:
1. 需要接入应用的全部日志
2. 需要有串联id
3. 日志输出一定要规范化。最常见的  时间、级别、串联ID、事件类型、事件描述、必须要全部按照一定格式输出。
4. 在接入的时候使用事件合并(如果有这个功能,可以大大减少日志规范化工作量)

在日常使用中,经常出现的问题是 日志打印不规范,输出内容多而无用。如果出现这个问题,且很难更改,那么问题重点不再是选用何种搜索引擎,而是如何将日志规范化,因为无论何种引擎,如果需要精益分析,数据准确、可靠、可追溯是必须的要求。

收起
互联网服务 · 2019-09-07
浏览1990
王奇王奇项目经理阜新银行
可以去学习一下ELK 这个可以完美的解决你现在的问题显示全部

可以去学习一下ELK 这个可以完美的解决你现在的问题

收起
银行 · 2019-09-05
浏览2000

提问者

mornsky
研发工程师某银行

问题来自

相关问题

相关资料

相关文章

问题状态

  • 发布时间:2019-09-04
  • 关注会员:4 人
  • 问题浏览:4286
  • 最近回答:2019-09-07
  • X社区推广