银行交易监控实时分析数据库如何选型?

我们在做银行的交易监控实时分析,需要做数据库选型,大致的情况:每日1亿条交易数据,每秒平均4000笔交易,交易大概有50个属性字段,数据保存半年时间数据分析我们用了很多缓存、异步队列等技术,但对于数据的持久化保存,考虑用hbase、oracle rac、db2 purescale, hbase在海量数据存储...显示全部

我们在做银行的交易监控实时分析,需要做数据库选型,大致的情况:

每日1亿条交易数据,每秒平均4000笔交易,交易大概有50个属性字段,数据保存半年时间

数据分析我们用了很多缓存、异步队列等技术,但对于数据的持久化保存,考虑用hbase、oracle rac、db2 purescale, hbase在海量数据存储方面表现优秀,但多维数据关联查询就很难办了。

1、银行交易监控实时分析数据库如何选型?

2、不知道有没有用DB2 集群实现过海量数据(百亿记录级)的存取,应用效果服务,有没有需要注意的地方?

收起
参与68

查看其它 15 个回答美国队长的回答

美国队长美国队长研发工程师Alibaba

提到交易表50个属性字段,如果使用hbase进行存储查询,那么根据hbase的特性key/value存储形式以及底层存储key的有序性,在设计key上是否可以对经常进行需要关联的字段拼接成一个key,这样既保证查询速度,又保证sql的简便。如果上述路数行不通,那可以考虑使用hive,hive中数据的优化处理还是有很多方法的,尤其数据关联方面。最后提到表的建模优化,交易表50个属性字段,这些字段能否进行拆开成两张表,具体还得看这些字段在实际中数据的冗余度。

互联网服务 · 2015-10-27
浏览1727

回答者

美国队长
研发工程师Alibaba
擅长领域: 大数据大数据平台数据库

美国队长 最近回答过的问题

回答状态

  • 发布时间:2015-10-27
  • 关注会员:15 人
  • 回答浏览:1727
  • X社区推广