如果券商生产系统的数据是实时同步给大数据库平台的,采用的什么架构和技术? 例如湖仓一体?

如果券商生产系统的数据是实时同步给大数据库平台的,
1、生产系统各种类型数据库采用的什么技术实现同步的?=
2、数据汇集是采用类似KAFKA的流技术保存的么?
3、现在业务对实时性要求越来越高,该方案在湖仓一体方面 有何布局?

参与11

3同行回答

zhanxuechaozhanxuechao咨询专家数字研究院
有如下几个方案吧:首推FlinkCDC其次就是比较典型的:mysql的binlog -> Canal -> Kafka -> Flink/Spark -> Hive/KuduOracle的redolog -> Ogg -> Kafka -> Flink/Spark -> Hive/Kudu显示全部

有如下几个方案吧:
首推FlinkCDC
其次就是比较典型的:
mysql的binlog -> Canal -> Kafka -> Flink/Spark -> Hive/Kudu
Oracle的redolog -> Ogg -> Kafka -> Flink/Spark -> Hive/Kudu

收起
IT咨询服务 · 2021-12-09
浏览1142
chaohuichaohui院长天好
hudi 在实时计算、流批分析等架构集成上做的很好。虽然目前还未到1.0版本,可以关注。显示全部

hudi 在实时计算、流批分析等架构集成上做的很好。虽然目前还未到1.0版本,可以关注。

收起
软件开发 · 2021-12-09
浏览1034
guoxilinguoxilin高级非功能测试专家某科技公司
比如可以实时数据通过Debezium从业务系统采集,由kafka进行实时存储消费、并经过flink等实时集群计算后,存储在Hbase、clickHouse等高性能平台。对于批量数据,将通过Sqoop实时从数据仓库或各应用平台,批量同步到数据中台。...显示全部

比如可以实时数据通过Debezium从业务系统采集,由kafka进行实时存储消费、并经过flink等实时集群计算后,存储在Hbase、clickHouse等高性能平台。对于批量数据,将通过Sqoop实时从数据仓库或各应用平台,批量同步到数据中台。

收起
互联网服务 · 2022-03-13
浏览742

问题来自

相关问题

相关资料

相关文章

问题状态

  • 发布时间:2021-12-07
  • 关注会员:4 人
  • 问题浏览:2044
  • 最近回答:2022-03-13
  • X社区推广