实时数据仓库与传统数据仓库的融合:实时数据仓库与历史数据仓库是否考虑统一建模还是分开建模?

实时数据仓库与传统数据仓库的融合:
1)实时数据仓库与历史数据仓库是否考虑统一建模还是分开建模?
2)实时数据仓库的实时数据与历史数据仓库的历史数据是统一存储还是分开存储?

8回答

王奇王奇  项目经理 , 阜新银行
zhuhaiqiangzxl1982luo1881065等赞同了此回答
所谓的实时数仓,最主要的就是当天的数据,银行最重要的是当天的流水。所以更多的需求都应该是银行的流水数据产生的。时时的数据量很少。只有当天或几天的数据(保存几天的数据可以增加容错的机制),各个理解时时数仓关注的应该是指标。而非各种各样的数据。模型也应该是轻量级的...显示全部

所谓的实时数仓,最主要的就是当天的数据,银行最重要的是当天的流水。所以更多的需求都应该是银行的流水数据产生的。时时的数据量很少。只有当天或几天的数据(保存几天的数据可以增加容错的机制),各个理解时时数仓关注的应该是指标。而非各种各样的数据。模型也应该是轻量级的。而非传统的数仓是非常沉重而沉淀的数据

收起
 2019-08-30
浏览760
gengyanggengyang  数据仓库工程师 , 民生银行
zhuhaiqiang长诗佐酒赞同了此回答
1,关于建模 首先传统数仓的建模已经很成熟,而实时数仓才刚刚起步处于探索阶段,如果盲目效仿传统数仓,可能会因为复杂度过高而阻碍探索的步伐。我个人认为实时数仓的建模应该根据实际应用场景尽量简化,在实际应用的探索过程中逐步完善并形成标准。 2,关于存储 这个就更没必要统...显示全部

1,关于建模

首先传统数仓的建模已经很成熟,而实时数仓才刚刚起步处于探索阶段,如果盲目效仿传统数仓,可能会因为复杂度过高而阻碍探索的步伐。我个人认为实时数仓的建模应该根据实际应用场景尽量简化,在实际应用的探索过程中逐步完善并形成标准。

2,关于存储

这个就更没必要统一了,传统数仓接入的数据基本都是格式化数据,而实时数据有日志有报文有格式化数据形式不一,如果有必要两者完全可以在服务层合并,而不是在仓库层。

收起
 2019-09-04
浏览476
周光明周光明  软件架构设计师 , People's Bank of China
zhuhaiqiang长诗佐酒赞同了此回答
1)无论实时数据仓库还是历史数据仓库,感觉建立模型是非常关键的,以模型为中心,以模型为驱动。数据分析本质上还是模型+算法。2)实时数据仓库与历史数据仓库,在数据采集技术和数据传播技术等技术实现会有较大差别,但是模型上应该统一、融合的。3)实时数据与历史数据,最好考虑统一规...显示全部

1)无论实时数据仓库还是历史数据仓库,感觉建立模型是非常关键的,以模型为中心,以模型
为驱动。数据分析本质上还是模型+算法。
2)实时数据仓库与历史数据仓库,在数据采集技术和数据传播技术等技术实现会有较大差别,但是模型上应该统一、融合的。
3)实时数据与历史数据,最好考虑统一规划、统一存储,方便以后各种粒度数据的分析利用。

收起
 2019-09-03
浏览516
jamieejamiee  数据库架构师 , 某股份制银行
zhuhaiqiangeaglewei赞同了此回答
1)实时数据更加强调数据采集、数据加工、数据应用的实时性, 实时数据处理的技术实现上与历史数据有比较大的差异,数据模型要统一比较困难,是否可从以下两点去尝试。1.数据分层体系上可以借鉴传统数仓,比如数据数据采集是否可与贴源数据对应,实时的数据清洗和标准化是否可以整合...显示全部

1)实时数据更加强调数据采集、数据加工、数据应用的实时性, 实时数据处理的技术实现上与历史数据有比较大的差异,数据模型要统一比较困难,是否可从以下两点去尝试。
1.数据分层体系上可以借鉴传统数仓,比如数据数据采集是否可与贴源数据对应,实时的数据清洗和标准化是否可以整合层对应起来。
2.实时数据采集和加工结果可以批量持久化到存储中,用于仓库的贴源数据采集和整合层加工。
2)实时数据处理过程由于时效性的考虑,应该使用访问效率比较高的存储,比如SSD、内存,我认为两者的存储是要独立的。结合上面的第2点如果可以实现的话,最终采集和加工也可以与历史数仓整合到一起。

收起
 2019-08-31
浏览609
foreverisoldforeverisold  软件开发工程师 , 暂定
zhuhaiqiang赞同了此回答
维度与指标相同的话,统一建模,但底层数据库可以两个表,使用视图合并起来再建模。如果建模建在数据库表上,也是建议两个表,但对外提供数据源时通过视图合并再提供。显示全部

维度与指标相同的话,统一建模,但底层数据库可以两个表,使用视图合并起来再建模。如果建模建在数据库表上,也是建议两个表,但对外提供数据源时通过视图合并再提供。

收起
 2019-09-09
浏览241
OttOtt  项目经理 , 科技部
zhuhaiqiang赞同了此回答
数据要融合才能价值最大化,企业级数据仓库建设的一个主要目的也是实现企业业务数据的大集中。实时的数据信息有限,存量的数据信息丰富但时效性不足,二者结合才能构建更贴合实际及复杂的业务场景,避免数据利用的单一化及简单化。实时数据仓库与传统数据仓库在架构设计及模型设...显示全部

数据要融合才能价值最大化,企业级数据仓库建设的一个主要目的也是实现企业业务数据的大集中。实时的数据信息有限,存量的数据信息丰富但时效性不足,二者结合才能构建更贴合实际及复杂的业务场景,避免数据利用的单一化及简单化。实时数据仓库与传统数据仓库在架构设计及模型设计上,应该做到统一规划和设计,避免在数据平台上出现竖井式的设计,譬如在数据仓库中规划一个实时数据区,目前基于hadoop架构的数据仓库中存在部分类似案例。虽然目前实时数据采集多集中交易流水,但业务应用的需求不止于此,例如,在客户的服务优化中,在客户拨打银行客服电话时,如果能实时捕获及分析客户的操作信息,结合客户的历史数据(传统T+1数据仓库中的客户签约、交易行为、资产负债等),探索实现客服电话的精准导流,而非冗长的语音提示。又如各行都在建设的秒批秒贷的在线信贷系统应用,如果要较好的实现风险监测,就需要考虑历史数据与实时数据的融合,比如与第三方合作的单一门店的流量监测,异常分析等。

收起
 2019-09-07
浏览334
aixchina 邀答
黑民黑民  软件开发工程师 , 湖南农信
zhuhaiqiang赞同了此回答
1.关于建模。个人认为银行业实时数据的处理目前常用的场景还是对账户和流水的应用,相对来说账户和流水的模型应采用比较简单的模型,快速处理、高效处理,用来适应场景。2.关于存储。个人偏向于分开存储,实时数据一般只用于当天,历史数据在T+1日后会再次同步,因此分开存储更有利...显示全部

1.关于建模。个人认为银行业实时数据的处理目前常用的场景还是对账户和流水的应用,相对来说账户和流水的模型应采用比较简单的模型,快速处理、高效处理,用来适应场景。
2.关于存储。个人偏向于分开存储,实时数据一般只用于当天,历史数据在T+1日后会再次同步,因此分开存储更有利于架构上的清晰和数据的应用。

收起
 2019-09-04
浏览442
chailei_8306chailei_8306  研发工程师 , 城商行
    这其实是一个问题。传统数据仓库反映长时间的变化,最细区分粒度是以天为周期的。历史库只不过是将久远的,利用率低的数据单独剥离存放了。      实时数仓是为了对当前时刻的业务进行一系列统计,其初衷是为了解决两个基本问题。一是将复杂的统计计算从业务系统剥...显示全部

    这其实是一个问题。传统数据仓库反映长时间的变化,最细区分粒度是以天为周期的。历史库只不过是将久远的,利用率低的数据单独剥离存放了。
      实时数仓是为了对当前时刻的业务进行一系列统计,其初衷是为了解决两个基本问题。一是将复杂的统计计算从业务系统剥离,给业务系统减负;二是实现跨系统数据加总和关联。
      实时数仓解决问题的重点在汇总或关联,其对效率的要求比较高。所以需要用与传统数仓不同的策略进行设计。也就是分开模型,分开存储比较合适。

收起
 2019-09-09
浏览197
aixchina 邀答

提问者

周光明软件架构设计师, People's Bank of China

问题状态

  • 发布时间:2019-08-29
  • 关注会员:8 人
  • 问题浏览:2119
  • 最近回答:2019-09-09
  • 关于TWT  使用指南  社区专家合作  厂商入驻社区  企业招聘  投诉建议  版权与免责声明  联系我们
    © 2019  talkwithtrend — talk with trend,talk with technologist 京ICP备09031017号-30