海量数据处理
海量数据处理
该主题还没有描述

问题

互联网服务数据集中平台·2015-12-30
zwmbj · 深圳市华成峰实业有限公司 擅长领域:存储, 软件定义存储, 灾备
108 会员关注
结构化数据,可以考虑ibm svc+flashsystem的方式,热点数据自动easy tier至闪存上,非热点数据放在普通盘上,既保证性能又保证资产价值。非结构化数据,可以考虑IBM 的 gpfs,属于海量数据存储方案,如影像数据,可在线不断增加空间,属于PB级方案。...
互联网服务大数据·2015-05-19
尘世随缘 · 上海某互联网金融公司 擅长领域:云计算, 云原生, 微服务
86 会员关注
分布式的负载均衡只是解决了大数据运算的问题,但是数据节点本身去处理数据的时,依赖于CPU频率,内存大小和硬盘的转速。加速IO可以提升硬件的配置,比如提供硬盘的转速,增加内存,让大部分的数据基于内存运算,而不需要从内存刷新到硬盘。...
银行数据拆分·2015-08-12
pipilux · 中国银联 擅长领域:云计算, 灾备, 私有云
274 会员关注
源文件cap包太大了,如果是100T很难处理一般做法是在数据包抓取时就分时序生产cap,然后通过并行kv处理,存放入hadoop中再将关键数据运算后放入关系数据库中展现一次性处理100T,检索效率很难上去...
互联网服务产品选型·2015-12-23
haizdl · 大连 擅长领域:灾备, 存储, 服务器
1236 会员关注
不是给IBM上眼药儿哈。个人认为,IBM在大数据这块儿从来就没有什么像样的产品可以拿出手来。所谓海量数据处理,不是一个分布式文件系统GPFS就能解决的问题。谷歌的三驾马车解决了谷歌特有类型业务的海量数据处理需求。基于这个思想,淘宝又搭建了基于自己电商业务特点的海量数...
互联网服务产品选型·2015-12-23
gaopin · 新云东方 擅长领域:服务器, 存储, 数据库
176 会员关注
业务急速发展,数据爆炸式增长,新建数据中心应从以下几个方面考虑基础硬件:1. 服务器产品应具备超前超强的计算能力,来满足高速发展的业务需求与成长(规划五年的数据量)2.考虑业务可宕机故障时间,即保证业务的连续性,满足峰值计算的需求,应从服务器RAS这个方面这种考虑。3.产品的缓...
IT咨询服务软件定义存储·2015-12-23
weiliang1216 · IBM 擅长领域:存储, 灾备, 云计算
303 会员关注
宏观的来说,快照等技术就是属于软件定义存储中的一种。快照的优势就不多说了。而微观的来说,通过将x86设备组建成存储设备的方式,例如Accelerate,其核心价值就在于设备的复用,以及快速部署上。对于已有设备的客户来说,通过软件定义存储,能够自我控制产品上线的速度,实现快速安装,...
互联网服务系统优化·2017-02-15
我负责公司后端数据处理。每天会为多个部门做业务报表。随着业务越来越多。跑批的时间越来越久,影响正常工作了。但是预算有限没办法再加oracle了。请问下有什么不大动干戈的方案吗?先谈谈我的想法,我觉得可以采用并行计算的架构来做开发。如果处理业务逻辑使用的是sql,那可...(more)
浏览3976
银行数据挖掘·2017-06-01
haizdl · 大连 擅长领域:灾备, 存储, 服务器
1236 会员关注
还是不太好逾越的鸿沟:安全问题。尤其是监管安全
系统集成大数据·2015-12-23
weiliang1216 · IBM 擅长领域:存储, 灾备, 云计算
303 会员关注
大数据其实是一个很大的概念,其目的也不尽相同。目前已知的也金融业相关的大数据都是一些分析型的,例如反洗钱,反欺诈,精准营销等。而这些业务和传统的金融业务不太相近,例如存贷,清算等。互联网应用设计到的计算量远超于传统业务,而对于数据一致性和精确性要求就没有那么高了。...
互联网服务银行·2015-12-23
sxtycxx · 人工智能(计算机视觉) 擅长领域:存储, 灾备, 服务器
521 会员关注
     解决查询的反应速度,可以通过将原有的存储设备跟换为闪存阵列,这里要说的并不是把所有的存储都缓存闪存(全部更换需要多多的银子做后盾),新增的闪存主要是指将需要查询、统计的数据抽调出来,放在闪存阵列上(类似于进线存储),利用闪存的高IOPS和低延时的...

描述

该主题还没有描述
X社区推广
  • 提问题