互联网企业使用分布式存储的探讨?

目前企业使用linux自带的nfs,提供存储共享和数据存储,集中备份功能,供业务使用。架构采用两台SAS接口的大容量7500转的硬盘,raid10,双机keepalive热备,提供vip和切换后的映射以及双机间的rsync数据同步。nfs采用v3版本,含有部分目录acl控制,客户端包括linux5、6、aix5.5、6.1。存...显示全部

目前企业使用linux自带的nfs,提供存储共享和数据存储,集中备份功能,供业务使用。
架构采用两台SAS接口的大容量7500转的硬盘,raid10,双机keepalive热备,提供vip和切换后的映射以及双机间的rsync数据同步。nfs采用v3版本,含有部分目录acl控制,客户端包括linux5、6、aix5.5、6.1。
存储的数据绝大多数是K级小文件,txt或xls,访问方式是http和ftp等不同的协议,非书序读密集,目前遇到的问题如下:
1.容量,扩容只能采用横向硬件扩容,目录拆分的方式,傻大粗!
2.数据量上来以后,受rsync限制,主备机数据同步跟不上。
3.nfs协议在支持数量大的目录时,有些力不从心,千万级数据目录罗列耗时长,且用户感觉明显。

曾经参考过的替换方式:
1、hadoop,基于分片、副本存储的方式,对小文件的支持并不理想。
2、http应用负载分发,客户端访问方式不一,如,对支持ftp传送数据上,此种方式并不合适。
3、ceph,复杂的配置和管理在维护成本上投入过高,有些喧宾夺主。听说还有mysql的对象存储,还没研究,请问各位有什么好的点子提示下?

收起
参与39

查看其它 8 个回答杨博的回答

杨博杨博课题专家组IT顾问某科技公司

从应用角度,存储分两种,一种是在线业务存储,一种是文件存储,要具体看场景。
如果是在线业务存储,比较多的使用MySQL,前面套个访问层控制来做分布。
如果是文件存储,基本上自己写个分发策略来做大规模文件存储。
近几年也有开始使用CEPH的,但因为ceph复杂度问题,应用也是有一定场景的。

互联网服务 · 2017-05-05
浏览4979
晓黎 邀答

回答者

杨博
IT顾问某科技公司
擅长领域: 数据库服务器人工智能

杨博 最近回答过的问题

回答状态

  • 发布时间:2017-05-05
  • 关注会员:12 人
  • 回答浏览:4979
  • X社区推广