业务需求,存储性能不足,大家有存储或者方案推荐吗?
现在是分布式存储,数据量110TB左右,每年以40TB左右的速度增长
主要是海量小文件组成,文件平均大小为1M左右,文件数量2亿8千万左右!
现在存储的性能和容量都有点跟不上,想换一个存储,大家有好的存储推荐或者好的解决方案吗?
请问业务是什么应用场景?现在用的什么存储,每年数据增长很快啊.
收起针对你提的这个问题,收集了一些大家对这种情况的方案建议,供你参考。
1、分布式存储,全用SSD。
2、换成对象存储。
3、没啥太好的解决方法,小文件ssd固态能提升速度,但是你的容量太大了。
4、既然是分布式存储,那就扩节点。
5、多配点热点盘,提高IO性能,已经写进来的数据自动导入普通硬盘降低成本。
6、你要保证数据的安全性,还是首选san。分布式IP很浪费的,100T网络肯定要独立出来,成本也不低。除非用容量节点做。
什么业务类型?每年40t这么高,应该不会是互联网企业吧,那些都是pb级了猜测。。。
分布式存储现在解决不了你的性能问题(不知道优化原因还是你的数据本身就需要高读写?),全ssd我觉得也不现实,能否从需求端考虑呢。。。
1是什么样的文件,能压缩保存不?---减少容量
2考虑数据按年分层存储不?---得看实际业务需求
数据量不算大,档案管理的话,IO 延时要求不会太高,适NAS类或分布式存储。
可以参考
1EMC Isilon,大型Nas,Nas市场王者。扩容为简单的增加节点。
2EMC scaleIO ,大型分布式节点存储。扩容为简单的增加节点。
性能不足,我觉得可以考虑存储分级了,做个分析,热点数据全放到高性能大存储上,一般数据放到二级性能主流的存储上,冷点数据放到利旧或者NAS上。当然不知你这个具体业务,还有区分冷热点数据是个问题。小文件比较大,可以考虑datadomain这种重复删除起家的存储。
收起推荐EMC ScaleIO,现在这项技术的发展非常快速,在节点扩展、IO保障以及数据安全方面都有很好的进步,并且,据ScaleIO内部消息,在两份数据一份备份的基础上,ScaleIO的功能将加上压缩的功能,在文件的分布式存储上会有很大的提升。随着业务量的增加,我们的工作对存储的要求越来越高,网络带宽和磁盘IO的瓶颈就是限制,10G网络的环境基本满足中小型企业项目环境的业务需求,所以,我们选择推广ScaleIO,来对磁盘IO,也就是节点数增加,来满足更高的需求。
收起