互联网服务数据加工

风险计量引擎内存资源使用优化?

最近在测试一个风险计量引擎,由于同时要加工多指标,目前一次性把所有用到数据加载到内存,导致服务器配置30多个G内存经常会被撑满,如何进行优化,望各位大神给予指点

参与2

1同行回答

guoxilinguoxilin高级非功能测试专家某科技公司
目前想到的方法是消耗内存最大的程序一般是读取文件,比如在操作完文件后要及时关闭文件流释放内存。另外考虑到联机批处理效率=(计算次数*扫描计算的数据量)/时间窗口,因此我们本次优化重点,主要是从减少计算次数和单次计算所遍历的数据量两个维度来进行。...显示全部

目前想到的方法是消耗内存最大的程序一般是读取文件,比如在操作完文件后要及时关闭文件流释放内存。另外考虑到联机批处理效率=(计算次数*扫描计算的数据量)/时间窗口,因此我们本次优化重点,主要是从减少计算次数和单次计算所遍历的数据量两个维度来进行。

收起
互联网服务 · 2017-12-25
浏览1308

提问者

guoxilin
高级非功能测试专家某科技公司
擅长领域: 服务器数据库云计算

问题状态

  • 发布时间:2017-12-25
  • 关注会员:1 人
  • 问题浏览:1516
  • 最近回答:2017-12-25
  • X社区推广