最近在测试一个风险计量引擎,由于同时要加工多指标,目前一次性把所有用到数据加载到内存,导致服务器配置30多个G内存经常会被撑满,如何进行优化,望各位大神给予指点
目前想到的方法是消耗内存最大的程序一般是读取文件,比如在操作完文件后要及时关闭文件流释放内存。另外考虑到联机批处理效率=(计算次数*扫描计算的数据量)/时间窗口,因此我们本次优化重点,主要是从减少计算次数和单次计算所遍历的数据量两个维度来进行。
关于TWT使用指南社区专家合作厂商入驻社区企业招聘投诉建议版权与免责声明联系我们 © 2024talkwithtrend — talk with trend,talk with technologist京ICP备09031017号-30