有关PowerAI发布的模型性能,其实和平台关系不大,和推理的实现相关;一般最为一个service发布,效率会比较高,因为可以把数据、模型都导入内存中,有daemon进程提供服务,响应时间与推理模型的逻辑处理相关,例如对图片的预处理等操作...
显示全部有关PowerAI发布的模型性能,其实和平台关系不大,和推理的实现相关;一般最为一个service发布,效率会比较高,因为可以把数据、模型都导入内存中,有daemon进程提供服务,响应时间与推理模型的逻辑处理相关,例如对图片的预处理等操作
收起