IT咨询服务深度学习

deeplab v3模型性能优化?

用deeplab v3 + 模型训练好之后,加载模型训练,batchsize设为1,预测单张图片(1024*768)速度很慢,要大概7-8s有什么方法可以加快预测速度吗?
我们发现针对每一副图像深度学习,需要时间很长,能做到1-2秒不

参与11

1同行回答

sprewellkobesprewellkobe专有云TX
具体得看一下使用方式,可以先加大并发度config.intra_op_parallelism_threads = 32如果还是很慢,得贴一下代码了显示全部

具体得看一下使用方式,可以先加大并发度

config.intra_op_parallelism_threads = 32

如果还是很慢,得贴一下代码了

收起
互联网服务 · 2018-12-17
浏览3445
  • 详细描述是这样的,您看 请问,如何优化pytorch的模型预测速度Namespace(backbone='resnet', batchSize=4, epoch_size=3, gpu_id='0', lr=1e-07, nAveGrad=1, nEpochs=100, nTestInterval=1, nThreads=1, phaseprediction='prediction', phasetest='test', phasetrain='train', resume_epoch=0, snapshot=3, testBatch=1, useTest=True, wd=0.0005) ------------ Options ------------- backbone: resnet batchSize: 4 epoch_size: 3 gpu_id: 0 gpu_ids: [0] lr: 1e-07 nAveGrad: 1 nEpochs: 100 nTestInterval: 1 nThreads: 1 phaseprediction: prediction phasetest: test phasetrain: train resume_epoch: 0 snapshot: 3 testBatch: 1 useTest: True wd: 0.0005 -------------- End ---------------- Constructing DeepLabv3+ model... Number of classes: 2 Output stride: 16 Number of Input Channels: 3 这是相关的参数设置,gpu:为2080ti,cuda:10.0 预测单张图片(1024*768)的速度很慢,要7-10s,有什么方法可以缩短时间到1-2s
    2018-12-18
  • 输入图像是多大的?用得pil还是cv2读的图像?图像读的过程有没有保存到磁盘的动作?
    2018-12-18
  • 你好,图像尺寸1024*768,用的pil读取,没有保存到磁盘
    2018-12-18
  • 输入尺寸是多少?一般卷积网络的输入图像尺寸都很小,远小于图像尺寸,图像输入网络之前都要裁剪,这个要看卷积网络训练的时候设定的值是多少
    2018-12-18
  • 你好,他们输入尺寸都是512的,你看这个有影响不
    2018-12-18
  • 太大了,能不能裁剪一下
    2018-12-19
  • 好的,谢谢,回头我们处理下
    2018-12-20

提问者

afreehawk
总经理/总裁成都市汪汪科技有限公司

相关问题

相关资料

相关文章

问题状态

  • 发布时间:2018-12-17
  • 关注会员:2 人
  • 问题浏览:3673
  • 最近回答:2018-12-17
  • X社区推广