注册登录
提 问
English中文版
银行GPU

如何提升gpu的资源利用率？

同一块gpu如何供多用户使用？都有哪些解决方案？

关注4
评论
参与8

3同行回答
|
按赞同排序
按时间排序

罗文江罗文江课题专家组云计算架构师某银行
提高GPU的分配颗粒度，可以通过虚拟GPU技术，细化到0.1卡。譬如 NVIDIA 虚拟 GPU (vGPU) 技术，腾讯的vGPU开源项目、国内创业公司趋动科技的GPU虚拟化技术。单机的一张GPU卡，可以用分时调度安排，不同用户有不同的使用时间段。...显示全部
  1. 提高GPU的分配颗粒度，可以通过虚拟GPU技术，细化到0.1卡。譬如 NVIDIA 虚拟 GPU (vGPU) 技术，腾讯的vGPU开源项目、国内创业公司趋动科技的GPU虚拟化技术。
  2. 单机的一张GPU卡，可以用分时调度安排，不同用户有不同的使用时间段。
收起
银行 · 2022-04-30
浏览1033
评论

提问者

jiangxiaobin
jiangxiaobin005
研发工程师某银行
擅长领域： 服务器，GPU
关注
回答0
评论2

问题来自

  • 活动 - 如何在容器云环境建设和优化GPU资源池加速AI工作负载？ —NVIDIA AI Enterprise产品社区发布活动

    • 相关问题

  • 不同gpu共享方案区别及gpu隔离技术？
  • gpu池化是基于物理机直接池化还是在gpu虚拟化的基础上进行池化？二者优缺点对比？
  • 容器和虚拟机混用环境下，同一个GPU资源可以同时对两者提供服务吗？
  • 超融合与云原生的区别？
  • 在ChatGPT大语言模型时代，金融行业如何做好数据安全和隐私保护？

    • 相关资料

  • 大语言模型的 GPU 加速和生成式AI在金融中的应用
  • 如何在容器云环境建设和优化GPU资源池加速AI工作负载_TWT
  • 2023超算、智算及数据中心行业报告：算力中心铸就大模型时代基座
  • AI算力租赁行业研究框架：时势造英雄，宜谋定而后动
  • OVE工业制造及数字孪生应用

    • 相关文章

  • 常用文本检测方法与模型：基于回归的文本检测与基于分割的文本检测
  • 迈入ChatGPT时代商业银行AI应用的发展趋势分析
  • 车企边缘计算应用场景探索解析
  • 如何在容器云环境建设和优化GPU资源池加速AI工作负载交流难点总结
  • 金融行业如何提高GPU资源利用效能加速AI智能化应用交流探讨

    • 问题状态

  • 发布时间：2022-04-25
  • 关注会员：4 人
  • 问题浏览：1952
  • 最近回答：2022-04-30

    • 关于TWT使用指南社区专家合作厂商入驻社区企业招聘投诉建议版权与免责声明联系我们
    © 2024talkwithtrend — talk with trend,talk with technologist京ICP备09031017号-30

    X社区推广