注册登录
提 问
English中文版
银行GPU

如何提升gpu的资源利用率？

同一块gpu如何供多用户使用？都有哪些解决方案？显示全部

同一块gpu如何供多用户使用？都有哪些解决方案？

收起
关注4
评论
参与8

查看其它 2 个回答罗文江的回答

罗文江罗文江课题专家组云计算架构师某银行
  1. 提高GPU的分配颗粒度，可以通过虚拟GPU技术，细化到0.1卡。譬如 NVIDIA 虚拟 GPU (vGPU) 技术，腾讯的vGPU开源项目、国内创业公司趋动科技的GPU虚拟化技术。
  2. 单机的一张GPU卡，可以用分时调度安排，不同用户有不同的使用时间段。
银行 · 2022-04-30
浏览1034
评论

回答者

罗文江
罗文江课题专家组
云计算架构师某银行
擅长领域： 云计算，容器，容器云
关注35
回答199
评论208

罗文江 最近回答过的问题

  • MySQL写到Redis读的过程是实时还是异步？
  • 大语言模型训练过程中，如何提供稳定训练断点保存和恢复的存储能力？
  • 关于大模型时代的企业GPU算力资源规划探讨？
  • 如何构建可扩展且高可用的基础设施，以满足大模型的计算和实时推理需求？
  • 如何构建高效的资源配置策略以支持大型模型项目？

    • 回答状态

  • 发布时间：2022-04-30
  • 关注会员：4 人
  • 回答浏览：1034

    • 关于TWT使用指南社区专家合作厂商入驻社区企业招聘投诉建议版权与免责声明联系我们
    © 2024talkwithtrend — talk with trend,talk with technologist京ICP备09031017号-30

    X社区推广