注册登录
提 问
English中文版
银行cpu优化GPU容器云平台

GPU、CPU优化利用？

如何通过GPU 计算节点与 CPU 指令集的配置，高效完成机器学习、深度学习、图像识别等 AI 计算任务，高性能地承载企业大规模并行计算需求，能否通过滚动升级方式，在主机不停机、应用不停服的状态下完成升级，有效保障企业业务的连续性

关注4
评论
参与11

3同行回答
|
按赞同排序
按时间排序

Monica WangMonica WangNVIDIA AI Enterprise 产品经理 NVIDIA英伟达
1. NVAIE可以支持只有CPU的服务器完成机器学习任务。例如Triton Inference Server 用于多推理模型部署可以支持仅有CPU的服务器。2. NVAIE中GPU Operator，基础架构团队也可以将 CPU 映像与 GPU 工作节点一起使用。...显示全部

1. NVAIE可以支持只有CPU的服务器完成机器学习任务。例如Triton Inference Server 用于多推理模型部署可以支持仅有CPU的服务器。
2. NVAIE中GPU Operator，基础架构团队也可以将 CPU 映像与 GPU 工作节点一起使用。

收起
硬件生产 · 2022-04-28
浏览1033
查看赞同的人
评论

提问者

wwu
wwu联盟成员
信息系统项目管理省城商
擅长领域： 云计算，服务器，容器
关注9
回答27
评论69

问题来自

  • 活动 - 如何在容器云环境建设和优化GPU资源池加速AI工作负载？ —NVIDIA AI Enterprise产品社区发布活动

    • 相关问题

  • 不同gpu共享方案区别及gpu隔离技术？
  • gpu池化是基于物理机直接池化还是在gpu虚拟化的基础上进行池化？二者优缺点对比？
  • 容器和虚拟机混用环境下，同一个GPU资源可以同时对两者提供服务吗？
  • 超融合与云原生的区别？
  • 在ChatGPT大语言模型时代，金融行业如何做好数据安全和隐私保护？

    • 相关资料

  • 2021 容器云职业技能大赛团队赛亚军作品——金融行业容器平台建设方案
  • 魅族容器云平台基于 k8s 的自动化运维实践
  • 大语言模型的 GPU 加速和生成式AI在金融中的应用
  • 2021 容器云职业技能大赛团队赛优秀作品——适用于金融业务的容器云支撑平台建设方案
  • 如何在容器云环境建设和优化GPU资源池加速AI工作负载_TWT

    • 相关文章

  • 基于国产全闪NAS存储建设高可用和高性能的云原生平台实践
  • 某汽车制造业生产容器云平台建设与应用迁移经验分享
  • 常用文本检测方法与模型：基于回归的文本检测与基于分割的文本检测
  • 金融企业容器云平台存储选型分析
  • 迈入ChatGPT时代商业银行AI应用的发展趋势分析

    • 问题状态

  • 发布时间：2022-04-26
  • 关注会员：4 人
  • 问题浏览：2007
  • 最近回答：2022-05-01

    • 关于TWT使用指南社区专家合作厂商入驻社区企业招聘投诉建议版权与免责声明联系我们
    © 2024talkwithtrend — talk with trend,talk with technologist京ICP备09031017号-30

    X社区推广