注册登录
提 问
English中文版
银行cpu优化GPU容器云平台

GPU、CPU优化利用？

如何通过GPU 计算节点与 CPU 指令集的配置，高效完成机器学习、深度学习、图像识别等 AI 计算任务，高性能地承载企业大规模并行计算需求，能否通过滚动升级方式，在主机不停机、应用不停服的状态下完成升级，有效保障企业业务的连续性

关注4
评论
参与11

3同行回答
|
按赞同排序
按时间排序

罗文江罗文江课题专家组云计算架构师某银行
通常部署一套基于K8S的容器平台产品，将CPU 内存 GPU 磁盘等计算资源统一池化，同时通过CSI机制规划实施一套共用的数据持久化的容器存储，用于AI任务的数据存储。 主机不停机是由K8S将故障节点的任务负载 迅速调度漂移到其他可用节点来实现的。应用不停服是由任务负载的调度...显示全部
  1. 通常部署一套基于K8S的容器平台产品，将CPU 内存 GPU 磁盘等计算资源统一池化，同时通过CSI机制规划实施一套共用的数据持久化的容器存储，用于AI任务的数据存储。 主机不停机是由K8S将故障节点的任务负载 迅速调度漂移到其他可用节点来实现的。应用不停服是由任务负载的调度漂移 + 容器存储中数据+任务中断的可恢复性设计共同组合来实现的。
收起
银行 · 2022-05-01
浏览952
评论

提问者

wwu
wwu联盟成员
信息系统项目管理省城商
擅长领域： 云计算，服务器，容器
关注9
回答27
评论69

问题来自

  • 活动 - 如何在容器云环境建设和优化GPU资源池加速AI工作负载？ —NVIDIA AI Enterprise产品社区发布活动

    • 相关问题

  • 不同gpu共享方案区别及gpu隔离技术？
  • gpu池化是基于物理机直接池化还是在gpu虚拟化的基础上进行池化？二者优缺点对比？
  • 容器和虚拟机混用环境下，同一个GPU资源可以同时对两者提供服务吗？
  • 超融合与云原生的区别？
  • 在ChatGPT大语言模型时代，金融行业如何做好数据安全和隐私保护？

    • 相关资料

  • 2021 容器云职业技能大赛团队赛亚军作品——金融行业容器平台建设方案
  • 魅族容器云平台基于 k8s 的自动化运维实践
  • 大语言模型的 GPU 加速和生成式AI在金融中的应用
  • 2021 容器云职业技能大赛团队赛优秀作品——适用于金融业务的容器云支撑平台建设方案
  • 如何在容器云环境建设和优化GPU资源池加速AI工作负载_TWT

    • 相关文章

  • 基于国产全闪NAS存储建设高可用和高性能的云原生平台实践
  • 某汽车制造业生产容器云平台建设与应用迁移经验分享
  • 常用文本检测方法与模型：基于回归的文本检测与基于分割的文本检测
  • 金融企业容器云平台存储选型分析
  • 迈入ChatGPT时代商业银行AI应用的发展趋势分析

    • 问题状态

  • 发布时间：2022-04-26
  • 关注会员：4 人
  • 问题浏览：2006
  • 最近回答：2022-05-01

    • 关于TWT使用指南社区专家合作厂商入驻社区企业招聘投诉建议版权与免责声明联系我们
    © 2024talkwithtrend — talk with trend,talk with technologist京ICP备09031017号-30

    X社区推广