ai分析的计算能力是否可以以容器方式提供?

目前ai分析在企业中,尤其是在产线中逐步有很多应用场景和实际应用

关于cpu和gpu 计算能力这块,是否支持通过容器方式提供,这样资源的调度更加灵活
是否有实际的应用案例,可否详细介绍

参与12

5同行回答

杜东明杜东明解决方案架构师灵雀云Alauda
1、AI分析类应用所需的计算能力,可以用容器应用方式提供。比如:华星光电采用腾讯云的ADC自动缺陷检测方案,实现对液晶面板的自动化缺陷检测。这套ADC检测系统的AI推理系统和AI训练平台,就是部署在容器云中。2、对于AI推理和AI训练时,所需的CPU和GPU计算能力,可以通过容器化方式...显示全部

1、AI分析类应用所需的计算能力,可以用容器应用方式提供。比如:华星光电采用腾讯云的ADC自动缺陷检测方案,实现对液晶面板的自动化缺陷检测。这套ADC检测系统的AI推理系统和AI训练平台,就是部署在容器云中。
2、对于AI推理和AI训练时,所需的CPU和GPU计算能力,可以通过容器化方式提供,还能大大的提高资源利用率。特别是利用容器云的GPU虚拟化能力,可以实现一个 GPU 物理卡同时给多个 AI 任务使用,提高 GPU 资源利用率。
灵雀云AI解决方案提供了基于容器的GPU虚拟化能力,保障AI业务底层CPU、GPU、显存资源的灵活调度和集约化使用;并且提供MLOps人工智能开发平台,提供TensorFlow、Pytorch等机器学习、模型发布、推理计算所必须工具。
在案例上,灵雀云曾帮助多个金融、工业企业建设AI平台,例如在某股份制银行的人工智能平台建设中,帮助客户建设了超过400物理节点的大型人工智能平台,承载行内3000+人工智能计算应用。

收起
软件开发 · 2022-06-06
浏览611
北京不眠夜@博云北京不眠夜@博云产品经理公司
可以,完全是可以。我们推出的BCC算力平台就是让HPC、大数据、AI类应用可以轻松的运行在容器上,并提供GPU的算力调度能力。您可以看一下我的文章(https://www.talkwithtrend.com/Article/256151 "支持高性能计算场景,借助容器云打造智能算力引擎")...显示全部

可以,完全是可以。
我们推出的BCC算力平台就是让HPC、大数据、AI类应用可以轻松的运行在容器上,并提供GPU的算力调度能力。
您可以看一下我的文章(https://www.talkwithtrend.com/Article/256151 "支持高性能计算场景,借助容器云打造智能算力引擎")

收起
软件开发 · 2021-11-16
浏览759

ChatGPT 回答

AI分析在企业中,尤其是在产线中逐步有很多应用场景和实际应用。其中,GPU计算能力在AI分析中发挥着重要的作用,因为GPU相比CPU在并行计算方面具有更强的优势,能够大幅提高AI模型的训练速度和效率。

容器云技术可以提供更加灵活的资源调度和管理方式,使得企业可以更加高效地利用GPU计算能力进行AI分析。通过容器方式提供GPU计算能力,可以实现资源的动态调度和分配,根据实际需要进行灵活的资源调配,从而提高计算资源的利用率。

在实际应用中,已经有很多企业采用容器云技术来支持GPU计算能力的提供。例如,阿里云提供了GPU云服务器和容器服务相结合的解决方案,可以帮助企业快速搭建GPU计算环境,并通过容器方式进行资源调度和管理。另外,华为云也提供了GPU容器服务,可以为企业提供高效的GPU计算能力支持。

总之,通过容器方式提供GPU计算能力已经成为企业进行AI分析的一种重要方式,可以提高计算资源的利用率和灵活性,从而更好地支持企业的业务需求。

提问者

hoge
hoge009
技术总监tcl
擅长领域: 服务器GPU云计算

问题来自

相关问题

相关资料

相关文章

问题状态

  • 发布时间:2021-10-29
  • 关注会员:6 人
  • 问题浏览:1679
  • 最近回答:2022-06-06
  • X社区推广