AI的训练和推理对基础架构带来了什么变革和挑战?

参与18

4同行回答

peimapeima课题专家组架构师某金融公司
传统基础架构无法满足高性能计算及大规模存储,需扩展和升级架构,同时对数据泄露或滥用有一定的挑战和风险。AI训练的模型基于历史数据进行训练,通常是黑盒模型,时效性及对运营及决策有一定的潜在风险...显示全部

传统基础架构无法满足高性能计算及大规模存储,需扩展和升级架构,同时对数据泄露或滥用有一定的挑战和风险。AI训练的模型基于历史数据进行训练,通常是黑盒模型,时效性及对运营及决策有一定的潜在风险

收起
银行 · 2023-07-05
浏览570
dengjf99dengjf99课题专家组软件开发工程师某股份制银行
最直接的一个是传统服务器机架的供电、散热效能较低,不满足高性能GPU服务器的要求,空间浪费大。显示全部

最直接的一个是传统服务器机架的供电、散热效能较低,不满足高性能GPU服务器的要求,空间浪费大。

收起
银行 · 2023-07-13
浏览518

ChatGPT 回答

AI的训练和推理对基础架构带来了许多变革和挑战,主要表现在以下几个方面:

  1. 训练和推理的计算需求增加:随着AI模型的不断发展,模型的规模和复杂度不断增加,需要更多的计算资源来进行训练和推理。这对于基础架构的计算能力提出了更高的要求。
  2. 数据存储和传输的需求增加:AI训练需要大量的数据,这些数据需要存储在可靠的存储介质中,并通过高速网络进行传输。这对于基础架构的存储和网络带宽提出了更高的要求。
  3. 硬件架构的变革:为了满足AI训练和推理的需求,硬件架构也在不断变革。例如,GPU、TPU等专门用于AI计算的硬件加速器的出现,以及云计算、边缘计算等新型计算架构的出现,都对基础架构提出了更高的要求。
  4. 软件架构的变革:为了更好地支持AI训练和推理,软件架构也在不断变革。例如,深度学习框架的出现,以及针对AI训练和推理的优化算法的开发,都对基础架构提出了更高的要求。

综上所述,AI的训练和推理对基础架构带来了许多变革和挑战,需要不断地进行技术创新和升级,以满足不断增长的计算、存储和传输需求。

提问者

sharkbing
研发工程师EDI
擅长领域: 存储灾备服务器

问题来自

相关问题

相关资料

相关文章

问题状态

  • 发布时间:2023-07-05
  • 关注会员:5 人
  • 问题浏览:1497
  • 最近回答:2023-07-17
  • X社区推广