查看其它 1 个回答daliu的回答

daliudaliu系统架构师某金融机构

ChatGPT在金融机构GPU等相关基础设施运行保障中如何发挥作用//这个问题问反了吧, 目前ChatGPT并未应用于基础设置保障,反而是GPU等基础设施要保障ChatGPT运行。
如果是问GPU等相关基础设施如何保障ChatGPT运行?一般从以下几个方面考虑:
1、根据模型大小、算力要求及应用场景选择合适的GPU芯片和数量
2、根据模型的训练时间、周期和每日任务数,选择合适的GPU资源池化方案和调度策略,以提高资源利用率
3、 根据训练数据的规模和存储、带宽需求选择合适的存储和组网方式,一般配备高性能块存储、RDMA网络

银行 · 2023-04-25
浏览719

回答者

daliu
系统架构师某金融机构
擅长领域: 人工智能服务器GPU

daliu 最近回答过的问题

回答状态

  • 发布时间:2023-04-25
  • 关注会员:3 人
  • 回答浏览:719
  • X社区推广