大语言模型部署
大语言模型部署
该主题还没有描述

最新

银行大语言模型·2024-01-05
罗文江课题专家组 · 某银行 擅长领域:云计算, 容器, 容器云
35 会员关注
1、技术路线上,建议在私有云平台构建AI大模型基础设施。2、在训练、推理工作负载上,根据负载的不同特征,采用不同的建设策略。譬如训练集群的建设成本和运维成本很高,基础设施领域需要高端训练GPU卡、高性能存储和高性能RDMA网络,宜在企业统一建设一个训练集群,供企业共享使用...

    描述

    该主题还没有描述
    X社区推广
  • 提问题