对于中小商业银行来说,若要建设大语言模型,预计需要多少资源?需要做哪些前期准备工作?

现在大语言模型往往达到百亿/千亿级参数规模,模型容量非常大 ,对于中小银行来说,若要建设大语言模型,预计需要多少资源?需要做哪些前期准备工作?显示全部

现在大语言模型往往达到百亿/千亿级参数规模,模型容量非常大 ,对于中小银行来说,若要建设大语言模型,预计需要多少资源?需要做哪些前期准备工作?

收起
参与15

查看其它 2 个回答dengjf99的回答

dengjf99dengjf99课题专家组软件开发工程师某股份制银行

作为起步资源来说,可以先购置若干台中高配的AI芯片服务器作为训练或推理服务器,英伟达或国产AI芯片的都可以,大概30-100w一台。
更简便的方法是使用大厂的云服务,现在逐渐完善大模型的云服务,再使用脱敏后数据做些微调训练,然后把模型拿回行内部署。

银行 · 2023-07-08
浏览696

回答者

dengjf99
软件开发工程师某股份制银行
擅长领域: 人工智能服务器GPU

dengjf99 最近回答过的问题

回答状态

  • 发布时间:2023-07-08
  • 关注会员:4 人
  • 回答浏览:696
  • X社区推广