现在大语言模型往往达到百亿/千亿级参数规模,模型容量非常大 ,对于中小银行来说,若要建设大语言模型,预计需要多少资源?需要做哪些前期准备工作?
作为起步资源来说,可以先购置若干台中高配的AI芯片服务器作为训练或推理服务器,英伟达或国产AI芯片的都可以,大概30-100w一台。更简便的方法是使用大厂的云服务,现在逐渐完善大模型的云服务,再使用脱敏后数据做些微调训练,然后把模型拿回行内部署。
关于TWT使用指南社区专家合作厂商入驻社区企业招聘投诉建议版权与免责声明联系我们 © 2024talkwithtrend — talk with trend,talk with technologist京ICP备09031017号-30