中小规模券商如何拥抱大模型应用?

1.中小券商受制于自身规模所限,自建机房GPU算力资源非常有限2.券商还存在合规方面的限制,对于从公网获取saas服务以及数据往来有诸多合规问题3.结合券商自身业务特点综合以上3点,想请教一下中小规模券商如何才能较好地拥抱大模型应用?...显示全部

1.中小券商受制于自身规模所限,自建机房GPU算力资源非常有限
2.券商还存在合规方面的限制,对于从公网获取saas服务以及数据往来有诸多合规问题
3.结合券商自身业务特点
综合以上3点,想请教一下中小规模券商如何才能较好地拥抱大模型应用?

收起
参与16

查看其它 4 个回答匿名用户的回答

匿名用户匿名用户

这个不是一家机构的问题,目前是行业内普遍存在的问题,目前很多家大厂的大模型,对国产npu的支持的并不好,而在信创的大背景下,大机构也很难投入去买足够的gpu算力去支撑大模型的训练。
所以大模型的落地之路,目前国内并不太好走。大部分机构应该会妥协,本地只进行推导,训练依赖大模型厂商,不过这样效果肯定大打折扣
目前可能的一个方向,由国家牵头成立一些模型训练的中心,提供共享的gpu算力,这样一定程度上可以满足合规性的要求。
不过这仅仅是一个设想,道阻且长

证券 · 2023-06-27
浏览896

回答状态

  • 发布时间:2023-06-27
  • 关注会员:6 人
  • 回答浏览:896
  • X社区推广