1.中小券商受制于自身规模所限,自建机房GPU算力资源非常有限2.券商还存在合规方面的限制,对于从公网获取saas服务以及数据往来有诸多合规问题3.结合券商自身业务特点综合以上3点,想请教一下中小规模券商如何才能较好地拥抱大模型应用?
这个不是一家机构的问题,目前是行业内普遍存在的问题,目前很多家大厂的大模型,对国产npu的支持的并不好,而在信创的大背景下,大机构也很难投入去买足够的gpu算力去支撑大模型的训练。所以大模型的落地之路,目前国内并不太好走。大部分机构应该会妥协,本地只进行推导,训练依赖大模型厂商,不过这样效果肯定大打折扣目前可能的一个方向,由国家牵头成立一些模型训练的中心,提供共享的gpu算力,这样一定程度上可以满足合规性的要求。不过这仅仅是一个设想,道阻且长
关于TWT使用指南社区专家合作厂商入驻社区企业招聘投诉建议版权与免责声明联系我们 © 2024talkwithtrend — talk with trend,talk with technologist京ICP备09031017号-30