中小规模券商如何拥抱大模型应用?

1.中小券商受制于自身规模所限,自建机房GPU算力资源非常有限
2.券商还存在合规方面的限制,对于从公网获取saas服务以及数据往来有诸多合规问题
3.结合券商自身业务特点
综合以上3点,想请教一下中小规模券商如何才能较好地拥抱大模型应用?

参与16

5同行回答

acbogehacbogeh联盟成员系统工程师富国基金
目前小型公司的算力只能用于推理,训练基本只够7B-13B范畴。希望组件行业级别算力池用于租赁。显示全部

目前小型公司的算力只能用于推理,训练基本只够7B-13B范畴。希望组件行业级别算力池用于租赁。

收起
基金 · 2023-07-14
wenwen123wenwen123项目经理MM
中小规模券商要拥抱大模型应用,可以采取以下几个步骤:了解大模型应用:首先,了解大模型应用的概念、原理和优势。大模型是指基于深度学习和自然语言处理等技术构建的庞大的语言模型,可以用于文本生成、翻译、问答等任务。了解大模型的能力和应用场景,有助于发现适用于券商业务的...显示全部

中小规模券商要拥抱大模型应用,可以采取以下几个步骤:

  1. 了解大模型应用:首先,了解大模型应用的概念、原理和优势。大模型是指基于深度学习和自然语言处理等技术构建的庞大的语言模型,可以用于文本生成、翻译、问答等任务。了解大模型的能力和应用场景,有助于发现适用于券商业务的具体应用案例。
  2. 确定业务需求:券商需要明确自身的业务需求,分析哪些领域可以通过大模型应用得到改进或增值。例如,可以考虑利用大模型来改进智能投顾、风险控制、情绪分析、舆情监测等方面的业务。
  3. 数据准备和清洗:大模型需要大量的高质量数据进行训练,因此券商需要准备和清洗与目标业务相关的数据。这包括金融数据、市场新闻、客户评论等各种文本数据。数据准备包括数据采集、数据清洗和数据标注等环节,确保数据的质量和准确性。
  4. 模型选择和训练:根据业务需求,选择适合的大模型架构和算法。目前比较知名的大模型包括GPT、BERT、XLNet等。券商可以基于开源的大模型框架进行模型训练,也可以考虑与合作伙伴或专业团队合作进行模型训练。
  5. 部署和集成:完成模型训练后,需要将模型部署到实际的应用环境中。券商可以选择将模型部署在自己的服务器上,也可以考虑采用云计算平台进行部署。在应用中集成大模型时,需要与现有系统和工具进行对接,确保数据的流通和交互。
  6. 持续改进和优化:大模型应用是一个持续迭代的过程。券商应该建立反馈机制,收集用户的反馈和意见,并根据反馈结果进行模型的改进和优化。同时,券商还可以关注学术界和业界的最新进展,探索更先进的大模型技术和应用方法。

需要注意的是,拥抱大模型应用需要投入较大的资源和技术支持。对于中小规模券商来说,可以考虑与专业的技术团队或合作伙伴合作,共同推进大模型应用的落地和实施。

收起
互联网服务 · 2023-06-30
浏览851
jillmejillme课题专家组CIO某大型银行
我个人认为,未来大模型应用会呈现两个发展方向 1、实例强大的自建大模型设备机房,自训练或者采购数据训练,但是这个成本会很高 2、大的云厂商,类似现在提供云RDS数据库一样,提供通用或者私有的大模型应用,接入企业数据,进行训练。;关于合规性,现在私有云容器化是金融业的趋势,所...显示全部

我个人认为,未来大模型应用会呈现两个发展方向 1、实例强大的自建大模型设备机房,自训练或者采购数据训练,但是这个成本会很高 2、大的云厂商,类似现在提供云RDS数据库一样,提供通用或者私有的大模型应用,接入企业数据,进行训练。;关于合规性,现在私有云容器化是金融业的趋势,所以大模型上云提供服务,不存在合规性的大面上的问题。只有少数的问题需要解决。例如加强安全防护措施,和设置敏感规则等。
所以我认为中小券商大模型应用选择一个可靠的云服务商 ,利用云服务商提供的大模型进行应用。
国家也有一个大数据计算中心,但是每次使用要么需要申请,要么需要缴纳资金。个人感觉不是很方便,毕竟管理权不在券商机构自己手中。

收起
互联网服务 · 2023-06-30
浏览857
匿名用户匿名用户
这个不是一家机构的问题,目前是行业内普遍存在的问题,目前很多家大厂的大模型,对国产npu的支持的并不好,而在信创的大背景下,大机构也很难投入去买足够的gpu算力去支撑大模型的训练。所以大模型的落地之路,目前国内并不太好走。大部分机构应该会妥协,本地只进行推导,训练依赖大模...显示全部

这个不是一家机构的问题,目前是行业内普遍存在的问题,目前很多家大厂的大模型,对国产npu的支持的并不好,而在信创的大背景下,大机构也很难投入去买足够的gpu算力去支撑大模型的训练。
所以大模型的落地之路,目前国内并不太好走。大部分机构应该会妥协,本地只进行推导,训练依赖大模型厂商,不过这样效果肯定大打折扣
目前可能的一个方向,由国家牵头成立一些模型训练的中心,提供共享的gpu算力,这样一定程度上可以满足合规性的要求。
不过这仅仅是一个设想,道阻且长

收起
证券 · 2023-06-27
浏览940
13946682qqcom13946682qqcom软件研发总监深圳宝安建筑投资智能科技有限公司
中小规模可以采用公有云GPU,节省成本,弹性伸缩,公有云有技术服务。中小规模证券公司技术服务团队一般,需要外力解决。公有云都有数据安全的保密和技术方案不用担心数据会泄露。解决算力和模型为根本。...显示全部

中小规模可以采用公有云GPU,节省成本,弹性伸缩,公有云有技术服务。中小规模证券公司技术服务团队一般,需要外力解决。
公有云都有数据安全的保密和技术方案不用担心数据会泄露。解决算力和模型为根本。

收起
政府机关 · 2023-07-02
浏览840

ChatGPT 回答

针对中小规模券商如何拥抱大模型应用,可以从以下几个方面进行思考:

  1. 与其他券商合作共享资源

中小规模券商可以考虑与其他券商合作,共享GPU算力资源,以降低自建机房GPU算力资源的成本。此外,还可以通过与其他券商合作,共享数据资源,以提高数据处理和分析的效率。

  1. 选择符合合规要求的大模型AI服务提供商

中小规模券商在选择大模型AI服务提供商时,需要考虑其是否符合合规要求。可以选择那些已经通过相关监管机构认证的服务提供商,以确保数据安全和合规性。

  1. 选择适合自身业务特点的大模型AI应用

中小规模券商在选择大模型AI应用时,需要结合自身业务特点,选择适合自己的应用。例如,可以选择一些针对股票市场的大模型AI应用,如股票预测、交易策略优化等,以提高交易效率和盈利能力。

  1. 加强技术人才培养

中小规模券商可以加强技术人才培养,提高自身的技术实力。可以通过招聘优秀的技术人才,或者通过培训现有员工来提高技术水平,以更好地应对大模型AI应用的挑战。

总之,中小规模券商要想较好地拥抱大模型应用,需要与其他券商合作共享资源,选择符合合规要求的大模型AI服务提供商,选择适合自身业务特点的大模型AI应用,以及加强技术人才培养。

提问者

ufpstarhawk
系统工程师浙商证券
擅长领域: 人工智能GPU服务器

问题来自

相关问题

相关资料

相关文章

问题状态

  • 发布时间:2023-06-27
  • 关注会员:6 人
  • 问题浏览:2576
  • 最近回答:2023-07-14
  • X社区推广