金融企业落地大语言模型有什么潜在问题?

金融企业落地大语言模型需要大量硬件投资成本吗?一般喜欢采购现有模型来调优,这样有什么需要潜在注意的。引入大模型对合规风控以及监管这一块有什么影响?

参与21

5同行回答

朱向东朱向东课题专家组高级工程师某银行
说到潜在问题,个人理解可能有以下几个方面的问题吧。一是数据隐私问题:大语言模型需要大量的数据来训练和优化模型,但是金融企业处理的数据通常包含大量的隐私信息,如个人身份信息、信用卡信息、财务信息等。如果这些数据不加保护地被用于训练模型,可能会泄露客户隐私,引起法律...显示全部

说到潜在问题,个人理解可能有以下几个方面的问题吧。
一是数据隐私问题:大语言模型需要大量的数据来训练和优化模型,但是金融企业处理的数据通常包含大量的隐私信息,如个人身份信息、信用卡信息、财务信息等。如果这些数据不加保护地被用于训练模型,可能会泄露客户隐私,引起法律问题和公众关注。
二是模型鲁棒性问题:大语言模型往往需要大量的计算资源来进行训练和推理,而金融企业的业务场景往往非常复杂,需要高度准确的模型来进行预测和决策。如果模型的鲁棒性不够,可能会导致误判或误判率过高的问题。
三是模型可解释性问题:大语言模型的模型结构和运算过程非常复杂,往往难以解释模型的预测和决策过程。而金融企业需要对模型的预测和决策过程进行解释,以满足监管要求和客户需求。
四是资源成本问题:大语言模型需要大量的计算资源和存储资源来运行和维护,而金融企业的业务场景往往需要高度准确的预测和决策,需要大量的计算和存储资源来支持。这可能会导致高昂的资源成本,影响企业的盈利能力,但这并不一定是必然的,具体情况视企业的需求和预算而定。
五是可信度问题:大语言模型的可信度需要得到保障,否则可能会导致误判或误判率过高的问题。金融企业需要对模型的可信度进行充分的测试和验证,以保证模型的准确性和稳定性。

收起
银行 · 2023-04-14
浏览1049
dengjf99dengjf99课题专家组软件开发工程师某股份制银行
大模型的硬件投资成本是比一般人工智能模型高不少的,具体视乎用到大模型的参数量级和部署实例的多少。在合规监管方面国家网信办发布了《生成式人工智能服务管理办法(征求意见稿)》,可以参考。...显示全部

大模型的硬件投资成本是比一般人工智能模型高不少的,具体视乎用到大模型的参数量级和部署实例的多少。
在合规监管方面国家网信办发布了《生成式人工智能服务管理办法(征求意见稿)》,可以参考。

收起
银行 · 2023-04-26
浏览913
daliudaliu系统架构师某金融机构
落地大模型肯定是需要投入大量的硬件成本的,而且现有的硬件可能 不能满足大模型资源配置需求,另外现有的模型可能已经过时或者不能满足金融企业的需求,因此需要采购新的大语言模型进行调优。 对于合规风控以及监管这块,除了上述回答的模型可靠性和数据安全问题外,还可能由于C...显示全部

落地大模型肯定是需要投入大量的硬件成本的,而且现有的硬件可能 不能满足大模型资源配置需求,另外现有的模型可能已经过时或者不能满足金融企业的需求,因此需要采购新的大语言模型进行调优。
对于合规风控以及监管这块,除了上述回答的模型可靠性和数据安全问题外,还可能由于ChatGPT技术的引入带来业务流程变化,从而对传统的合规和监管制度带来挑战

收起
银行 · 2023-04-25
浏览939
waring_idwaring_id技术经理某公司
大语言模型可以理解为通用人工智能(Artificial general inteligence)的一种。是指能够像人类一样在各种不同的任务和情绪中自主学习和应用知识的人工智能系统,它和解决特定问题或任务的不一样,AGI具备更广泛的适应性和灵活性,能自主学习、推理、解决问题、感知、理解语言等...显示全部

大语言模型可以理解为通用人工智能(Artificial general inteligence)的一种。是指能够像人类一样在各种不同的任务和情绪中自主学习和应用知识的人工智能系统,它和解决特定问题或任务的不一样,AGI具备更广泛的适应性和灵活性,能自主学习、推理、解决问题、感知、理解语言等。
1、大语言模型涉及的计算量非常大,考虑数据自主性和安全隐私,这类算法必须要是自主或能被监管的前提下部署。该系统涉及的硬件规模大,对应的投资成本相应也大(同时还需要考虑中美贸易战对高端计算芯片限制导致的周期和缺货风险)
2、数据隐私和监管控制以及舆论的导向都是需要重点考虑的内容
3、自主学习后系统呈现的智能决策和输出结果需要经过验证,通过什么样的方式或流程实现评估也是需要考虑
4、极端情况下系统自主学习后发展出自动对抗合规监管的情况如何发现及避免。

收起
零售/批发 · 2023-04-19
浏览966
Neil YuNeil Yu解决方案架构师金融科技公司
先弄清楚是不是真正需要大语言模型?不要为了做而做显示全部

先弄清楚是不是真正需要大语言模型?不要为了做而做

收起
银行 · 2023-08-22
浏览671

ChatGPT 回答

金融企业落地大语言模型需要大量硬件投资成本,因为大语言模型需要大量的计算资源来支持模型的训练和推理。这些计算资源包括高性能的CPU、GPU、TPU等硬件设备以及大规模的存储设备。此外,还需要专业的技术团队来管理这些设备和处理大量的数据。

采购现有模型来调优可以节省一部分的硬件投资成本,但需要注意的是,现有模型可能不完全符合金融企业的业务需求,需要进行二次开发和调整。此外,现有模型的数据安全性和可靠性也需要进行评估和验证。

引入大模型对合规风控以及监管这一块有一定的影响。大模型需要大量的数据来训练和优化,这些数据可能包含敏感信息,需要进行隐私保护和安全管理。此外,大模型的预测结果可能对金融市场产生重大影响,需要进行风险评估和监管。因此,金融企业在引入大模型时需要考虑数据安全和合规性等方面的问题。

提问者

shenchaochao
人工智能算法工程师申万宏源证券有限公司
擅长领域: 人工智能云计算服务器

问题来自

相关问题

相关资料

相关文章

问题状态

  • 发布时间:2023-04-12
  • 关注会员:6 人
  • 问题浏览:2093
  • 最近回答:2023-08-22
  • X社区推广