金融企业落地大语言模型有什么潜在问题?

金融企业落地大语言模型需要大量硬件投资成本吗?一般喜欢采购现有模型来调优,这样有什么需要潜在注意的。引入大模型对合规风控以及监管这一块有什么影响?显示全部

金融企业落地大语言模型需要大量硬件投资成本吗?一般喜欢采购现有模型来调优,这样有什么需要潜在注意的。引入大模型对合规风控以及监管这一块有什么影响?

收起
参与21

查看其它 4 个回答朱向东的回答

朱向东朱向东课题专家组高级工程师某银行

说到潜在问题,个人理解可能有以下几个方面的问题吧。
一是数据隐私问题:大语言模型需要大量的数据来训练和优化模型,但是金融企业处理的数据通常包含大量的隐私信息,如个人身份信息、信用卡信息、财务信息等。如果这些数据不加保护地被用于训练模型,可能会泄露客户隐私,引起法律问题和公众关注。
二是模型鲁棒性问题:大语言模型往往需要大量的计算资源来进行训练和推理,而金融企业的业务场景往往非常复杂,需要高度准确的模型来进行预测和决策。如果模型的鲁棒性不够,可能会导致误判或误判率过高的问题。
三是模型可解释性问题:大语言模型的模型结构和运算过程非常复杂,往往难以解释模型的预测和决策过程。而金融企业需要对模型的预测和决策过程进行解释,以满足监管要求和客户需求。
四是资源成本问题:大语言模型需要大量的计算资源和存储资源来运行和维护,而金融企业的业务场景往往需要高度准确的预测和决策,需要大量的计算和存储资源来支持。这可能会导致高昂的资源成本,影响企业的盈利能力,但这并不一定是必然的,具体情况视企业的需求和预算而定。
五是可信度问题:大语言模型的可信度需要得到保障,否则可能会导致误判或误判率过高的问题。金融企业需要对模型的可信度进行充分的测试和验证,以保证模型的准确性和稳定性。

银行 · 2023-04-14
浏览960

回答者

朱向东
高级工程师某银行
擅长领域: 服务器存储数据库

朱向东 最近回答过的问题

回答状态

  • 发布时间:2023-04-14
  • 关注会员:6 人
  • 回答浏览:960
  • X社区推广