如何在金融服务使用大模型时确保数据隐私和安全？（交流共识总结）

字数 5160阅读 3167评论 0赞 1

内容摘要：

金融行业应用大模型需加强数据安全保护，采用访问控制、数据脱敏、数据加密等措施，建立明确的数据隐私和安全政策，选择可信的供应商，防止数据滥用和泄露。

当前摘要为AI生成

## 议题说明：
随着数字金融的加速发展，数据安全与隐私保护已经成为金融行业的关键话题。金融行业数据规模大、数据类型多、数字化基础强、市场规模大、客户付费能力强，是大模型应用落地的最优场景之一。在大模型的加持下，金融行业的智能化更强迎来新一轮的创新和加速。对金融机构来说，数据安全隐私合规，是没有妥协的硬指标，有非常严格的要求。本身金融行业对数据安全和隐私合规有着严格的要求，注定了金融大模型在采集、传输、加工及处理信息的各个环节，都要比通用大模型乃至其他行业大模型更为谨慎。通过加强数据安全保护、强化用户隐私保护以及进一步加强技术研究确保数据隐私和安全，更好地应对大模型带来的智能涌现，并确保隐私和数据的安全性。

**议题主持人：徐园园 秦皇岛银行 数据架构师**
**主持导语：**大模型时刻的到来，将金融机构数字化、数智化转型引入新阶段，由于金融数据的敏感性，大模型在金融领域的建设并非一蹴而就，数据与算力的基础建设、数据安全与隐私保护等内容都是不可忽视的问题。金融领域数据量庞大，为满足大模型需求，高性能计算设施和存储能力增加了金融机构的成本负担。另外，金融领域涉及大量敏感客户数据和交易信息，确保数据隐私和确保安全至关重要。

**徐园园 秦皇岛银行 数据架构师**
在金融行业涉及大量的数据，包括客户交易数据、市场数据等。企业需要从各种来源获取这些数据，并进行整合，以供大模型使用。数据的获取和整合可能涉及到隐私保护、合规性等问题，企业确保数据的隐私和安全是至关重要的，以防止数据泄露和滥用。针对“大模型应用落地过程中有哪些技术手段可以保障法律合规性和数据安全？”，社区用户的投票结果和分析如下。
![](/home/attachment/202405/13/1261859_171558324961308.png)
参与用户来自企业：中国银行、中国邮政储蓄银行、广发银行、中信银行、中国民生银行、中国进出口银行、自贡银行、福建农信、昆仑银行、秦皇岛银行、新网银行、国泰君安证券、浙商证券、安信期货、东海期货、英大基金、上交所技术、国金证券、中天国富证券、光大证券、北大方正人寿、利安人寿、海港人寿、哈银消金、大地保险、暨南大学附属第一医院、山东移动、赛轮集团。

采用访问控制和身份验证措施，获得了20%的投票比例；采用数据脱敏措施，获得18.7%的投票比例；采用数据加密与数据追溯措施，均获得15.3%的投票比例；采用安全审计措施，获得14.7%的投票比例。由此可知，金融机构需要加强对大模型技术的研究和应用，不断提升自身技术水平和管理水平。金融机构在应用大模型技术时，需要克服数据的碎片化和孤立化，建立访问控制和身份验证机制，采用数据脱敏、数据加密技术，提升数据追溯的能力。金融机构需要加强对大模型技术的风险识别和安全审计，建立健全的风险管理和应急预案，确保大模型技术的应用不会给金融机构带来新的风险和隐患。

**国宏 国金证券 AI算法工程师**
在大模型应用时，需要严格控制数据权限，防止未经授权的访问和潜在的数据泄露风险，保证模型输出的准确性和可靠性。

证券行业凭借业务高灵活性、强机动性、多创新性，抢先实现大模型+券商落地，为智能分析、量化交易、智能投顾、合规风控等业务注入新活力。在大模型应用时，需要严格控制数据权限，防止未经授权的访问和潜在的数据泄露风险，保证模型输出的准确性和可靠性。此外，在行业大模型训练数据的采集、使用、存储、以及与第三方数据共享全流程中，也需要对数据进行数据加密、访问控制、安全审计、数据备份和恢复等措施来加强数据安全防护。在金融服务中使用大模型可以通过以下几种方式确保数据安全：

（1）安全计算，采用安全计算技术，如同态加密，安全多方计算等，以实现对数据的安全处理和计算。
（2）访问控制，建立严格的访问控制机制，限制对敏感数据的访问权限，确保仅授权人员能够访问敏感数据。
（3）数据加密，通过合理的加密方法，对敏感数据进行保护，确保数据在存储、传输和处理过程中采用加密算法。
（4）安全开发和审计：在开发大模型时候注重安全性，遵循安全开发最佳实践。

**王瑜 申万宏源证券 财富条线人工智能应用负责人**
只要进行数据应用，数据安全风险很难100%避免，只有持续提升相关工作人员的数据安全意识，以业务目标为出发点，在数据安全前提下进行规范数据应用，才能尽量减少问题。
1. 在证券行业，目前只能私有化部署，并本地处理私有化数据，才能符合合规要求。
2. 随着行业大模型建设规划的持续推进，交易所、证监会、各券商银行、硬件厂商、大模型厂商、应用厂商共同协作，建设部署在行业云的行业大模型，行业通用数据共享，各机构私有数据可存储于行业云，但根据权限进行访问；也可存储在私有化服务器上。可实现整个数据的最优配置和最大化应用。
3. 在进行数据应用时，要专业的数据工程师、算法工程师才能进行相关场景建设，而且一定是正式员工，关键数据不允许外包人员或厂商接触，能减少数据泄露和滥用风险。围绕数据安全的人员素质的提升和团队意识的建立，也是重中之重。

**朱祥磊 山东移动 系统架构师**
随着大模型的普及和应用，保护隐私和数据安全变得尤为重要。
如下是数据隐私和安全技术层面上可以采取的一些措施：
（1） 数据脱敏：对敏感数据进行脱敏处理，例如使用匿名化、去标识化等技术，以保护用户隐私和数据安全。
（2）访问控制和权限管理：实施严格的访问控制和权限管理，确保只有授权的人员可以访问敏感数据。同时，对不同人员设定不同的权限级别，限制对数据的访问和使用。
（3）安全审计和监控：建立完善的安全审计和监控机制，对数据的使用和访问进行实时监控和记录。及时发现和处理安全问题，确保数据的安全性。
（4）供应商和第三方风险管理：与供应商和第三方合作时，需要评估其数据隐私和安全保障能力，确保其符合要求。同时，与供应商和第三方建立明确的数据隐私和安全协议，明确责任和义务。
（5）定期培训和意识提升：定期对员工进行数据隐私和安全培训，提升员工的数据保护意识和技能。
（6）风险评估和应对：定期进行数据隐私和安全风险评估，及时发现和处理潜在风险。同时，制定应急预案，以便在发生数据泄露等安全事件时及时响应和处理。

**董生  某金融企业  数据应用分析专家**
金融企业应用大模型时，保护客户数据隐私和安全是至关重要的，要从技术、管理和实施几个方面综合考虑。

**1.首先在技术角度**
（1）数据匿名化是保护隐私和安全的首先选择：例如使用强加密算法（如AES-256、国密）对客户数据进行加密，确保数据在存储和传输过程中的安全性。传输的信道使用https端到端加密，确保只有授权的服务或者客户可以访问解密后的数据。对于敏感数据，进行脱敏处理，避免直接暴露原始数据。或者采用差分隐私技术，通过添加噪声等方式保护数据隐私
（2）增强访问控制机制：对接入的服务客户端实施严格的访问控制策略，确保只有经过授权的用户和服务才能访问大模型特定服务。对数据授权严格把关，只有客户授权的数据才能采用模型训练。
（3）数据隔离：敏感和一般数据存储于不同的数据区域，若是多租户环境，还需要确保客户之间的数据的隔离，防止数据泄露和滥用。
（4）在模型安全性上：在训练和使用模型时，确保数据匿名化或脱敏处理。对模型进行安全审计，确保没有潜在的漏洞或后门。将模型拆分为多个部分，分别由不同的服务持有和使用，降低模型被盗用的风险。还可以采用分布式训练方式，将数据分散在不同的节点上进行训练，减少单点故障和数据泄露的风险。

**2.在管理角度**
制定明确的数据隐私和安全政策，并定期进行政策审查和更新，以适应不断变化的法规和最佳实践。选择可信的供应商，避免黑盒搬的泄露。
**3.最后在实施角度**
定期进行合规性检查与定期评估和审计与定期安全演练。

**丁翼 江苏省农村信用社联合社 高级经理**
金融企业的数据，特别是客户信息、账务信息、交易信息等，都是极为敏感，需要严格保障安全性的数据。

国家金融监管机构对于金融企业的数据安全都有强监管政策，一旦发生数据泄露事件，处罚将非常严厉。
一、金融企业在建设大模型应用的过程中，应该坚持私有化部署，不应将数据传输到公有云或第三方公司的服务器上用于模型训练，否则将极易造成信息泄露；
二、金融企业应尽可能自行培养AI大模型专业技术人员，不应将大模型平台建设任务全部托付于第三方外包公司人员，至少要在本金融企业员工的全程带领和监督下推进项目建设；
三、在大模型应用的使用过程中，应完善用户角色和权限控制，避免不合适的用户获取不合适的敏感信息，这样可以比较好规避用户敏感信息的外泄；
四、对外服务的大模型应用与对内服务的大模型应该物理隔离，不应共用一套应用和数据，这个也是金融行业在使用大模型时，首先确保的就是要保证数据的安全性和隐私，否则一切无从谈起。

**徐园园 秦皇岛银行 数据架构师**
在处理大规模金融数据过程中，需要不断进行数据收集、数据存储、数据分析等数据处理操作，这就带来了数据滥用和泄露的风险。

在处理大规模金融数据时，我们可以采用以下措施来防止数据滥用和泄露：
1. 数据脱敏使用：在进行大规模金融数据处理时，可以将涉及客户的敏感数据进行脱敏使用；
2. 加密敏感数据：对客户的敏感数据进行加密，确保即使数据被盗取，也无法被解密和使用；
3. 用户访问控制：基于角色访问可以控制对大数据管道多层访问最小权限管理，将访问权限限制为仅访问执行用户任务所必需的工具和数据；
4 事件调查：监控大数据日志和工具时会产生大量信息，而这些信息通常会出现在安全信息和事件管理解决方案中；
5.第三方风险管理：定期进行安全审计和漏洞扫描，及时发现和修复系统中的安全漏洞；
6. 用户行为分析：用户行为分析比内部威胁检测更进一步，它提供了一个专用的工具集来监控用户在与其交互系统上的行为。

**许小龙 某金融企业 大模型工程师**
在处理大规模金融数据时，采取一系列最佳实践和技术措施至关重要，以减少数据泄露和滥用的风险。
以下是一些推荐的减少数据泄露和滥用风险的实践和措施：

1. 数据分类和访问控制
首先，需要对数据进行分类，明确哪些数据是敏感的，并针对不同的数据类别设定不同的访问权限。敏感数据应仅限必要的人员访问，并且需要实施严格的身份验证和授权控制，确保只有经过授权的人员才能访问相关数据。

2. 数据加密
对存储和传输过程中的数据进行加密，可以使用先进的加密技术来保护数据，如AES加密、RSA加密等，确保即使数据被盗或丢失，也无法被未授权的第三方轻易访问。

3. 数据脱敏
在进行数据分析或提供给第三方使用时，应去除或替换数据中的敏感信息，以降低数据泄露的风险。

4. 安全审计和监控
定期进行安全审计，检查和评估数据安全防护措施的有效性，及时发现并纠正安全隐患。同时，部署实时监控系统，对数据访问和操作进行记录和分析，一旦发现异常行为或潜在威胁，能够立即发出警报并采取相应措施。

5. 员工培训和意识提升
加强对员工的数据安全教育和培训，提高员工对数据泄露危害的认识，自觉遵守数据安全规范，避免因操作失误导致的数据泄露。

6. 采用先进的网络安全技术
应用人工智能、机器学习等技术进行威胁检测和响应，通过自动化工具减轻人为失误造成的风险，并提高对新型攻击方式的防御能力。

7. 数据备份和恢复计划
制定详尽的数据备份策略，并确保备份数据的安全存储，同时建立快速的数据恢复机制，以防数据丢失或损坏。

8. 合规性与风险管理
确保业务合规性，并建立完善的风险管理体系，对数据安全进行持续的风险评估和管理。
通过这些实践和措施，金融机构可以有效地减少数据泄露和滥用的风险，同时确保业务的连续性和高可用性。

# 议题共识总结
通过如上社区行业用户代表和领域专家的反馈，揭示了在如今大模型时代，保护隐私和数据安全在大模型技术发展过程中的重要性。随着大模型技术的应用，用户隐私泄漏、存储敏感信息以及未经授权访问等隐私安全问题依然层出不穷并引起了社会广泛关注。通过采用敏感数据识别、异构机密计算、IO全路径密态可信访问、细粒度访问控制和权限管理、多方安全计算、联邦学习、安全评估和审计等措施，可以在技术层面上确保大模型的安全与隐私，但保护隐私和数据安全不仅是技术的要求，更是对个人权利和社会发展的必然需求。如何在金融服务使用大模型时确保数据隐私和安全的问题，意味着大模型技术和隐私计算正在迎来突破性的发展动力和安全挑战。

大语言模型数据安全

著作权归作者所有

如果觉得我的文章对您有用，请点赞。您的支持将鼓励我继续创作！

添加新评论0 条评论

Ctrl+Enter 发表

匿名评论

如何在金融服务使用大模型时确保数据隐私和安全？（交流共识总结）

添加新评论0 条评论

文章目录收起目录

作者其他文章

趋势联盟联盟文章

相关文章

相关问题

相关资料