随着AI大模型的普及应用，保护隐私和数据安全的重要性愈加突出。通过加强数据安全保护、强化用户隐私保护以及进一步加强技术研究和创新，我们能够更好地应对AI大模型带来的智能涌现，并确保隐私和数据的安全性。...(more)

汽车制造行业遇到资源需求波峰波谷的，也就是某个时间任务特别的多，出现很多排队情况 ，如何合理编排？

大模型作为新的应用范式，对数据存储的需求与传统业务有所不同。本议题交流核心是分析大模型应用对数据存储需求的特殊性在哪些方面？ 又有哪些与传统业务数据存储需求一致的地方？...(more)

1.背景：随着人工智能技术的快速发展，大型企业纷纷投入到大型模型（如大语言模型、多模态大模型等）的研发与应用中。大模型因其强大的理解和生成能力，在各个领域都有着广泛的应用前景。然而，要将大模型真正应用于实际场景，为企业带来价值，就需要进行微调项目，这是一个涉及技术研发、...(more)

对于HPC算力需求的不断增加和计算需求的不确定性，是否可以做到有效的资源需求预测，以免多建浪费，少建满足不了需求？

向量数据库定位为大模型落地解决数据更新、知识图谱构建、消除幻觉等问题，当前向量数据库市场存在不同的技术路线和诸多厂商的产品，企业面临根据自身应用场景和大模型技术栈，选择适合自身需求的向量数据库的难题。通过本话题的探讨重点考察向量数据类型、向量检索算法、数据...(more)

微调后大模型容易出现灾难性遗忘，导致其他能力下降。使用什么数据和技术组合，能提升特定任务的同时，不造成其他能力丧失，对企业处理多业务功能需求有很大意义。

业务人员的业务需求，如何转换为对数据的请求？在众多数据表中， 如何找到和目标业务有关的数据表

微调过程中，有很多种种任务，如何收集和标注多种情况的数据，对提升大模型的综合能力应对有重要意义，希望大家可以针对：长尾场景下的数据如何清洗进行探讨，可以从方法，措施，以及注意点方面进行共识交流？...(more)

传统大中型金融企业IT基础架构关键角色（存储岗、数据库岗、计算岗、网络岗等等），在大模型微调项目落地过程中应该提升哪些核心技能以及提升的路径建议？才能更好的去拥抱和应对大模型趋势，希望各位老师可以给我们这些IT基础架构的人员在拥抱大模型趋势下，应该需要提升哪些核心技...(more)

在银行风控领域，模型广泛地应用于舆情监测、客户关系挖掘、客户评级、异常预警等场景，也积累了大量的规则和算法，并产生了较大的价值。在当前大语言模型的讨论中，风控是比较热门的潜在应用场景之一，那么大语言模型的什么能力，有可能应用在风控的什么场景，并产生优于原有策略或模...(more)

1.该议题探讨评估微调后大模型在实际业务场景中效果的性能指标，确保模型优化与业务目标一致。2.一些个人看法：性能指标应反映模型准确性、效率、稳定性及业务相关指标，如用户满意度和成本节省。准确性指标包括精确度等；效率指标关注响应时间；稳定性指标评估模型抗扰动能力；业务...(more)

金融行业涉及大量敏感的客户和交易数据，建立大模型需要处理和存储这些数据。确保数据的隐私和安全是至关重要的。在处理大规模金融数据时，有哪些最佳实践和技术措施可以减少数据泄露和滥用的风险？...(more)

大模型训练过程比传统的分布式训练复杂,训练周期长达数月。本议题核心研讨如何运用存储技术手段提高大模型训练的数据存储效率。

1.该议题希望构建大模型的评估框架，以科学选择适宜的大模型，确保在特定业务中实现卓越性能。2.一些个人看法评估标准：准确性、效率、资源消耗、模型透明度和系统兼容性。适配性：评估模型在不同数据和任务中的适应性和泛化力。实践案例：案例研究，指导模型选择与评估。3.该议题的...(more)

1.背景：随着大型模型的发展，企业在人力、财力、物力等方面的资源投入变得尤为重要。这些资源的合理分配和支持对于大型模型的建设至关重要。2.痛点：企业在有限的资源条件下，如何优化资源配置，以最大化项目的效益，是一个亟待解决的问题。3.问题：企业如何建立ROI模型，以实现资源投...(more)

本议题重点围绕：加速训练效率可以采用哪些技术手段？以及存储技术对加载数据减少GPU等待时间、降低训练耗时等方面的作用？

金融行业对于决策的解释和透明度要求较高。大模型的黑盒特性和复杂性可能会对模型的解释性和可解释性提出挑战。确保模型的决策过程是可解释和可理解的，以满足监管和合规的要求，是一个重要的问题。如何确保大模型的决策过程是可解释和透明的？有哪些方法可以增加模型的解释性...(more)

当金融行业选择训推一体化架构建设大模型时，需要提前考虑那些方面的因素，通过那些方面进行可行性分析？