传统大中型金融企业IT基础架构关键角色（存储岗、数据库岗、计算岗、网络岗等等），在大模型微调项目落地过程中应该提升哪些核心技能以及提升的路径建议？才能更好的去拥抱和应对大模型趋势，希望各位老师可以给我们这些IT基础架构的人员在拥抱大模型趋势下，应该需要提升哪些核心技...(more)

当金融行业选择训推一体化架构建设大模型时，需要提前考虑那些方面的因素，通过那些方面进行可行性分析？

汽车制造行业遇到资源需求波峰波谷的，也就是某个时间任务特别的多，出现很多排队情况 ，如何合理编排？

行业通用硬件、中间件、数据库等平台日志相对标准，日志错误信息有相应文档，如果利用Chatgpt的能力，实现对于通用平台日志的分析能力。行业通用大模型无法很好的实现运维领域知识的学习，是否应打造一个运维行业的大模型，并以通用平台日志作为切入点。希望这次 主要交流的点首...(more)

金融企业落地大语言模型需要大量硬件投资成本吗？一般喜欢采购现有模型来调优，这样有什么需要潜在注意的。引入大模型对合规风控以及监管这一块有什么影响？

场景数据集不多 是否不建议大模型微调 且大约多少的数据量可以支撑大模型微调呢？

金融行业建设大模型推理集群和训练集群时，搭配存储进行整体规划，需要考虑那些因素，如何选择合适的存储提升大模型的整体性能？

1.该议题希望探究大模型在信用评估、欺诈检测和客户服务场景中的微调策略，分析其共性与差异，以优化模型性能。2.一些个人看法共同点：所有场景均需针对特定任务微调预训练模型，以提升性能。差异点：信用评估侧重信贷历史分析，欺诈检测需识别异常行为，客户服务强调自然语言处理。3....(more)

大模式如何与原有架构（如数据湖、湖仓一体、数据仓库）相结合，成为了企业架构中需要考虑的问题。企业需要对现有的数据架构进行全面的评估，了解其功能、数据处理能力、存储容量、查询性能等，有助于确定大模型与原有架构结合的方式和可行性。企业还需定义统一的集成接口标准，使大...(more)

考察向量数据库的高可用设计、运维设计、国产软硬件的兼容性设计，以及典型故障等运维实践。

议题中的业务数据主要是指金融行业应用系统运营过程中实时产生的业务属性相关数据，IT技术数据是指承载该应用系统机房、网络、服务器、操作系统、数据库等软硬件实时运行数据。主要面临困难：在金融行业中，如何将应用系统业务数据和IT技术数据进行充分融合，并利用大模型算法实...(more)

大模型在银行的应用领域可以覆盖从前台到后台的各个环节。银行的每条业务线、每个职能部门，都有可能挖掘大模型的应用潜力。在安全可控的前提下，一旦在银行实现大规模应用，将有望带来显著的成本降低和效率提升。那么，大模型在金融服务中的最新算法、技术和应用案例可以探讨一...(more)

测试数据用sysbench写20个表x每表25000条数据，同步到redis要花半小时。请问各位大拿，问题出在什么地方呢?

目前全国大模型厂家这么多，在进行私有化落地的时候，就需要进行大模型的POC测试与选型，我们总结了目前内部比较关注的一些点 产品能力： 1.效率稳定性 2.性能优越性 3.安全可控性 服务能力：1.工程化能力2.平台生态能力3.需求匹配能力对于这些点，存在一个比较稳定的通用测试方案。...(more)

大模型幻觉是生成式的特点，但实际落地应用，很多是需要相对确定的答案，幻觉会带来无效或者偏离的回答。现在虽然有rag应用缓解，但仍存在比较大的问题，怎么解决？

大模型通常基于历史数据进行训练，并不具备实时获取和处理新数据的能力，如何即时更新模型中的知识储备？ 对于客户实时性较强的最新资讯或问题行业历史信息一段文字较长，如分解拆成多段内容（如2000字）去训练，如何满足整个话术时效性及准确性问题。...(more)

大模型的训练和推理需要强大的计算资源和高性能的基础设施。金融行业可能需要投资于强大的服务器、存储系统和网络基础设施，以满足大模型的计算需求。此外，还需要考虑到可扩展性和高可用性，以支持模型的训练和实时推理。如何构建可扩展且高可用的基础设施，以满足大模型的计算...(more)

个人认为chatgpt在金融业落地的时间不会特别早，现在是在炒作概念时期，虽然已经有相关公司推出相应的产品，但是产品还有待完善。技术迟早会进行升级，产品也会越来越完善，基于以上出发点需要做出前期准备工作，我认为应用场景才是大家需要提前考虑的。1chatgpt的智能客服不会再被...(more)