在开发生成式人工智能应用程序时，选择合适的模型是一个关键的决策步骤。通常有两种可选方案：利用现有的预训练模型或者从头开始训练全新的模型。但在大多数实际场景下，研究人员和工程师都更倾向于从现有的基础模型出发，而不是自头构建一个全新的模型。这主要是出于以下几方面...(more)

作者:朱向东中原银行高级工程师摘要：本文探讨了向量数据库如何设计高可用架构，重点讨论向量数据库的重要性和应用场景以及高可用架构设计的必要性，并针对向量数据库高可用架构设计和向量数据库运维设计两方面，分享一些设计思路和关注点，旨在为架构师、设计师、开发者和决策者...(more)

一、议题说明在人工智能技术不断进步的今天，大语言模型在各行各业的应用愈发广泛。然而，面对众多的大语言模型，如何科学、合理地选择最适合企业和开发者需求的模型，成为了一个关键问题。本议题的目标是深入探讨构建科学的大语言模型选型评估框架，以及应包含哪些评选维度，旨在帮...(more)

一、议题说明随着人工智能技术的不断突破，大模型在众多领域开始显现其巨大潜力。在运维领域，我们看到一些领先的企业正在运用大模型赋能稳定性保障工作，比如利用大模型赋能IT服务台与知识库管理的服务质量、辅助编写脚本、与ChatOps结合打造高效的协同效率、辅助进行故障定...(more)

大模型通常使用分布式架构搭建系统来进行训练，而分布式架构在设计时就已经把意想不到的各种故障当做寻常事件，并且要建立有效应对机制，Checkpoint断点也是其中一种。checkpoint机制我认为可以类比为快照，它定期保存某些个时间点的完整模型状态的数据，形成如果发生故障，我们就可...(more)

一、议题说明：在过去数年间的数字化、数智化浪潮下，银行等金融机构对于智能风控、模型算法早已不再陌生。在风控领域，模型广泛地应用于舆情监测、客户关系挖掘、客户评级、异常预警等场景，也积累了大量的规则和算法，并产生了较大的价值。以商业银行为例，此前，银行数字化转型的本...(more)

自然语言处理（NLP）是人工智能领域中一项重要的研究方向，涉及机器对人类语言进行理解和生成。然而，语言的复杂性和多样性使得处理自然语言任务成为一项极具挑战性的任务。在这个领域中，LLMTraining扮演着至关重要的角色。LLMTraining可以被看作是一次模型的深度学习之旅，通过高...(more)