在LLM（大型语言模型)新时代的到来之前，我们通常会通过简单的微调来使用新数据扩展模型的能力。然而，如今我们使用的模型规模越来越大，训练所使用的数据量也随之增加，仅仅依赖微调已经无法满足大部分场景的需求。微调虽然在调整模型的语气和风格方面表现出色，但在向模型添加大量...(more)

引言提及Redis，大多数从事IT工作的都知道它是一种非常快的数据库。如果进一步问它为什么那么快，可能大多数人会回答“它是运行在内存里的数据库，所以快”。其实Redis是因为很多维度的创新才支撑了“快”的评价。如果我们了解了它在数据模型、处理模式等方面的特点，就会更加了...(more)

随着人工智能技术的飞速发展，大模型技术已成为推动金融行业创新与发展的重要力量，已被广泛探索和应用。一.大小银行布局大模型工商银行通过构建基于大模型的智能研发体系，实现了编码助手自动生成代码，其中自动生成的代码量达到了总代码量的40%。此外，该行还在国内同业中率先将...(more)

在利用和应用大型语言模型（LLM）时，适当的Datasets发挥着至关重要的作用。Datesets（Datasets）为LLM提供了广泛的语言样本，能够帮助模型理解和生成高质量的文本内容。因此，通过选择质量高、多样性强且规模适宜的Datasets，可以提升LLM的性能和适应能力，以更好地满足各种语言任务和应...(more)

为了更好的做好容灾保障，使业务能够应对机房级别的故障，滴滴的存储服务都在多机房进行部署。本文简要分析了Redis实现异地多活的几种思路，以及滴滴Redis异地多活架构演进过程中遇到的主要问题和解决方法，抛砖引玉，给小伙伴们一些参考。Redis异地多活的主要思路业界实现Redis异...(more)

本文根据最近学习心得整理而成，主要阐明如何去设计一个大模型的IT基础设施，文章内容会保持在框架性方法层面，尽量避免具体细节绑定而产生的面向范围狭窄问题。一．前期评估首先，在开始设计之前，你必须明确自己搭建私有化大模型的目的所在，并对可投入的时间和成本有明确估算，确保在...(more)

某个周末的晚上突然收到一波耗时上升报警，仔细一看报警消息，原来是出现了慢查请求导致集群耗时大幅上升，此时业务同学也收到上游服务受影响报警。在处理问题过程中，运维同学发现Redis集群中只有部分实例出现cpu利用率上升，慢查日志也集中在这几个实例，而上游业务此时没有上线或...(more)

随着技术的不断演进，在开源语言模型领域，LLaMa2已成为强有力的竞争者。LLaMa2由Meta（以前称为Facebook）开发，与同类产品ChatGPT相比具有多种优势。本文将深入探讨LLaMa2与ChatGPT差异性对比，以供大家在实际的业务场景中进行技术选型参考。1.什么是ChatGPT？ChatGPT是OpenAI于2022...(more)

前言随着深度学习的快速发展，图像分类、目标检测、语义分割以及实例分割都取得了突破性的进展，这些方法成为自然场景文本检测的基础。基于深度学习的自然场景文本检测方法在检测精度和泛化性能上远优于传统方法，逐渐成为了主流。下图列举了文本检测方法近几年来的发展历程。...(more)

大模型通常使用分布式架构搭建系统来进行训练，而分布式架构在设计时就已经把意想不到的各种故障当做寻常事件，并且要建立有效应对机制，Checkpoint断点也是其中一种。checkpoint机制我认为可以类比为快照，它定期保存某些个时间点的完整模型状态的数据，形成如果发生故障，我们就可...(more)