人工智能人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能从诞生以来，理论和技术日益成熟，应用领域也不断扩大，可以设想，未来人工智能带来的科技产品，将会是人类智慧的“容器”。...(more)
热点
大语言模型·2023-10-03
本文根据最近学习心得整理而成，主要阐明如何去设计一个大模型的IT基础设施，文章内容会保持在框架性方法层面，尽量避免具体细节绑定而产生的面向范围狭窄问题。一．前期评估首先，在开始设计之前，你必须明确自己搭建私有化大模型的目的所在，并对可投入的时间和成本有明确估算，确保在...(more)
我觉得现阶段不要想的太多，也不要用之前搞系统的方式来看待新东西。使用似SuperCLUE，C-Eval等的评测，加上自己的一些主动评测就好。其实目前私有化部署方面Llama2 是最佳选择，做大模型评测交给类似BAAI(flagEval等)，SuperCLUE就好，不要自己去玩。...
大语言模型·2023-07-05
说到潜在问题，个人理解可能有以下几个方面的问题吧。一是数据隐私问题：大语言模型需要大量的数据来训练和优化模型，但是金融企业处理的数据通常包含大量的隐私信息，如个人身份信息、信用卡信息、财务信息等。如果这些数据不加保护地被用于训练模型，可能会泄露客户隐私，引起法律...
自动化运维·2023-07-26
前几天看计世资讯的报告，核心观点是PaaS的黄金发展期到了，我非常认同。其实随着平台从IaaS上升到PaaS,系统复杂度日益提高，自动化运维（智能运维、AIOPS、IToA、IToM...)的机会也到来了，最近好件事都跟自动化运维相关，就是最好的证明。一、我们看到的一些趋势1、巨头们是怎么看...(more)
浏览651
NVIDIA nemo 是由英伟达开发，可用于数据收集、大模型训练、微调、部署。框架具备fine-tuning, prompt learning, and adapter techniques能力，对模型生成内容做优化，学习特定领域知识等；推理上框架使用 NVIDIA Triton优化 AI 推理；数据处理上，nemo包含全面的数据预处理功能，能完...
