人工智能人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能从诞生以来，理论和技术日益成熟，应用领域也不断扩大，可以设想，未来人工智能带来的科技产品，将会是人类智慧的“容器”。...(more)
热点
大语言模型·3天前
一、引言随着人工智能技术的飞速发展，大模型在各行业中的应用逐渐崭露头角，成为引领变革的重要力量。大模型通过模拟人类大脑的神经元连接方式，展现出强大的感知、思考和决策能力，为各行各业注入了新的活力。本文旨在分析保险业大模型的应用场景及规划，以期为保险业的创新发展...(more)
浏览898
大语言模型·2天前
在自从开创性论文《AttentionisAllYouNeed》发布以来，大型语言模型(LLM)掀起了一场席卷全球的人工智能革命。这种新兴技术迅速被各大企业所关注和采用，使得ChatGPT、Claude和Cohere等模型成为重要的技术支撑，为应用程序注入了新的活力和动力。这股受欢迎的浪潮也凸显了企业...(more)
浏览1525
优化方案很多，业务方面软件模型及工况优化 ，软件层面可以软件及指令集优化、mpi 参数优化、数据结构优化等，硬件层面更换先进的处理器、引入GPU加速、内存调用优化、网络优化及存储优化，优化后可以提升计算速度和效率，好的情况可以提升 1 倍 - 几倍。具体可以从如下几个方面开...
如上述朋友所说，需要结合HPC集群监控系统，统计出一段时间内仿真计算资源的使用情况，使用集群的队列功能，本地集群和云集群资源的可弹性调整算力资源的使用。
1. 计算资源预约，HPC平台可以引入预约系统，让用户提前预约资源，可以让HPC平台提前规划资源分配，避免资源需求波峰时期的排队情况。用户可以根据任务的紧急程度和优先级，提前预约所需的计算资源和时间窗口，2. 建立资源缓冲池，集群平台可以设置资源缓冲池，将一部分资源保留作为备...
高性能计算 (HPC) 平台的资源监控和分析是确保其高效运行的关键组成部分。对 HPC 平台进行有效监控可以帮助您评估工作负载与硬件的匹配情况，优化资源分配，并确保应用程序高效运行。以下是一些建议和策略：基本硬件监控：CPU 利用率：检查 CPU 核心的使用情况，确保它们没有过载。...
大语言模型·2024-04-07
在开发生成式人工智能应用程序时，选择合适的模型是一个关键的决策步骤。通常有两种可选方案：利用现有的预训练模型或者从头开始训练全新的模型。但在大多数实际场景下，研究人员和工程师都更倾向于从现有的基础模型出发，而不是自头构建一个全新的模型。这主要是出于以下几方面...(more)
浏览772
大语言模型·2024-04-01
作者:朱向东中原银行高级工程师摘要：本文探讨了向量数据库如何设计高可用架构，重点讨论向量数据库的重要性和应用场景以及高可用架构设计的必要性，并针对向量数据库高可用架构设计和向量数据库运维设计两方面，分享一些设计思路和关注点，旨在为架构师、设计师、开发者和决策者...(more)
选型评估·2024-03-25
一、议题说明在人工智能技术不断进步的今天，大语言模型在各行各业的应用愈发广泛。然而，面对众多的大语言模型，如何科学、合理地选择最适合企业和开发者需求的模型，成为了一个关键问题。本议题的目标是深入探讨构建科学的大语言模型选型评估框架，以及应包含哪些评选维度，旨在帮...(more)
