NVIDIA AI Enterprise 驱动生成式 AI 企业智能
资料简介:
NVIDIA AI Enterprise
NVIDIA AI Inference Platform for Enterprise
Triton Inference Server - 标准化AI模型部署和执行,提供快速且可扩展的生产环境中的AI
• 任何框架,任何模型,任何平台,任何查询类型,任何部署位置,高性能
TensorRT - 用于高性能深度学习推理的SDK,低延迟、高吞吐量
TensorRT-LLM 用于最新的大型语言模型推理加速
2024-04-16
页数15
浏览350
下载4