互联网服务GPU
如何高效的GPU资源复用？
非训练场景下，测试环境如果只有少量的GPU卡，该如何进行GPU资源的复用（包括算力与显存）？
收起查看其它 2 个回答Cui Xiaonan的回答
英伟达vGPU和Operator插件在hypervisor和k8s平台均可以实现GPU的切分和多卡复用的能力，具体可以参考Overview — NVIDIA Cloud Native Technologies documentation
目前这两个组件都已经包含到NVAIE软件套件中。
非训练场景下，测试环境如果只有少量的GPU卡，该如何进行GPU资源的复用（包括算力与显存）？
收起英伟达vGPU和Operator插件在hypervisor和k8s平台均可以实现GPU的切分和多卡复用的能力，具体可以参考Overview — NVIDIA Cloud Native Technologies documentation
目前这两个组件都已经包含到NVAIE软件套件中。