GPU资源的容器化,可以更高效更快速更自动化实现环境置备和部署,对于其中需要的资源准备部分,会通过kubernetes的插件或Operator的方式去实现,建议客户参考英伟达提供原生开源的GPU Operator,英伟达发布的原生插件对于GPU的驱动及其兼容的CUDA版本有最好的兼容和适配性,不建议采用第三方通过CUDA拦截方式的插件,CUDA拦截的插件对于CUDA版本具有很强的依赖性,对于应用的适配和环境准备的限制都非常大,同时英伟达不提供CUDA拦截方式的技术支持。
官方GPU Operator的链接: Overview — NVIDIA Cloud Native Technologies documentation