大模型项目落地中，如英伟达的软件Cuda的作用是什么？
训练和推理都必须要用NVidia的GPU卡，这东西买起来堪比黄金，用起来电费哗哗，总之成本真是贵。
所以在这种前提下，N家自己的CUDA接口用得越好，更能发挥出GPU的能力。本来需要2000块卡，用得好只要1000块卡，三个月训练缩短到两个月，
增效就等于省成本了
关于TWT使用指南社区专家合作厂商入驻社区企业招聘投诉建议版权与免责声明联系我们 © 2024talkwithtrend — talk with trend,talk with technologist京ICP备09031017号-30