在大模型计算中GPU如何加速计算？

1）大模型训练可以用英伟达megatron-lm或megatron-deepspeed、Deepspeed。
2）在模型推理过程中，使用FasterTransformer框架，也可以使用deepspeed框架进行加速推理。