最新消息:欢迎访问本站,我们会持续分享有价值的内容,感谢您的关注与支持。

标签:模型训练

一文看懂AI大模型的并行训练方式(DP、PP、TP、EP)
好奇一下

一文看懂AI大模型的并行训练方式(DP、PP、TP、EP)

来源:鲜枣课堂公众号 爱 好奇 11个月前(12-01) 571浏览 0评论

大家都知道,AI计算(尤其是模型训练和推理),主要以并行计算为主。 AI计算中涉及到的很多具体算法(例如矩阵相乘、卷积、循环层、梯度运算等),都需要基于成千上万的GPU,以并行任务的方式去完成。这样才能有效缩短计算时间。 搭建并行计算框架,一般会用到...

>