高效的神经网络训练

输入“/”快速插入内容

高效的神经网络训练

用户5190

2024年7月22日修改

建议阅读：

1.

混合精度训练

2.

ZeRO：针对训练万亿参数模型的内存优化

3.

PyTorch FSDP：扩展完全分片数据并行的经验

4.

LoRA：大型语言模型的低秩自适应

项目里程碑