分享
标题:[全网首发] Llama 3 微调项目实践与教程(XTuner 版)
输入“/”快速插入内容
标题:[全网首发] Llama 3 微调项目实践与教程(XTuner 版)
用户1672
用户1672
用户2000
用户2000
用户1945
用户1945
用户1105
用户1105
用户8611
用户8611
+4
2024年4月26日修改
标题:[全网首发] Llama
3 微调项目实践与教程(XTuner 版)
Llama 3 近期重磅发布,发布了 8B 和 70B 参数量的模型,XTuner 团队对 Llama 3 微调进行了光速支持!!!开源同时社区中涌现了 Llama3-XTuner-CN 手把手教大家使用 XTuner 微调 Llama 3 模型。
XTuner:
http://github.com/InternLM/XTuner
Llama3-XTuner-CN:
https://github.com/SmartFlowAI/Llama3-XTuner-CN/
1.
Llama 3 概览
首先我们来回顾一下 Llama 3 亮点概览~
1.
首次出现 8B 模型,且 8B 模型与 70B模型全系列使用 GQA (Group Query Attention)。
2.
最大模型达到 400B 规模大小,未来几个月内
发布
!
3.
分词器由 SentencePiece 换为了 Tiktoken,与 GPT4 保持一致。
4.
相比于 Llama2 的 32000 词表大小,Llama3 的词表大小来到了惊人的 128
256
。
5.
数据
方面
上
,Llama3
使用了约 15T token 用于模型的训练。
6.
开源模型大小为 8B 和 70B 两种,每种规模均有开源基座模型和 instruct 模型。
7.
Llama3 8B Instruct 模型在数学与代码能力方面数倍于 Llama2 7B chat 模型。
2.
2*A100 即可全量微调 8K 上下文 Llama3 8B
在正式实战之前我们先看一下 XTuner 团队对 Llama 3 8B 的性能测试结果,XTuner 团队在 Llama 3 发布之后光速进行了支持并进行了测速,以下
使用不同数量 GPU
全量
微调 Llama3 8B 时的训练效率,
仅需 2 * A100 80G 即可
全量
微调 8k 上下文 Llama3 8B
。
使用 8 * A100 80G
全量
微调不同上下文长度的 Llama3 8B 时的训练效率
3.
实践教程
3.1
Web Demo 部署
本小节将带大家手把手在 InternStudio 部署 Llama3 Web Demo。
环境配置
代码块
Shell
conda create -n llama3 python=3.10
conda activate llama3
conda install pytorch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 pytorch-cuda=12.1 -c pytorch -c nvidia
conda install git
git-lfs install