不会大模型不要紧！只需5分钟！你也可以微调大模型！如何快速微调Llama3.1-8B

2024 年 8 月 12 日 8点热度 0人点赞 0条评论

AI浪潮席卷全球并发展至今已有近2年的时间了，大模型技术作为AI发展的底座和基石，更是作为AI从业者必须掌握的技能。但是作为非技术人员，相信大家也有一颗想要训练或微调一个大模型的心，但是苦于技术门槛太高，无从下手。今天教大家一个非常快速的方法，5分钟就可以让你快速上手去微调一个大模型。还不赶紧去试试！

什么是模型微调？

大模型微调(Fine-tuning)是指在已经预训练好的大型深度学习模型基础上，使用新的、特定任务相关的数据集对模型进行进一步训练的过程。这里我们用的微调方式选择的是Lora。

首先，我们是要基于一个开源的大模型去微调一个属于我们自己模型，所以我们要先找一个开源的大模型。而开源大模型社区，现在最火的一定是Hugging Face。但是苦于需要魔法上网，所以我们用国内的知名模型库魔搭社区。

网址：

https://www.modelscope.cn/models

比如我们接下来要演示的是近期刚发布的Meta Llama3.1-8B的一个大模型。

模型地址：

https://www.modelscope.cn/models/LLM-Research/Meta-Llama-3.1-8B-Instruct

如何快速微调一个模型呢，下载提供好的训练模型代码后，只需要准备训练数据集和修改你要训练的模型即可，是不是特别快，特别方便。

1、下载训练模型的代码

我已经整理好了，在公众号回复【Ft-models】即可获取。解压后目录如下：

（解压后）

train.py：要训练的脚本。

test.py：训练后用于测试的脚本。

chat.py：基于streamlit的简单web问答交互页面。

requirements.txt：运行时需要的python库文件。

dataset：存放要训练的数据。

models：存放模型（默认为空，启动train.py进行训练时会下载模型到该目录）

2、准备数据集

需要准备要训练的数据集，json格式的，为了训练快速，我只象征性的加了3条。后续大家根据自己需求添加即可。

（准备json格式数据集）

3、修改训练脚本（train.py） & 训练

修改训练脚本中的模型，这里选用的Llama-3.1-8B，想微调其他的模型，在魔搭社区查找完修改即可。

（修改要训练的模型名称）

修改训练的设备，因为我是mac，所以写死了用mps，大家如果用gpu训练的话，改成cuda（在此之前电脑别忘了安装驱动，但先要确认NVIDIA版本是否支持CUDA），否则值设成用cpu进行训练。

总结一下，这里的可选值有三个：mps、cuda、cpu。

（修改要训练的硬件用什么）

到这里就可以执行【train.py】进行训练了，训练的过程第一次会很慢，因为需要在线下载模型和训练代码依赖的python库。后续再次进行训练就很快了，后续的训练速度取决于你训练数据集的大小和电脑硬件的配置，用GPU肯定比CPU快多了。

训练前需要安装python环境，然后执行下面命令进行训练：

python3 train.py

（模型训练）

注意：因为我准备的训练数据只有三条，很少，只用于测试，为了训练结果更精确，所以训练的总轮数（num_train_epochs这个参数）我设定为了30，大家如果后续使用时，这个参数根据需要可以调整。

4、训练后测试

训练后的模型如何加载和使用呢？这里提供了两种方式，第一种是写了一个【test.py】的python脚本去调用。第二种是通过【chat.py】去调用，里面封装了用streamlit写的web页面。

第一种方式【test.py】:

和上面一样，打开【test.py】，需要修改要加载的模型和运行的硬件（可选值有mps、cuda、cpu）不多说了。

（修改要加载的模型名称）

（修改要推理的硬件）

运行下面代码进行第一种方式运行【test.py】进行测试：

python3 test.py

为了能看出来我们微调后模型是否有有效果，所以在训练前，我截了一个训练前的效果图。

微调训练前回答效果：

（微调前回答效果）

当我问：【什么是大模型？】

给我的回答是：【大模型（Large Model）指的是在机器学习和深度学习领域中，训练和应用的模型规模非常庞大和复杂的模型。这些模型通常由大量参数组成，能处理和学习复杂的数据模式和关系】

完全基于之前大模型自身的能力进行回答，解释了什么是大模型。

微调训练后回答效果：

（微调后回答效果）

当我问：【什么是大模型？】

给我的回答是：【LLM（Large Language Model），一般指万万级参数以上的模型，但是这个标准一直在升级，目前万亿参数以上的模型也有了。一般万万级参数以上的模型万亿参数以下的模型也有，但是这个标准一直在升级升级。】

这次回答是基于我们微调后进行回答的**，因为在数据集中我们进行了定义。所以微调是成功的**。（代码中现在把输出的max_new_tokens设定为定值100，所以会输出的结果有重复的情况）

第二种方式【chat.py】:

通过【chat.py】去调用，里面封装了用streamlit写的web页面。

运行下面代码进行第二种方式运行【chat.py】进行测试：

streamlit run chat.py

运行后会打开Web的Chatbot页面，可在页面进行提问和交互。

（基于streamlit的简版Chatbot）

我是用mac进行的微调，可能和大家不一样。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述