原文：
www.kdnuggets.com/how-to-use-hugging-face-autotrain-to-finetune-llms
编辑器提供的图片
1. Google Cybersecurity Certificate - 快速进入网络安全领域
2. Google Data Analytics Professional Certificate - 提升你的数据分析技能
3. Google IT Support Professional Certificate - 支持您的组织进行 IT 工作
近年来，大型语言模型（LLM）改变了人们的工作方式，并已在教育、营销、研究等多个领域得到应用。鉴于其潜力，LLM 可以被增强以更好地解决我们的业务问题。这就是我们可以进行 LLM 微调的原因。
我们希望对 LLM 进行微调的原因包括采用特定领域的用例、提高准确性、数据隐私和安全、控制模型偏见等。鉴于所有这些好处，学习如何对 LLM 进行微调是非常重要的，以便将其投入生产。
自动进行 LLM 微调的一种方法是使用Hugging Face 的 AutoTrain。HF AutoTrain 是一个无代码平台，提供 Python API，用于训练各种任务（如计算机视觉、表格数据和自然语言处理任务）的先进模型。即使我们对 LLM 微调过程了解不多，我们仍然可以利用 AutoTrain 的能力。
那么，它是如何工作的呢？让我们进一步探索。
即使 HF AutoTrain 是一个无代码解决方案，我们仍然可以在 AutoTrain 的基础上使用 Python API 进行开发。我们将探索代码路径，因为无代码平台在训练时并不稳定。然而，如果你想使用无代码平台，我们可以通过以下页面创建 AutoTrain 空间。整体平台将在下图中显示。
作者提供的图片
要使用 Python API 对 LLM 进行微调，我们需要安装 Python 包，可以使用以下代码运行。
pip install -U autotrain-advanced我们还会使用来自HuggingFace的 Alpaca 样本数据集，该数据集需要通过数据集包进行获取。
pip install datasets然后，使用以下代码获取我们需要的数据。
from datasets import load_dataset
# Load the dataset
dataset = load_dataset("tatsu-lab/alpaca")
train = dataset['train']此外，我们会将数据保存为 CSV 格式，因为我们在微调过程中需要它们。
train.to_csv('train.csv', index = False)在环境和数据集准备好之后，让我们尝试使用 HuggingFace AutoTrain 来微调我们的 LLM。
我将从 AutoTrain 示例中调整微调过程，我们可以在 这里 找到。为了开始这个过程，我们将要微调的数据放入名为 data 的文件夹中。
作者提供的图片
在本教程中，我尝试仅采样 100 行数据，以便我们的训练过程可以更快。数据准备好后，我们可以使用 Jupyter Notebook 来微调模型。确保数据中包含‘text’列，因为 AutoTrain 只会从该列读取。
首先，让我们使用以下命令运行 AutoTrain 设置。
!autotrain setup接下来，我们将提供运行 AutoTrain 所需的信息。下面的信息是关于项目名称和你想要的预训练模型。你只能选择 HuggingFace 中可用的模型。
project_name = 'my_autotrain_llm'
model_name = 'tiiuae/falcon-7b'然后我们将添加 HF 信息，如果你想将模型推送到仓库或使用私有模型。
push_to_hub = False
hf_token = "YOUR HF TOKEN"
repo_id = "username/repo_name"最后，我们将在下面的变量中初始化模型参数信息。你可以根据需要修改这些变量，以查看结果是否良好。
learning_rate = 2e-4
num_epochs = 4
batch_size = 1
block_size = 1024
trainer = "sft"
warmup_ratio = 0.1
weight_decay = 0.01
gradient_accumulation = 4
use_fp16 = True
use_peft = True
use_int4 = True
lora_r = 16
lora_alpha = 32
lora_dropout = 0.045在所有信息准备好之后，我们将设置环境以接受我们之前设置的所有信息。
import os
os.environ["PROJECT_NAME"] = project_name
os.environ["MODEL_NAME"] = model_name
os.environ["PUSH_TO_HUB"] = str(push_to_hub)
os.environ["HF_TOKEN"] = hf_token
os.environ["REPO_ID"] = repo_id
os.environ["LEARNING_RATE"] = str(learning_rate)
os.environ["NUM_EPOCHS"] = str(num_epochs)
os.environ["BATCH_SIZE"] = str(batch_size)
os.environ["BLOCK_SIZE"] = str(block_size)
os.environ["WARMUP_RATIO"] = str(warmup_ratio)
os.environ["WEIGHT_DECAY"] = str(weight_decay)
os.environ["GRADIENT_ACCUMULATION"] = str(gradient_accumulation)
os.environ["USE_FP16"] = str(use_fp16)
os.environ["USE_PEFT"] = str(use_peft)
os.environ["USE_INT4"] = str(use_int4)
os.environ["LORA_R"] = str(lora_r)
os.environ["LORA_ALPHA"] = str(lora_alpha)
os.environ["LORA_DROPOUT"] = str(lora_dropout)在我们的 notebook 中运行 AutoTrain，我们将使用以下命令。
!autotrain llm \
--train \
--model ${MODEL_NAME} \
--project-name ${PROJECT_NAME} \
--data-path data/ \
--text-column text \
--lr ${LEARNING_RATE} \
--batch-size ${BATCH_SIZE} \
--epochs ${NUM_EPOCHS} \
--block-size ${BLOCK_SIZE} \
--warmup-ratio ${WARMUP_RATIO} \
--lora-r ${LORA_R} \
--lora-alpha ${LORA_ALPHA} \
--lora-dropout ${LORA_DROPOUT} \
--weight-decay ${WEIGHT_DECAY} \
--gradient-accumulation ${GRADIENT_ACCUMULATION} \
$( [[ "$USE_FP16" == "True" ]] && echo "--fp16" ) \
$( [[ "$USE_PEFT" == "True" ]] && echo "--use-peft" ) \
$( [[ "$USE_INT4" == "True" ]] && echo "--use-int4" ) \
$( [[ "$PUSH_TO_HUB" == "True" ]] && echo "--push-to-hub --token ${HF_TOKEN} --repo-id ${REPO_ID}" )如果你成功运行 AutoTrain，你应该在目录中找到以下文件夹，其中包含 AutoTrain 生成的所有模型和标记器。
作者提供的图片
为了测试模型，我们将使用 HuggingFace transformers 包，代码如下。
from transformers import AutoModelForCausalLM, AutoTokenizer
model_path = "my_autotrain_llm"
tokenizer = AutoTokenizer.from_pretrained(model_path)
model = AutoModelForCausalLM.from_pretrained(model_path)然后，我们可以根据提供的训练输入来评估模型。例如，我们使用“规律锻炼的健康益处”作为输入。
input_text = "Health benefits of regular exercise"
input_ids = tokenizer.encode(input_text, return_tensors="pt")
output = model.generate(input_ids)
predicted_text = tokenizer.decode(output[0], skip_special_tokens=False)
print(predicted_text)
结果肯定还有提升空间，但至少比我们提供的样本数据更接近。我们可以尝试调整预训练模型和参数来改善微调效果。
有一些最佳实践你可能想要了解，以改善微调过程，包括：
-
准备我们的数据集，确保质量符合代表性任务，
-
研究我们使用的预训练模型，
-
使用适当的正则化技术以避免过拟合，
-
尝试从较小的学习率开始，逐渐增大，
-
使用更少的 epoch 进行训练，因为 LLM 通常对新数据的学习速度较快，
-
不要忽视计算成本，因为随着数据、参数和模型的增大，计算成本会变得更高，
-
确保你遵循有关数据使用的伦理考虑。
微调我们的大型语言模型对我们的业务流程有益，特别是当有特定要求时。通过 HuggingFace AutoTrain，我们可以加快训练过程，并轻松使用现有的预训练模型来进行微调。
Cornellius Yudha Wijaya**** 是数据科学助理经理和数据撰稿人。在全职工作于 Allianz Indonesia 的同时，他喜欢通过社交媒体和撰写媒体分享 Python 和数据技巧。Cornellius 涉及多种 AI 和机器学习主题的撰写。