【C121】基于 PaddlePaddle ERNIE 的多标签分类模型训练

本项目展示了如何利用百度飞桨 PaddlePaddle 和 PaddleNLP 框架训练一个多标签分类模型。多标签分类任务允许一个样本同时拥有多个标签，适用于图像标注、文本主题识别、专利标签预测和短文本内容分类等场景。

项目采用 ERNIE 模型作为文本编码器，并通过 PaddleNLP 的 Trainer 机制完成模型训练、验证、保存和最优模型加载。代码中设置了训练轮次、学习率、batch size、warmup 比例、权重衰减等关键训练参数，并使用 BCEWithLogitsLoss 逻辑处理多标签任务。

从训练流程看，项目包括训练参数配置、模型保存路径设置、优化器构建、学习率调度器设置、Trainer 初始化、训练循环执行和最优模型保存等步骤。该项目适合作为 PaddlePaddle 环境下多标签文本分类任务的完整训练示例。

项目训练参数包括：

训练轮次：5

batch size：10

学习率：4e-5

训练样本数：5519

验证样本数：690

总训练步数：2760

可训练参数量：117,950,215

训练完成后，模型在验证集上的表现如下：

epoch 1：eval_accuracy = 0.8188

epoch 2：eval_accuracy = 0.8565

epoch 3：eval_accuracy = 0.8710

epoch 4：eval_accuracy = 0.8420

epoch 5：eval_accuracy = 0.8638

最优模型来自第 3 个 epoch，验证集 accuracy 为：

0.8710144927536232

训练结束后，模型和 tokenizer 被保存至：

./data/ERNIE/best_model_paddle