【C120】基于 PyTorch 和 BERT 的中文多标签分类模型示例

本项目展示了如何使用 PyTorch 和中文 BERT 构建一个多标签文本分类模型。多标签分类不同于传统单分类任务，一个文本样本可以同时对应多个标签，例如一段新闻可以同时属于“科技”“经济”和“社会”等多个主题。

代码定义了一个 BertMultiLabelClassifier 模型类，模型结构由 BERT 主干网络、Dropout 层和线性分类层组成。BERT 用于提取文本的语义表示，线性层输出每个标签对应的 logits。由于多标签任务中每个标签都是独立的二分类判断，因此代码使用 BCEWithLogitsLoss 作为损失函数，并通过 Sigmoid 函数将 logits 转换为每个标签的预测概率。

项目还给出了一个简化的中文文本输入示例，展示了文本编码、前向传播、损失计算和阈值预测的完整过程。该代码适合作为中文多标签文本分类任务的模型结构模板。

代码运行后会输出当前样本的损失值和多标签预测结果。

输出内容包括：

Loss: 1.099307894706726

Predictions: tensor([[1, 0, 0, 1, 1]], device='cuda:0', dtype=torch.int32

其中，Predictions 是经过 Sigmoid 概率转换和 0.5 阈值判断后的 multi-hot 向量。例如，当标签数量为 5 时，输出形式类似：

Predictions: tensor([[0, 0, 1, 0, 0]])

这表示模型判断该文本属于第三个标签，而不属于其他标签。由于示例模型未经过正式训练，运行结果主要用于展示多标签分类模型的输入、输出和损失计算流程。