LightGBM 模型简介

LightGBM（Light Gradient Boosting Machine）是由微软开发的一种高效梯度提升框架。它基于决策树算法，通过以下核心技术实现速度与精度的双重优化：

核心优势

1. 直方图算法：将连续特征离散化为桶，大幅降低内存消耗和计算复杂度。
2. GOSS（单边梯度采样）：保留大梯度样本，随机采样小梯度样本，加速训练且不影响精度。
3. EFB（互斥特征捆绑）：合并稀疏的互斥特征，减少特征数量。
4. 支持并行与 GPU 加速：适用于大规模数据集。

适用场景

• 分类/回归任务
• 高维稀疏数据
• 需要快速迭代的机器学习项目

本示例使用乳腺癌数据集演示二分类任务，展示 LightGBM 的基础用法与性能。

结果展示

输入说明

运行 python main.py 后，程序将自动执行以下流程：

1. 加载内置的乳腺癌数据集（30 个特征，569 个样本）。
2. 按 8:2 比例划分为训练集和测试集。
3. 训练 LightGBM 二分类模型，并启用早停机制防止过拟合。

输出内容

终端将显示两行结果：

模型准确率：0.9825
模型已保存为 lightgbm_model.txt

• 第一行：测试集上的分类准确率（示例值约为 0.98，具体数值因随机种子略有波动）。
• 第二行：确认模型文件已成功保存至当前目录。

补充说明

• 生成的 lightgbm_model.txt 可直接用于后续预测或部署。
• 若需调整超参数（如学习率、叶子节点数），可修改 params 字典后重新运行。