XGBoost 模型简介

XGBoost（eXtreme Gradient Boosting）是一种基于梯度提升决策树（GBDT）的高效机器学习算法，由陈天奇博士提出。它通过并行计算、正则化处理和缺失值自动处理等优化手段，在速度和精度上显著优于传统 GBDT。

核心特点

1. 高效性：支持并行计算，训练速度快。
2. 灵活性：支持自定义损失函数和评估指标。
3. 鲁棒性：内置正则化项，防止过拟合。
4. 可扩展性：适用于分类、回归、排序等多种任务。

适用场景

• 结构化数据建模（如表格数据）
• Kaggle 竞赛中的高频获胜方案
• 需要高精度预测的工业场景

本示例使用鸢尾花数据集演示多分类任务，展示 XGBoost 的基础用法。

结果展示

输入与输出描述

1. 模型训练阶段

• 输入：鸢尾花数据集（150 条样本，每条包含 4 个特征：花萼长度、花萼宽度、花瓣长度、花瓣宽度，以及对应的 3 个类别标签）。
• 输出：
  • 训练完成的 XGBoost 模型对象。
  • 控制台打印测试集准确率（例如：模型准确率：0.9667）。

2. 单样本预测阶段

• 输入：手动构造的新样本特征数组，例如 [5.1, 3.5, 1.4, 0.2]（代表一朵花的测量值）。
• 输出：
  • 控制台打印该样本的预测类别，例如：输入特征 [5.1 3.5 1.4 0.2] 的预测类别为：第 0 类。
  • 其中 0、1、2 分别对应鸢尾花的三个品种（Setosa、Versicolor、Virginica）。

3. 概率输出（可选扩展）

• 若修改代码输出 y_pred_prob，则对于每个测试样本，会输出长度为 3 的概率数组，表示属于每一类的置信度。
  • 示例输出：[0.98, 0.01, 0.01] 表示模型以 98% 的置信度预测为第 0 类。