KNN 分类简介

什么是 KNN？

K-近邻算法（K-Nearest Neighbors, KNN）是一种基本的分类与回归方法。在分类任务中，它的核心思想是：如果一个样本在特征空间中的 $k$ 个最相邻的样本中的大多数属于某一个类别，则该样本也属于这个类别。

算法原理

1. 计算距离：对于给定的测试样本，计算它与训练集中所有样本的距离（常用欧氏距离）。
2. 寻找邻居：选取距离最小的 $k$ 个样本。
3. 投票决策：统计这 $k$ 个样本中出现频率最高的类别，作为测试样本的预测类别。

优缺点

• 优点：
  • 简单易懂，无需估计参数或进行训练（懒惰学习）。
  • 适合类域交叉或重叠较多的样本。
• 缺点：
  • 计算量大，尤其是当训练集很大时。
  • 对不平衡样本敏感。
  • 需要预先确定 $k$ 值。

本代码说明

本示例使用 Python 的 scikit-learn 库，基于经典的鸢尾花（Iris）数据集演示 KNN 分类流程，包括数据加载、划分、模型训练、评估及单样本预测。

结果展示

本部分描述运行 main.py 后的预期文本输出内容。

1. 控制台整体输出

当执行脚本后，终端将依次打印以下内容：

A. 模型准确率

首先输出一行浮点数，表示模型在测试集上的分类准确度。

• 输出示例：

模型准确率：1.00

* (注：由于鸢尾花数据集线性可分性较好且测试集随机种子固定，K=3 时通常能达到 100% 或接近 100% 的准确率)*

B. 分类报告

紧接着输出一个详细的表格，包含每个类别的精确率 (precision)、召回率 (recall)、F1 分数 (f1-score) 和支持度 (support)。

• 输出示例：

```text
分类报告:
precision recall f1-score support

  setosa       1.00      1.00      1.00        10

versicolor 1.00 1.00 1.00 10
virginica 1.00 1.00 1.00 10

  accuracy                           1.00        30
 macro avg       1.00      1.00      1.00        30

weighted avg 1.00 1.00 1.00 30
```

C. 单样本预测结果

最后，程序会对代码中硬编码的一个新样本 [5.1, 3.5, 1.4, 0.2] 进行预测并输出结果。

• 输入数据：[5.1, 3.5, 1.4, 0.2] (代表花萼长宽和花瓣长宽)
• 输出示例：

输入样本 [5.1 3.5 1.4 0.2] 被分类为：setosa

* (解释：该样本特征与山鸢尾 (setosa) 最为接近，因此被归类为 setosa)*

2. 不同输入的预期行为

如果用户修改 main.py 中 new_sample 的数值：

• 若输入：[[6.7, 3.0, 5.2, 2.3]] (典型的维吉尼亚鸢尾特征)
  • 将输出：...被分类为：virginica
• 若输入：[[5.9, 3.0, 4.2, 1.5]] (典型的变色鸢尾特征)
  • 将输出：...被分类为：versicolor

该程序不包含图形化界面，所有结果均通过标准输出流以文本形式呈现。