双重机器学习 (Double Machine Learning, DML)

概述

双重机器学习 (DML) 是一种结合了机器学习与因果推断的统计方法，旨在解决高维协变量下的因果效应估计问题。传统回归方法在处理大量协变量时容易过拟合，导致因果效应估计偏差。DML 通过“正交化”步骤，利用机器学习模型分别预测结果变量 ($Y$) 和处理变量 ($T$)，从而剔除协变量 ($X$) 的混淆影响，最终获得无偏的因果效应估计。

核心原理

1. 第一步 (Nuisance Parameter Estimation)：使用灵活的机器学习算法（如随机森林、梯度提升树等）分别拟合 $E[Y|X]$ 和 $E[T|X]$，得到残差 $ ilde{Y} = Y - \hat{E}[Y|X]$ 和 $ ilde{T} = T - \hat{E}[T|X]$。
2. 第二步 (Orthogonalization)：利用交叉拟合 (Cross-Fitting) 技术避免过拟合，将样本分为多折，用训练集训练 nuisance 模型，在验证集上计算残差。
3. 第三步 (Final Estimation)：在残差 $ ilde{Y}$ 和 $ ilde{T}$ 之间运行简单的线性回归（或其他参数模型），斜率即为因果效应估计值。

优势

• 去偏性：有效消除高维协变量带来的混淆偏差。
• 灵活性：允许使用任意强大的机器学习模型来处理复杂的非线性关系。
• 鲁棒性：即使 nuisance 模型的收敛速度较慢，只要满足一定条件，最终的因果效应估计仍具有一致性和渐近正态性。

应用场景

• 经济学中的政策评估
• 医疗领域的治疗效果分析
• 市场营销中的广告转化率归因

结果展示说明

本部分描述运行 main.py 后的预期文本输出。

输入操作

用户在终端或命令行中执行以下命令：

python main.py

预期输出内容

程序运行结束后，控制台将打印两行主要结果：

1. 第一行输出：

   • 内容：显示计算出的平均处理效应 (Average Treatment Effect, ATE)。
   • 示例格式：平均处理效应 (ATE): 1.9850
   • 含义：表示在控制所有协变量 $X$ 后，处理变量 $T$ 每增加一个单位，结果变量 $Y$ 平均增加的数值。由于模拟数据中真实系数为 2，该结果应非常接近 2，证明了 DML 成功去除了混淆偏差。

2. 第二行输出：

   • 内容：显示前 5 个样本的个体处理效应 (Conditional Average Treatment Effect, CATE) 数组。
   • 示例格式：前 5 个样本的个体处理效应 (CATE): [1.92 2.05 1.88 2.10 1.95]
   • 含义：展示了针对不同特征个体 ($X$) 的异质性因果效应估计值。在本模拟代码中，由于设定的是常数处理效应，这些值应在 2 附近小幅波动；若修改数据生成过程为异质性效应，此处将体现不同样本间的差异。