How to Estimate Dose-Response Curves When DoubleML Falls Short
TL;DR · AI 摘要
DoubleML在处理连续治疗变量时存在三大局限,Kennedy的双重稳健剂量反应估计器通过部分池化技术可同时解决所有问题。
核心要点
- DoubleML假设治疗效应线性,无法捕捉剂量反应曲线的非线性特征
- Kennedy方法通过部分池化技术实现200个群体的曲线估计
- 双重稳健估计器在处理隐藏混杂因素时比传统方法更可靠
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- 剂量反应估计方法对比
- DoubleML局限性
- 线性假设缺陷
- 非双重稳健
- 单群体估计
- Kennedy方法优势
- 双重稳健性
- 部分池化技术
- 多群体曲线估计
金句 / Highlights
值得收藏与分享的关键句。
DoubleML的θD项假设效应线性,导致非线性曲线被简化为单一斜率
Kennedy方法通过部分池化技术,使200个群体的曲线估计更精确
双重稳健估计器在治疗模型错误时仍能保持估计无偏性
连续处理与剂量-反应曲线的DoubleML
数据科学
当DoubleML不足时如何估计剂量-反应曲线
模拟测试将DoubleML与Kennedy的双重稳健估计器进行对比,采用200家门店的分层混合方法,并通过双重差分法修正隐藏混杂因素。
Ryan OSullivan
2026年11月18日
14分钟阅读
在Google上推荐我们
分享
并非所有处理都是二元的:营销支出、价格、折扣深度、应用通知、客户服务响应时间。我们经常需要知道"合适的程度",而不是简单询问"这个处理是否有效"。当处理是连续变量且非随机选择时,常用方法是双重机器学习(Chernozhukov等,2018),通常采用DoubleML中的部分线性模型(Bach等,2022)。对于二元处理,DoubleML的交互模型具有双重稳健性;对于连续处理,部分线性模型是常规选择,但在实践中存在三个重要限制:
- 仅返回一个数值。假设效应线性,因此上升后下降或饱和曲线会显示为单一斜率。
- 默认评分不具有双重稳健性。当处理模型错误时,即使结果模型很好,估计值也会有偏差。
- 每个群体仅给出一个答案。如果需要为200个群体中的每个绘制曲线,逐个循环会导致小群体出现噪声斜率。
本文针对每个限制运行一次模拟,并展示一种能解决所有三个问题的估计方法:Kennedy等(2017)的双重稳健剂量-反应估计器,其第二阶段在分层结构中对曲线进行部分混合。然后探讨三个实际问题:应使用哪些机器学习模型、现有软件包的比较,以及当存在未测量混杂因素时的处理方法。
1. 单一斜率与完整曲线
让我们从部分线性模型开始。DoubleML的DoubleMLPLR拟合:
Y = θD + g(X) + ε
其中D是处理变量,X是混杂因素,g(X)是混杂因素对结果的影响。DoubleML使用两个机器学习模型估计θ:一个结果模型(从X预测Y),一个处理模型(从X预测D)。然后对Y剩余部分与D剩余部分进行回归(称为偏移)。
这类模型称为 nuisance 模型:我们需要它们,但本身并不关心。交叉拟合(每行的预测来自其他行训练的模型)和正交评分(对 nuisance 模型的小误差不敏感的估计方程)防止这些模型中的正则化引入θ的偏差,这是其置信区间有效的关键。问题是θD项:它假设效应是线性的,因此无论从何处开始,每个额外单位的处理都有相同的效果。
如果真实效应是曲线,你仍然会得到单一斜率:大致相当于数据中剂量的平均斜率。
替代方法是估计完整曲线:对于每个剂量a,如果所有人都接受剂量a的平均结果。需要三个步骤:
步骤1:交叉拟合两个 nuisance 模型。一个结果模型μ(x, a) = E[Y | X, A];与DoubleML的结果模型不同,这个模型将剂量作为输入。以及广义倾向得分(GPS;Hirano和Imbens 2004)π(a | x):给定X的剂量密度。
步骤2:构建伪结果。将它们合并为每行一个数值ξ,其在每个剂量的平均值即为因果曲线。
Step 3: 平滑处理,采用池化方法。使用惩罚样条(Eilers and Marx 1996)对剂量进行回归,实现分层群体间的信息共享。
Step 2 是稳健性的来源。它从回归估计开始,即对所有个体在剂量 a 处的预测结果进行平均,这本身就是一个 S-学习器。然后它添加了一个修正项:对实际接受接近 a 剂量的个体的残差进行加权,权重基于该剂量对这些个体的罕见程度,使其代表所有人。如果结果模型正确,修正项只是噪声;如果模型错误,修正项会在剂量分配模型正确的前提下消除误差。这两个模型中必须有一个正确,但不会同时正确:这就是双重稳健性。1
Step 3 将这些带有噪声的行级数值转化为平滑曲线,并在存在群体时允许小群体从大群体中借用信息。
1 伪结果定义为 ξ = (Y − μ(X, A)) · ϖ(A)/π(A | X) + m(A),其中 μ 是结果模型,π 是给定 X 的剂量密度,ϖ 是剂量的整体密度,m(a) 是在剂量 a 处对 X 进行平均的结果模型(Kennedy et al. 2017)。对于二元处理,这对应于 DoubleML 的 DoubleMLIRM 中的 AIPW 估计量。
2. 非线性效应
常见的非线性形状有两种:
- 饱和型。边际效益递减。在一个地区,广告支出的前 £10k 带来的转化率高于后续的 £10k,而本月第 20 条应用通知几乎不会带来任何效果。
- 倒 U 型。过犹不及。更大幅度的折扣虽然能赢得订单但会牺牲利润,而提高价格会在销量下降前提升单位收入。
实践中你很少能提前知道形状,而你需要做出的决策(投入多少、在哪里停止)取决于它。因此方法应该发现形状而非假设形状。
模拟设置:
- 4000 个单位和五个协变量。
- 三个协变量通过非线性函数同时驱动剂量和结果,造成混杂效应。第四个协变量影响不同单位间剂量的差异程度;第五个协变量无影响。
- 真实效应在一个数据集中是倒 U 型,在另一个数据集中是饱和曲线。
- 两种方法对所有干扰模型使用相同的学习器:梯度提升和样条回归的堆叠(第 4 节解释原因)。
每个面板对应一个模拟数据集。虚线黑线:真实剂量-响应曲线。蓝色:DR 曲线,附带 95% 置信带。橙色:DoubleML 的估计值,一条斜率为 θ 的直线。曲线覆盖观察到的剂量中间 90% 的范围并居中显示,因为仅比较形状。图片由作者制作。
DR 曲线能够拟合两种形状。DoubleML 的直线只能倾斜。在倒 U 型曲线中,其斜率接近零:单独看时会得出剂量无关紧要的结论,但实际上向任一方向偏离中间点都会带来显著损失。在饱和曲线上,它为每个单位提供相同的回报,低估了低剂量效果,高估了高剂量效果。
DoubleML 的部分线性模型包含两个得分(估计方程)。默认的 partialling out 方法仅能防止结果模型错误:如果处理模型错误,即使结果模型再准确,θ 也会存在偏差(Valentin 等人 2025)。另一种 IV 类得分具有双重稳健性,但仅适用于单个斜率 θ。我们真正需要的是具有双重稳健性的曲线,而第 1 节中的伪结果正好提供了这种特性。
- 3,000 个单位和 50 个混杂变量:其中 4 个对剂量和结果均有强非线性影响,其余 46 个影响较弱。
- "正确"的混杂模型被正确指定。"错误"模型将所有混杂变量视为线性。
- 真实效应呈倒 U 型。
每个数据集都包含结果模型和剂量模型的正确版本与错误版本。S-learner 仅使用结果模型,因此能体现错误结果模型带来的损失。
每个面板显示每个估计器的误差:其在 30 个模拟数据集上的平均估计曲线与真实曲线的差值。零点虚线代表真实值,越接近越好。蓝色区域表示 90% 的个体 DR 曲线分布范围。曲线居中显示。图片由作者提供。
当结果模型错误时,S-learner 无法捕捉曲线,而 DR 保持更接近,因为加权残差修正了大部分误差。当剂量模型错误时,DR 依然保持接近。当两者均错误时,DR 也会失效:至少需要一个模型正确。DR 剩余误差出现在剂量范围的两端,此处错误结果模型偏差最大且可用单位最少。
4. 选择混杂模型
真实数据中混杂变量通常远不止几个。客户表包含数十个特征:客户时长、消费历史、持有产品、过往联系记录。这些特征大多对客户获得的剂量和结果都有轻微影响。你无法确定哪些变量重要或如何影响,因此两个混杂模型最终都成为灵活的正则化机器学习模型。学习器的选择对结果影响显著。
- 与第 3 节相同的数据:3,000 个单位和 50 个混杂变量。
- 每个估计器拟合两次,仅改变用于混杂模型的机器学习模型:单独使用 Boosting(梯度提升树)。堆叠模型:并行拟合两个模型(梯度提升树和样条回归,每个混杂变量生成平滑曲线,类似 GAM)。预测结果通过交叉验证选择权重的加权平均。
- 三个估计器:S-learner、使用密度权重的 DR、使用平衡权重的 DR。平衡权重跳过密度计算:它们被选择使得加权后剂量与每个混杂变量不相关(Tübbicke 2022)。
30 个模拟数据集的平均估计曲线。左图:所有混杂模型均为梯度提升树。右图:所有混杂模型均为堆叠模型。虚线黑线:真实曲线。曲线居中显示;左图密度权重曲线超出图表范围。图片由作者提供。
单独使用 Boosting 时,S-learner 的曲线过于平缓,因为梯度提升树会压缩剂量效应。密度权重偏离严重:梯度提升的剂量模型为某些剂量分配近零概率,导致权重爆炸。无需密度计算的平衡权重表现最佳。使用堆叠模型时,三种方法均能恢复曲线,因为样条回归能捕捉树模型只能用阶梯近似表示的平滑关系。
在实践中:使用堆叠方法时,密度权重效果良好;如果单独使用提升方法,则应使用平衡权重。这并不意味着堆叠方法在所有情况下都更优:第6节在更复杂的数据上测试了它,此时树模型具有优势。
5. 多条曲线:跨层级借用优势
通常情况下,整个业务不会只使用一条曲线。定价团队按类别设置折扣,市场团队按国家和渠道设置预算,CRM团队按客户群体设置节奏。这些组是嵌套的(商店位于地区内,产品属于类别,活动属于渠道),其规模遵循长尾分布:少数大组拥有大量数据,而许多小组仅有极少数据。
处理这些组有三种方式:
- 完全合并:所有人使用同一条曲线。稳定性强,但忽略了组间的真实差异。
- 完全不合并:每组使用独立曲线。拥有12个客户的商店会被视为与拥有500个客户的商店知识相当。对商店循环运行DoubleML会得到相同结果,且会在每个商店的少量数据上重新拟合干扰模型。
- 部分合并(Gelman and Hill 2007):介于两者之间。每个商店的曲线由全局曲线、区域偏差和商店偏差组成:
商店 a B ⊤ β global region θ_{商店}(a) = B(a)⊤(β_global + b_region + b_商店)
B(a)是一组样条基函数。小商店的偏差会向其区域收缩,区域偏差则向全局曲线收缩。大商店拥有足够数据以抵消收缩效应。每个层级的收缩强度由数据决定。由于DR伪结果只是每行的一个数字,合并操作在DR步骤后保持不变:DR步骤处理混杂因素,合并操作处理层级结构。
- 8个地区包含200家商店。每行数据代表获得个性化折扣(剂量)的客户;结果是他们的消费金额。商店客户数从8到数百不等,存在大量小商店的长尾分布。
- 每个商店的真实曲线是倒U型曲线加上区域偏差和商店偏差。
- 每个商店都有自己的基线,这会同时提升其剂量和结果,导致商店层级的混杂因素。
- 四种方法:完全不合并、完全合并、部分合并、按商店单独拟合的DoubleML。
一个模拟数据集。按商店客户数量分组,每个商店在剂量第25百分位与第75百分位之间估计结果变化的均方根误差。图片由作者提供。
完全不合并时,商店规模越小误差越大。除最大商店外,按商店单独运行的DoubleML效果最差。即使在拥有150名以上客户的商店中,其误差仍保持在0.7左右,因为直线无法拟合曲线;小商店的额外误差来自在少量数据行上重新拟合干扰模型。完全合并的误差在大型商店中依然很高,因为所有商店都使用同一条曲线。部分合并在小型商店中误差最低,因为它会将曲线拉向区域;在大型商店中,其效果与完全不合并相当,因为数据会抵消收缩效应。
6. 与现有工具包的对比
目前已有两个工具包能使用第1节提到的伪结果估计单条双重稳健曲线:
- npcausal (R):Kennedy本人实现的版本。它使用SuperLearner(平滑回归和随机森林的集成)拟合干扰模型,并从数据中确定曲线平滑程度。
- causal-curve(Python):遵循相同步骤(其估计器称为TMLE),结合梯度提升和固定量的平滑处理。
两者都不进行干扰模型的交叉拟合,也不处理分组。下文将它们与drcurves进行比较,这是一个为本文开发的开源Python包,支持上述两种功能。
我们在三种场景下对三组方法进行了测试,每组包含10个模拟数据集:
- 第2节(5个混杂因素)和第3节(50个混杂因素)的数据。这些数据是第4节选择drcurves默认学习器时使用的模拟数据,因此对drcurves更有利。
- 更难的数据,有利于树模型,作为验证:设置阈值、混杂因素之间的交互作用以及重尾噪声。
所有包均使用默认参数,仅对npcausal做了两项例外:我们为其提供了多个带宽范围供选择,并在50个混杂因素情况下移除了库中占用内存过大的成对交互学习器。
估计曲线与真实曲线之间的均方根误差,在每种场景下的模拟数据集上取平均值。曲线已居中对齐。在更难的数据上,npcausal在10个数据集中有1个失败,因此其他9个数据集上三者进行了比较。图片由作者提供。
- 平滑数据(5和50个混杂因素):drcurves最为准确,混杂因素越多其优势越明显。npcausal在5个混杂因素时表现接近,但在50个时落后,这可能与其学习器库而非交叉拟合有关(第4节展示了学习器的重要性)。
- 更难的数据:drcurves仍领先于npcausal。在drcurves内部,仅使用平衡权重的梯度提升效果更好(0.17 vs 0.24),但仅使用密度权重的梯度提升效果很差(2.2)。没有哪种学习器在所有情况下都占优;集成方法通常与最佳结果相差不远。
- causal-curve始终表现最差,其置信区间宽度是其他方法的10至60倍,因此虽然始终覆盖真实值,但提供的信息量极少。
7. 当混杂因素未被测量时:双重差分法
到目前为止的所有内容都假设你已经测量了混杂因素。但现实中经常未被测量。客户的基础复杂性、团队文化、门店经理的技能:这些稳定特征既影响剂量又影响结果,却从未出现在数据中。没有估计器能解决这个问题,但通过使用前期数据可以做出不同假设。
如果你在剂量变化前观察到结果,且隐藏特征随时间稳定,双重差分法可以消除其影响:使用结果变化而非结果水平来拟合相同方法。为了比较不同剂量,除了简单对比处理组和未处理组,还需要更强的平行趋势假设:不同剂量单位如果剂量相同,其发展路径应一致(Callaway, Goodman-Bacon and Sant'Anna 2024)。
- 3,000个单位,5个观测混杂因素和1个隐藏的稳定特征,该特征同时提升剂量和结果。
- 剂量变化前有两个时期,之后有一个时期。真实效应呈倒U型。
- 使用相同DR估计器的三种方式:仅调整X;调整X和前期结果;或基于结果变化拟合(DiD)。
估计值与真实曲线之间的均方根误差,在10个模拟数据集上取平均值。曲线已居中对齐。图片由作者提供。
仅调整X时,特征仍会干扰曲线。加入前期结果有所帮助,因为它部分替代了特征,但曲线仍存在偏差。基于变化拟合能恢复真实曲线,因为特征相互抵消。
如果剂量对过去的结果作出反应而非稳定特征,排名会反转:此时调整前期结果是正确的,而双重差分法(DiD)存在偏差(我在《双重差分法与滞后结果回归的二元处理设计对比》中比较了两种设计)。仅凭数据无法判断这种情况。安慰剂检验能提供帮助:在两个前期阶段之间拟合曲线,此时剂量尚未产生影响。明显非平坦的曲线表明平行趋势假设不成立。应根据其相对于你关注效应的规模来判断,而非是否置信区间包含零:即使在我们的模拟中平行趋势成立,约30%的安慰剂曲线仍落在其95%置信区间外。
常见问题
我能信任这些置信区间吗?
请将其视为乐观估计。在默认堆叠设置下,我们的模拟显示95%置信区间在75-93%的时间内包含真实曲线。限制极端权重(以小偏差换取高稳定性)可能是原因之一。当干扰模型错误时,置信区间会过窄,因为区间未考虑偏差。请自行验证:保留真实混杂因素和剂量,在已知曲线的模拟结果上运行整个流程20-30次,统计区间包含真实曲线的频率。这属于伪模式模拟(Franklin et al. 2014),如果区间表现不足,它会告诉你需要扩大多少。
在什么情况下不应使用该方法?
- 未测量的混杂因素。双重稳健性可防范模型错误,但无法应对遗漏变量。
- 重叠性差。如果某些单元仅接受低剂量,数据无法推断高剂量对其的影响。仅在实际观察到的剂量范围内报告曲线。
- 群组层级设定剂量。如果商店内所有客户都获得商店折扣,商店应作为分析单元。请先进行汇总。
- 零点尖峰。"有与无"和"多少"是不同问题;请分别分析。
- 交叉群组。池化假设层级嵌套(地区内商店)。商店×渠道需要不同模型。
为什么不将处理变量分箱并使用离散估计器?
DoubleML的DoubleMLAPOS为离散处理水平估计平均潜在结果,因此对剂量分箱是可行选项。但该方法会丢失剂量顺序,每个分箱都需要独立的倾向模型和足够数据,结果依赖于分界点位置。同一分箱内不同剂量单元会被视为接受相同剂量。
EconML中的处理变量多项式如何处理?
EconML的DML估计器接受处理变量特征化器,因此可拟合θ₁D + θ₂D²。这能处理简单曲线,但需提前选择形状,仍是相同得分的半参数线性模型,且不跨群组池化。
是否有适用于此的核方法双重机器学习版本?
有。Colangelo和Lee(2020)使用核局部化双重稳健得分逐剂量估计曲线,Klosin(2021)则无需密度估计。两者都适合单人群曲线的谨慎推断。此处采用伪结果方法是因为第二阶段可使用任意回归,这使得层级池化变得简单。
能否用贝叶斯模型进行池化?
是的。岭惩罚是对偏差施加的高斯先验,通过交叉验证进行调整,而非使用超先验。在 PyMC 或 brms 中对伪结果拟合相同的样条结构,可以为每个门店的曲线提供完整的后验分布,但计算成本更高。
结论
对于连续处理变量,部分线性模型回答的问题范围通常比实际需求更狭窄。这个问题关注的是曲线:
- 形状。单一斜率无法描述曲线。在倒U型曲线中,斜率可能接近零,仿佛剂量无关紧要。应估计整条曲线而非单一斜率。
- 稳健性。当一个干扰模型错误时,DR 曲线消除了 S-学习者大部分误差,尽管在剂量范围两端仍存在部分误差。
- 学习方法。单独使用提升法会使曲线变平并破坏密度权重。将平滑学习器与提升法结合使用;没有一种学习方法在所有场景下都占优。
- 多条曲线。部分收缩为每个组分配一条曲线,将小规模曲线向其父类收缩,而大规模曲线则保持接近其自身数据。
- 假设。如果一个无法测量的稳定特质同时驱动剂量和结果,可对结果变化(DiD)拟合相同方法,并在前期阶段进行安慰剂测试。
模拟使用每个问题一个数据生成过程、已知的混杂因素和中等样本量。它们并未展示这些问题在您数据中出现的频率。但需要提出的问题是一致的:曲线可能弯曲吗?您最不确定的干扰模型是哪个?有多少组需要独立答案?您对无法观察到的混杂因素做了什么假设?
该软件包 drcurves 包含估计器、模拟以及生成本文所有图表和数据的脚本。
参考文献
- Bach, P., Chernozhukov, V., Kurz, M. S. and Spindler, M. (2022). DoubleML: an object-oriented implementation of double machine learning in Python. *Journal of Machine Learning Research*, 23(53), 1–6.
- Callaway, B., Goodman-Bacon, A. and Sant'Anna, P. H. C. (2024). Difference-in-differences with a continuous treatment. *arXiv:2107.02637*.
- Chernozhukov, V. et al. (2018). Double/debiased machine learning for treatment and structural parameters. *The Econometrics Journal*, 21(1), C1–C68.
- Colangelo, K. and Lee, Y.-Y. (2020). Double debiased machine learning nonparametric inference with continuous treatments. *arXiv:2004.03036*.
- Eilers, P. and Marx, B. (1996). Flexible smoothing with B-splines and penalties. *Statistical Science*, 11(2), 89–121.
- Franklin, J. M., Schneeweiss, S., Polinski, J. M. and Rassen, J. A. (2014). Plasmode simulation for the evaluation of pharmacoepidemiologic methods in complex healthcare databases. *Computational Statistics & Data Analysis*, 72, 219–226.
- Gelman, A. and Hill, J. (2007). *Data Analysis Using Regression and Multilevel/Hierarchical Models*. Cambridge University Press.
- Hirano, K. and Imbens, G. (2004). The propensity score with continuous treatments. In *Applied Bayesian Modeling and Causal Inference from Incomplete-Data Perspectives*, Wiley.
- Kennedy, E., Ma, Z., McHugh, M. and Small, D. (2017). Non-parametric methods for doubly robust estimation of continuous treatment effects. *Journal of the Royal Statistical Society: Series B*, 79(4), 1229–1245.
- Klosin, S. (2021). Automatic double machine learning for continuous treatment effects. *arXiv:2104.10334*.
- Tübbicke, S. (2022). Entropy balancing for continuous treatments. *Journal of Econometric Methods*, 11(1), 71–89.
- Valentin, S., Detommaso, G., Li, Y., Opper, M. and Brueckner, M. (2025). On double robustness in double machine learning . NeurIPS 2025 Workshop CauScien.
Ryan O'Sullivan 是一位拥有16年因果推断和营销组合建模经验的首席数据科学家。在LinkedIn关注他以了解更多关于营销效果评估的内容。
*所有图片均由作者创作。