利用Python进行回归不连续设计评估政策干预的效果：商业中的应用

1.引言

在现代商业环境中，评估政策干预的效果是制定和优化战略的关键。然而，找到一种科学且有效的方法来衡量这些政策的实际影响常常是一个挑战。回归不连续设计（Regression Discontinuity Design, RDD）作为一种准实验设计方法，为我们提供了一个强有力的工具，来分析和评估在特定阈值或分界点上发生变化的政策或策略的因果效应。

回归不连续设计特别适用于那些政策或处理在某个阈值上发生变化的情境。通过在分界点附近的观测数据进行比较，RDD能够揭示政策或处理的真实效果。这种方法的一个显著优点是，它不需要随机分配样本，而是利用自然发生的分界点来进行分析，从而更真实地反映实际情况。

2. 基本原理及实施步骤

2.1 基本原理

在RDD中，被研究对象被分成两组：处理组和控制组。组的划分是基于某个连续变量的分界点或阈值。这个连续变量可以是考试成绩、收入水平、年龄等。假设有一个分界点，低于这个分界点的观测值被分配到控制组，高于分界点的观测值被分配到处理组。RDD假设在分界点附近，处理组和控制组的观测值在其他方面是相似的。

例如，政府可能规定家庭收入低于某个水平的学生可以获得奖学金。这时，家庭收入就是分界点变量，收入低于这个水平的学生组成处理组，收入高于这个水平的学生组成控制组。

核心假设

连续性假设：在分界点附近，未接受处理变量的结果（即潜在结果）是连续的。这意味着，如果没有处理，分界点两侧的单位在潜在结果上没有系统性差异。
局部随机化假设：在分界点附近，处理组和控制组在所有其他方面是相似的。这个假设使得分界点两侧的单位类似于随机分配到处理组或控制组。

2.2 实施步骤

确定分界点和选择范围：
- 确定政策或处理的分界点。
- 选择分界点附近的一定范围的数据进行分析。
数据准备和描述性分析：
- 收集和清理数据，确保数据的完整性和一致性。
- 进行描述性统计分析，了解数据的基本特征。
绘图分析：
- 绘制分界点附近的散点图和拟合曲线，直观展示分界点处的变化情况。
回归分析：
- 使用线性或非线性回归模型，对分界点附近的数据进行回归分析，估计处理效应。
稳健性检验：
- 通过改变分界点范围、加入控制变量等方法，验证结果的稳健性。

3.案例背景介绍

3.1 背景信息

以一家电子商务公司的客户忠诚度计划为例，展示如何应用回归不连续设计来评估政策干预的效果。该公司决定实施一项新的客户忠诚度计划，规定客户在一个月内的消费金额如果超过1000元，将在下个月获得5%的购物折扣。公司希望通过这一计划来增加客户的消费金额和购买频次，并希望评估这一政策的实际效果，以决定是否应在未来推广或调整该计划。

3.2 研究问题

该忠诚度计划是否有效地增加了客户的消费金额和购买频率？

3.3 数据准备和选择

在进行回归不连续设计分析时，选择适当的样本和数据范围是关键。对于本例中的忠诚度计划，我们需要关注在政策实施前、实施月和实施后各时间段内，消费金额接近阈值（1000元）的客户数据。通常，选择阈值前后一定范围内的数据（例如阈值的±10%范围内）进行分析是合理的，这样可以确保在阈值附近有足够的样本量来进行稳健的分析。

3.4 样本量要求

为了确保分析结果的可靠性，样本量是一个重要的考虑因素。总的样本量应在300-500个以上，这包括政策实施前、实施月和实施后的所有样本。此外，尽量保证各时间段（政策实施前、实施月和实施后）的样本量相对均衡，每个时间段最好不低于100个样本，以便能够充分评估政策的短期和长期效果。

4 数据准备

4.1 数据收集

客户消费数据：
- 每位客户每月的消费金额
- 每位客户每月的购买次数
客户信息：
- 客户ID
- 客户基本信息（如年龄、性别、所在地等）
政策阈值：
- 每月消费1000元作为分界点

4.2 数据选取和准备

在进行RDD分析时，应重点关注阈值附近的数据。这是因为RDD主要是通过比较阈值两侧的样本来评估政策的因果效应。以下是具体的数据选择步骤：

确定阈值：
- 忠诚度计划的阈值（例如，消费金额为1000元）。
选择阈值附近的数据：
- 通常选择阈值前后一定范围内的数据（例如阈值的±10%范围内）。
时间范围：
- 包括政策实施前、实施月和实施后的数据，以评估政策的短期和长期效果。

5 Python实现代码

5.1 构建测试数据

为了便于演示，此处构建对应的测试代码，具体如下：

代码语言：python代码运行次数：0复制

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import statsmodels.formula.api as smf

# 设置随机种子以确保结果的可重复性
np.random.seed(12)

# 定义样本量
total_sample_size = 450
pre_policy_size = 150
implementation_month_size = 150
post_policy_size = 150

# 生成样本数据
data = {
    'CustomerID': np.arange(1, total_sample_size   1),
    'Period': ['政策实施前'] * pre_policy_size   ['实施月'] * implementation_month_size   ['政策实施后'] * post_policy_size,
    'Spending': np.concatenate([
        np.random.normal(loc=800, scale=200, size=pre_policy_size),  # 政策实施前的消费金额
        np.random.normal(loc=950, scale=250, size=implementation_month_size),  # 实施月的消费金额
        np.random.normal(loc=1100, scale=300, size=post_policy_size)  # 政策实施后的消费金额
    ])
}

# 转换为DataFrame
df = pd.DataFrame(data)

# 添加一个二元变量，表示消费金额是否超过1000元
df['EligibleForDiscount'] = df['Spending'] > 1000
print(df.head())

5.2 进行可视化

制分界点附近的散点图，直观展示分界点处的变化情况，具体代码如下。

代码语言：python代码运行次数：0复制

import matplotlib.pyplot as plt
import seaborn as sns
from statsmodels.nonparametric.smoothers_lowess import lowess

# 可视化分析
plt.figure(figsize=(10, 6))

# 绘制散点图
sns.scatterplot(x='Spending', y='Period', hue='EligibleForDiscount', data=df, palette={True: 'blue', False: 'red'}, alpha=0.5)

# 绘制拟合曲线
lowess_pre_policy = lowess(df[df['Period'] == '政策实施前']['Spending'], df[df['Period'] == '政策实施前'].index, frac=0.3)
lowess_post_policy = lowess(df[df['Period'] == '政策实施后']['Spending'], df[df['Period'] == '政策实施后'].index, frac=0.3)

plt.plot(lowess_pre_policy[:, 0], lowess_pre_policy[:, 1], color='blue')
plt.plot(lowess_post_policy[:, 0], lowess_post_policy[:, 1], color='red')

plt.axvline(x=1000, color='black', linestyle='--')  # 分界点

plt.title('分界点附近的散点图和拟合曲线')
plt.xlabel('消费金额')
plt.ylabel('时期')
plt.legend(title='是否符合折扣条件', loc='upper right')
plt.show()

5.3 进行回归不连续设计

实现代码如下：

代码语言：python代码运行次数：0复制

# 添加一个变量表示消费金额与1000元的差值
df['Spending_Diff'] = df['Spending'] - 1000

# 筛选阈值前后10%范围内的数据
threshold = 1000
margin = 0.10 * threshold
filtered_df = df[(df['Spending'] >= threshold - margin) & (df['Spending'] <= threshold   margin)].copy()

# 添加一个表示是否在政策后期的二元变量
filtered_df.loc[:, 'Post_Policy'] = filtered_df['Period'].apply(lambda x: 1 if x == '政策实施后' else 0)

# 回归不连续设计的回归模型
rdd_model = smf.ols('Spending ~ Spending_Diff * Post_Policy', data=filtered_df).fit()

# 输出回归结果
print(rdd_model.summary())

# 可视化回归不连续设计的效果
plt.figure(figsize=(10, 6))

# 绘制散点图
plt.scatter(filtered_df['Spending_Diff'], filtered_df['Spending'], alpha=0.5, c=filtered_df['Post_Policy'], cmap='coolwarm')

# 绘制拟合曲线
predictions = rdd_model.predict(filtered_df)
plt.plot(filtered_df['Spending_Diff'], predictions, color='black', linewidth=2)

plt.axvline(x=0, color='black', linestyle='--')  # 分界点

plt.title('回归不连续设计分析结果')
plt.xlabel('消费金额与1000元的差值')
plt.ylabel('消费金额')
plt.show()

5.4 运行结果解读

运行上述代码后，我们输出模型结果概要如下：

从回归结果中，我们可以看到几个关键的统计指标和系数，以下是详细解读：

回归模型的整体表现

R-squared (R²) 和 Adjusted R-squared: R²和调整后的R²都为1.000，表示模型对数据的拟合度非常高，即模型解释了几乎所有的消费金额变化。
F-statistic 和 Prob (F-statistic): F统计量为2.043e 28，Prob (F-statistic)为0.00，表明模型整体上显著。

回归系数

Intercept (截距): 截距为1000.0000，这意味着当消费金额与1000元的差值为0且政策未实施时，预计的消费金额为1000元。
Spending_Diff (消费金额与1000元的差值): 系数为1.0000，表明每增加一元的消费差值，消费金额相应增加1元，这在直觉上是合理的。
Post_Policy (政策实施后): 系数为-7.105e-15，这个系数几乎为0，且p值为0.989，表示政策实施对消费金额的直接影响不显著。
Spending_Diff:Post_Policy (消费差值与政策后交互项): 系数为8.304e-14，p值为0.000，表示消费金额与1000元差值在政策实施后的交互项对消费金额有显著影响。尽管系数非常小，但由于其t值较高且p值为0，说明这一交互效应显著。

诊断统计量

Omnibus, Prob(Omnibus), Jarque-Bera (JB), Prob(JB): 这些统计量用于检测模型残差的正态性。Prob(Omnibus)和Prob(JB)都接近0，说明残差不完全符合正态分布，这可能需要进一步的诊断和调整。
Durbin-Watson: Durbin-Watson统计量为1.840，接近2，表明残差没有自相关问题。

结论

模型的解释能力很强：R²和调整后的R²都为1，模型对数据的拟合度非常高。
政策实施直接影响不显著：从Post_Policy的系数和p值可以看出，政策实施本身对消费金额的直接影响不显著。
交互项有显著影响：消费金额与1000元差值在政策实施后的交互项对消费金额有显著影响，尽管系数很小但具有统计显著性。

5.5 数学公式

模型建模前的数学公式

在回归不连续设计（RDD）中，我们通常会构建一个线性回归模型来评估政策干预的效果。基于前述描述的模型，我们可以定义如下数学公式：

text{Spending}_i = beta_0 beta_1 cdot text{Spending_Diff}_i beta_2 cdot text{Post_Policy}_i beta_3 cdot (text{Spending_Diff}_i times text{Post_Policy}_i) epsilon_i

其中：

text{Spending}_i 是第 i 个客户的消费金额（优惠前金额）。
text{Spending_Diff}_i 是第 i 个客户的消费金额与1000元的差值。
text{Post_Policy}_i 是一个二元变量，表示第 i 个客户是否在政策实施后（1表示政策实施后，0表示政策实施前）。
beta_0 是截距项。
beta_1 是消费金额差值的系数。
beta_2 是政策实施的影响系数。
beta_3 是消费金额差值与政策实施交互项的系数。
epsilon_i 是误差项。

建模后得出具体参数的数学公式

根据运行结果，我们得到了具体的参数估计值。将这些参数代入上面的数学公式，我们可以得到具体的回归方程：

text{Spending}_i = 1000.0000 1.0000 cdot text{Spending_Diff}_i - 7.105 times 10^{-15} cdot text{Post_Policy}_i 8.304 times 10^{-14} cdot (text{Spending_Diff}_i times text{Post_Policy}_i) epsilon_i

具体参数估计值如下：

beta_0 = 1000.0000
beta_1 = 1.0000
beta_2 = -7.105 times 10^{-15}
beta_3 = 8.304 times 10^{-14}

解读

截距项（beta_0 = 1000.0000 ）：当消费金额与1000元的差值为0且政策未实施时，预计的消费金额为1000元。
消费金额差值的系数（beta_1 = 1.0000 ）：每增加1元的消费差值，消费金额相应增加1元。
政策实施的影响系数（beta_2 = -7.105 times 10^{-15} ）：政策实施本身对消费金额的直接影响不显著（系数几乎为0）。
交互项的系数（beta_3 = 8.304 times 10^{-14} ）：消费金额差值与政策实施的交互项对消费金额有显著影响，尽管系数非常小，但其显著性表明政策对接近1000元消费门槛的客户有影响。

6 实际应用

将上述回归不连续设计（RDD）的分析结果应用到实际场景中。

6.1 实际场景中的结论

政策实施本身对消费金额的直接影响不显著：从Post_Policy的系数和p值可以看出，政策实施并没有显著直接影响客户的消费金额。这意味着单纯的政策实施可能不足以显著改变客户行为。
消费金额与1000元差值在政策实施后的交互项有显著影响：尽管交互项的系数非常小，但其显著性表明，消费金额与1000元差值在政策实施后的交互项对消费金额有显著影响。这可能表明政策对特定客户群体（例如接近1000元消费门槛的客户）有一定影响。

6.2 实际应用建议

针对特定客户群体进行营销：
- 精确目标客户：由于政策对接近1000元消费门槛的客户有显著影响，公司可以针对这些客户进行更精确的营销活动。例如，向那些在月消费金额接近但未达到1000元的客户发送个性化优惠券或促销信息，以鼓励他们增加消费。
- 跟进客户反馈：了解为什么这些客户群体响应了政策，而其他客户群体没有显著变化，从而优化忠诚度计划。
增强政策吸引力：
- 提高折扣力度：如果5%的折扣力度不足以显著影响大部分客户的消费行为，公司可以考虑提高折扣力度，或在某些特殊时期（如节假日）提供更高的折扣。
- 多样化激励措施：除了折扣，考虑引入其他形式的激励措施，如积分奖励、免费赠品等，以吸引更多客户参与。
持续监控和优化政策：
- 数据驱动的决策：建立持续的监控和分析机制，定期评估政策的效果。使用更长时间的数据进行分析，以评估政策的长期影响。
- A/B测试：在不同的客户群体或地区进行A/B测试，比较不同政策或不同折扣力度的效果，找到最有效的策略。
客户反馈和满意度调查：
- 获取客户反馈：通过调查问卷或客户反馈渠道，了解客户对忠诚度计划的看法和建议，以便调整和优化政策。
- 提升客户体验：确保忠诚度计划的参与流程简单明了，提升客户体验，从而增加客户的参与度和忠诚度。

6.3 进一步的分析建议

增加更多变量：考虑引入其他潜在影响因素，如客户的历史消费行为、购买频次、产品种类等，以更全面地评估政策效果。
多种模型比较：尝试其他统计模型或机器学习方法进行分析，比较不同模型的效果，以找到最适合的数据分析方法。
处理多重共线性：检查是否存在多重共线性问题，并采取相应措施（如主成分分析或岭回归）进行处理，以提高模型的稳定性和解释力。

通过这些措施和建议，公司可以更有效地评估和优化客户忠诚度计划，从而提升客户消费金额和购买频次，实现业务增长。

写在最后

通过回归不连续设计评估政策干预的效果，可以帮助公司科学地评估和优化其客户忠诚度计划，从而提升客户满意度和销售业绩。通过数据的合理选取和分析，可以有效地评估政策效果，为后续的决策和策略提供坚实的数据支持。

腾讯技术创作特训营S8 数据挖掘线性回归数据分析

0 人点赞