原文链接：http://tecdat.cn/?p=5374
我们要估计的模型是
Y = A BX CD EY = A BX CD E，
其中Y是解释变量,,和是我们想要估计的系数。
生成数据
首先，让我们生成数据。
假设的工具变量和之间的相关矩阵如下：
代码语言：javascript复制## x d z e
## x 1.000 0.001 0.002 0.001
## d 0.001 1.000 0.700 0.300
## z 0.002 0.700 1.000 0.001
## e 0.001 0.300 0.001 1.000具体而言，相关性表明
- cor（d，e）= 0.3，这意味着是内生的; d
- cor（d，z）= 0.7，这意味着是的强大工具变量; zd
- cor（z，e）= 0.001，这意味着工具变量满足排除限制，因为它只影响到.zyd
现在，让我们使用指定的相关性为,,和生成数据.xdze
代码语言：javascript复制nvars = dim(U) 1
numobs = 1000
random.normal = matrix(rnorm(nvars*numobs, 0 , nrow=nvars, ncol=numobs);
X = U %*% random.normal
newX = t(X)
data = as.data.frame(newX)数据看起来像这样：
代码语言：javascript复制## x d z e
## 1 -0.62645381 0.1830168 -0.4694601 1.7474361
## 2 0.32950777 -0.8201385 -0.2255741 0.2818908
## 3 0.57578135 -0.3048125 0.8670061 -0.1795257
## 4 -0.62124058 -2.2153200 -0.7481687 -1.0350488
## 5 -0.01619026 0.9438195 1.2471197 0.5820200
## 6 0.91897737 0.7830549 0.6025820 -1.5924689
以及数据之间的相关性
代码语言：javascript复制## x d z e
## x 1.00000000 0.00668391 -0.012319595 0.016239235
## d 0.00668391 1.00000000 0.680741763 0.312192680
## z -0.01231960 0.68074176 1.000000000 0.006322354
## e 0.01623923 0.31219268 0.006322354 1.000000000正如我们之前指定的那样。
现在让我们指定真正的数据生成过程并生成解释变量Y
如果我们假装我们不知道真正的关系并使用和来解释，我们对和正确系数应该接近到。
OLS
如果我们只使用OLS来估计系数：
代码语言：javascript复制##
## Call:
## lm(formula = y ~ x d)
##
## Residuals:
## Min 1Q Median 3Q Max
## -3.2395 -0.5952 -0.0308 0.6617 2.7592
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 9.99495 0.03105 321.89 <2e-16 ***
## x 1.01408 0.02992 33.89 <2e-16 ***
## d 1.31356 0.03023 43.46 <2e-16 ***
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## Residual standard error: 0.9817 on 997 degrees of freedom
## Multiple R-squared: 0.7541, Adjusted R-squared: 0.7536
## F-statistic: 1528 on 2 and 997 DF, p-value: < 2.2e-16b的估计系数是1.31 instread of 1. ## 2SLS ##现在我们使用2SLS来估计这种关系。我们使用z作为d的工具变量
第1阶段：在和上回归，并将d的拟合值保存为d.ddxxzz
代码语言：javascript复制##
## Call:
## lm(formula = d ~ x z)
##
## Residuals:
## Min 1Q Median 3Q Max
## -2.59344 -0.52572 0.04978 0.53115 2.01555
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) -0.01048 0.02383 -0.44 0.660
## x 0.01492 0.02296 0.65 0.516
## z 0.68594 0.02337 29.36 <2e-16 ***
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## Residual standard error: 0.7534 on 997 degrees of freedom
## Multiple R-squared: 0.4636, Adjusted R-squared: 0.4626
## F-statistic: 430.9 on 2 and 997 DF, p-value: < 2.2e-16第2阶段：在和上回归y x d.hat
代码语言：javascript复制##
## Call:
## lm(formula = y ~ x d.hat)
##
## Residuals:
## Min 1Q Median 3Q Max
## -4.4531 -1.0333 0.0228 1.0657 4.0104
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 9.99507 0.04786 208.85 <2e-16 ***
## x 1.01609 0.04612 22.03 <2e-16 ***
## d.hat 1.00963 0.06842 14.76 <2e-16 ***
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## Residual standard error: 1.513 on 997 degrees of freedom
## Multiple R-squared: 0.4158, Adjusted R-squared: 0.4146
## F-statistic: 354.8 on 2 and 997 DF, p-value: < 2.2e-16结果
b的真值：1 OLS estiamte of b：.00963 2SLS estiamte of b：1.31356
如果治疗变量是内生的，我们使用2SLS。
点击标题查阅往期内容
R方和线性回归拟合优度
R语言用于线性回归的稳健方差估计
stata具有异方差误差的区间回归
R语言在逻辑回归中求R square R方
R语言Poisson回归的拟合优度检验
R语言使用 LOWESS技术图分析逻辑回归中的函数形式
R语言stan泊松回归Poisson regression
R语言用Rcpp加速Metropolis-Hastings抽样估计贝叶斯逻辑回归模型的参数
R语言进行数值模拟：模拟泊松回归模型的数据
R语言使用Metropolis- Hasting抽样算法进行逻辑回归
R语言向量自回归模型(VAR)及其实现
R和Python机器学习:广义线性回归glm，样条glm，梯度增强，随机森林和深度学习模型分析
R语言中的block Gibbs吉布斯采样贝叶斯多元线性回归
R语言用线性模型进行预测：加权泊松回归，普通最小二乘，加权负二项式模型，多重插补缺失值
R语言用线性回归模型预测空气质量臭氧数据
