多元线性回归

1 定义

多元线性回归（multiple linear regression）是用多个自变量的线性组合预测一个连续因变量的回归方法。假设使用m个自变量共同预测一个连续因变量$Y$，其基本形式为：

$$Y={\beta }_0+{\beta }_1{X}_1+{\beta }_2{X}_2+\cdots +{\beta }_m{X}_m+\epsilon$$

其中，${\beta }_0$为截距，$\epsilon$表示模型未解释的残差，${\beta }_j$表示在模型中其他自变量保持不变时，$X_j$每增加一个单位，$Y$平均改变多少。通常采用普通最小二乘法（ordinary least squares，OLS）估计模型中的系数$\beta$，即寻找一组回归系数，使所有观测值的残差平方和最小。

2 前提假设

多元线性回归要求数据和模型满足相应假定，例如：

1. 样本应相互独立；若同一参试者存在多次观测，应采用能够处理相关观测的混合效应模型等方法。
2. 自变量之间不存在明显的多重共线性，多重共线性可以通过相关矩阵、方差膨胀因子等指标检查。
3. 残差相互独立且方差大致稳定、近似正态；残差可以通过残差-拟合值图、残差QQ图等方法进行检查。

3 操作要点

在人因研究中使用多元线性回归，一般目的不是为了预测Y，而是明确这组X与Y的关系、哪些X的贡献更大。因此，通常关注两个层面的结果。第一是模型整体的拟合优度（goodness of fit），主要报告$R^2$（或调整后的$R^2$）以及模型的F检验结果；$R^2$表示模型能够解释的因变量变异比例，F检验则对比当前回归模型与仅用因变量均值进行预测的模型，通过方差分析判断这组自变量整体上是否与因变量存在关系。第二是各个自变量的回归结果，包括标准化回归系数及其t检验结果；系数显著表示，在控制模型中其他自变量后，该自变量的总体回归系数不为0。