逻辑回归

逻辑回归（logistic regression）是一种监督学习中的分类方法。逻辑回归与多元线性回归都使用自变量的线性组合，但二者预测的结果不同，多元线性回归直接预测连续因变量，逻辑回归则通过逻辑函数将线性组合转换为分类结果出现的概率。

以二分类为例，设$Y=1$表示疲劳，$Y=0$表示不疲劳，$\mathbf{X}=(X_1,\dots ,X_m)$表示$m$项特征。逻辑回归首先对各项特征进行线性组合：

$$z={\beta }_0+{\beta }_1{X}_1+{\beta }_2{X}_2+\cdots +{\beta }_m{X}_m$$

其中，${\beta }_0$为截距，${\beta }_1,\dots ,{\beta }_m$为各项特征的系数。然后使用逻辑函数（logistic function，也常称为Sigmoid函数，如下图所示）将$z$转换为0至1之间的概率$p$，表示模型预测驾驶员处于疲劳状态（$Y=1$）的概率：

$$p=\frac{1}{1+e^{-z}}$$

随着$z$增大，$p$逐渐接近1；随着$z$减小，$p$逐渐接近0。曲线在$p=0.5$附近最陡，表示对于尚难判断的样本，线性得分发生较小变化就会明显改变预测概率；当$p$已经接近0或1时，曲线逐渐变平，同样大小的变化对预测概率影响较小。因此，它既能输出概率，又能形成从“不疲劳”到“疲劳”的平滑过渡。