简单说，岭回归是带二范数惩罚的最小二乘回归。
ols方法中，
X‘X不能为0。当变量之间的相关性较强时，X‘X很小，甚至趋于0。
岭回归是一种专用于共线性数据分析的有偏估计回归方法，实质上是一种改良的最小二乘估计法，通过放弃最小二乘法的无偏性，以损失部分信息、降低精度为代价获得回归系数更为符合实际、更可靠的回归方法，对病态数据的拟合要强于OLS。本质是在自变量信息矩阵的主对角线元素上人为地加入一个非负因子。即：
当λ=0时，b（λ）=b。b(λ)中各元素bi(λ)的绝对值均趋于不断变小(由于自变数间的相关，个别bi(λ)可能有小范围的向上波动或改变正、负号)，它们对bi的偏差也将愈来愈大；如果λ->∞，则b(λ)->0。b(λ)随λ的改变而变化的轨迹，就称为岭迹。
应用场景就是处理高度相关的数据。画出岭迹图，选取稳定的那一段的lambda就好了。
[1].
