线性回归是一种监督学习算法,它是一种回归模型,它的目标是要找到训练样本的最佳拟合直线(回归线),从而使模型可以对新数据进行预测,它的预测结果属于连续型数值。
例如:根据面积、房间数、建筑年龄预测房子的售价。
线性回归模型假设式(hypothesis):
以均方误差(MSE)作为损失函数(cost function):
包含L2正则项情况:
MSE用于度量预测值与真实值的偏离程度, 以梯度下降法最小化损失函数,从而使得模型学习到合适的权重参数。
权重更新过程:
Repeat until convergence {
…
…
}
w_(j) 代表第j个权重, i 表示第 i 个样本,α 表示学习率