日志

线性回归(Linear Regression)

线性回归是一种监督学习算法,它是一种回归模型,它的目标是要找到训练样本的最佳拟合直线(回归线),从而使模型可以对新数据进行预测,它的预测结果属于连续型数值。
例如:根据面积、房间数、建筑年龄预测房子的售价。

线性回归模型假设式(hypothesis):

Pasted

以均方误差(MSE)作为损失函数(cost function):

PastedPasted

包含L2正则项情况:

Pasted



MSE用于度量预测值与真实值的偏离程度, 以梯度下降法最小化损失函数,从而使得模型学习到合适的权重参数。

权重更新过程:

Repeat until convergence {
Pasted




}
w_(j) 代表第j个权重, i 表示第 i 个样本,α 表示学习率

转载请注明出处:

© http://hejunhao.me