4.2 多变量梯度下降
参考视频: 4 - 2 - Gradient Descent for Multiple Variables (5 min).mkv
与单变量线性回归类似,在多变量线性回归中,我们也构建一个代价函数,则这个代价 函数是所有建模误差的平方和,即:
x
J _0 ,1...n_
1 m
2m i1
h
i yi2
其中: hx
T
X _0 _x_0 1_x_1 2 _x_2 ... n xn_
我们的目标和单变量线性回归问题中一样,是要找出使得代价函数最小的一系列参数。 多变量线性回归的批量梯度下降算法为:
即:
求导数后得到:
当 n>=1 时,
我们开始随机选择一系列的参数值,计算所有的预测结果后,再给所有的参数一个新的 值,如此循环直到收敛。