4.2 多变量梯度下降

参考视频: 4 - 2 - Gradient Descent for Multiple Variables (5 min).mkv

与单变量线性回归类似,在多变量线性回归中,我们也构建一个代价函数,则这个代价 函数是所有建模误差的平方和,即:

x

J_0 ,1...n_ 

1 m

2m i1

h

 i yi2

其中: hx

T

X _0 _x_0 1_x_1 2 _x_2 ... n xn_

我们的目标和单变量线性回归问题中一样,是要找出使得代价函数最小的一系列参数。 多变量线性回归的批量梯度下降算法为:

即:

求导数后得到:

当 n>=1 时,

我们开始随机选择一系列的参数值,计算所有的预测结果后,再给所有的参数一个新的 值,如此循环直到收敛。