[AI]何谓梯度,为何下降

study from 耿直哥 ___

梯度下降算法

### 机器学习的目标:预测函数(算法)-规律-改进-预测

1.选取预测函数

我们想要一个函数最好的拟合 根据偏差大小来调整W斜率

2.找到差距:代价函数

也就是误差 常见:均方误差 学习的的代价:代价函数 定义预测函数,由公式推导代价函数,把样本点拟合过程映射于函数

3.明确搜索方向:梯度计算

寻找最低点

4.怎么走:学习率

由一个小值,通过学习调整权重 ___

5.循环迭代:重复3.4.找到最优