误差loss, $\mathrm{E}$

误差计算

$\mathrm{E}=g(f_{\theta }(x),y)$

$f_{\theta }(x)$为当前模型下y的预测值$g(.)$为误差的计算方式

优化目标

根据训练集计算，寻找一组$\theta$使得loss最小公式表达为：${\theta }^{\ast }=argming(f_{\theta }(x,y)),x\in D^{train}$

梯度下降法更新参数

${\theta }^{{}^{\prime }}=\theta -\eta \ast {▽}_{\theta }\ast \mathrm{E}$ $\eta$:学习率 ${▽}_{\theta }$:梯度 $\mathrm{E}$:误差loss