梯度下降—部分知识点

上图，1小节的的公式中yi是错误的应该是yj，在此纠正原作者。

以上图片截图自他人，地址如下： https://www.cnblogs.com/pinard/p/5970503.html 对于目标函数(target function)中的参数，例如：y=wx+b，w和b是目标函数的参数，求出参数即求出目标函数。w和b可以是向量 w=(w1,w2,w3,...,wn)，b=(b1,b2,b3,b4,..,bn)，也可以是一个非向量参数w和b。 如果是向量则是每个wi都要更新，bi也是如此。后者则是只更新w和b。 上述内容的wi和bi和图片中theTai含义一样，只不过是书写不同，都是参数。 不管是wi，bi更新还是w，b更新，与图片中所讲述的批量梯度还是随机梯度无关。批量和随机是更新的方式，wi，bi和w，b是更新的目标。