统计学习方法（二）：感知机

感知机：判别模型、二分类线性模型 模型形式： $f(x)=\mathrm{sign}(w\cdot x+b)$： w和b为感知机模型参数，sign是符号函数。要求：数据集线性可分目的：求将数据集线性划分为两部分的超平面经验损失函数：所有误分类的点到超平面距离之和$L(w,b)$极小化经验损失函数方法：梯度下降法算法流程：

输入：训练数据集$T=\left\{\left(x_1,y_1\right),\left(x_2,y_2\right),\cdots ,\left(x_N,y_N\right)\right\}$；学习率：$\eta$

输出：w、b以及感知机模型$f(x)=\mathrm{sign}(w\cdot x+b)$

第一步：初始化w0和b0

第二步：在训练集中选择数据$\left(x_i,y_i\right)$

第三步：如果$y_i\left(w\cdot x_i+b\right)⩽0$： $w\leftarrow w+\eta y_i{x}_i$ $b\leftarrow b+\eta y_i$ 理解：

第四步：转至（2），直到没有误分类点。

算法具有收敛性，