【参考资料】 1.B站:机器学习-白板推导系列(七)-核方法(Kernel Method)
Kernel Method 从思想角度 Kernel Trick 从计算角度 Kernel Function:
非线性带来高维转换(从模型角度 x → ϕ ( x ) x \rarr \phi(x) x→ϕ(x))对偶表示带来内积(从优化角度)非线性可分转化为线性可分 x → ϕ ( x ) x \rarr \phi(x) x→ϕ(x) 其中 x ∈ R p , ϕ ( x ) ∈ R q ( q > p ) x\in \R^p,\phi(x)\in \R^q\;(q>p) x∈Rp,ϕ(x)∈Rq(q>p) 通常是从低维化高维,因为高维空间更容易线性可分
例如,下左图中的 x 点 o 点显然是线性不可分的 但是通过转换 ( x 1 , x 2 ) → ( x 1 , x 2 , ( x 1 − x 2 ) 2 ) (x_1,x_2) \rarr (x_1,x_2,(x_1-x_2)^2) (x1,x2)→(x1,x2,(x1−x2)2)