一文搞定(四)—— 核方法 Kernel Method

tech2024-10-17  16

【参考资料】 1.B站:机器学习-白板推导系列(七)-核方法(Kernel Method)

Kernel Method 从思想角度 Kernel Trick 从计算角度 Kernel Function:

非线性带来高维转换(从模型角度 x → ϕ ( x ) x \rarr \phi(x) xϕ(x))对偶表示带来内积(从优化角度)

非线性可分转化为线性可分 x → ϕ ( x ) x \rarr \phi(x) xϕ(x) 其中 x ∈ R p , ϕ ( x ) ∈ R q    ( q > p ) x\in \R^p,\phi(x)\in \R^q\;(q>p) xRp,ϕ(x)Rq(q>p) 通常是从低维化高维,因为高维空间更容易线性可分

例如,下左图中的 x 点 o 点显然是线性不可分的 但是通过转换 ( x 1 , x 2 ) → ( x 1 , x 2 , ( x 1 − x 2 ) 2 ) (x_1,x_2) \rarr (x_1,x_2,(x_1-x_2)^2) (x1,x2)(x1,x2,(x1x2)2)

最新回复(0)