线性可分向量机理论大家可以自行在论坛上搜索。
题目:
给定三个数据点:x1=(3,3), x2=(4,3), x3=(1,1),. 其中x1,x2为正例,x3为负例,求线性可分向量机。
(正例意思是其对应的y值为1,负例意思是其对应的y值为-1)
第一步:写出目标函数。
式子中xi,xj均为矩阵,实际上是矩阵xi的转置乘以矩阵xj
注意:式子中xi,xj均为矩阵,实际上是矩阵xi的转置乘以矩阵xj。
于是在这里插入图片描述

第二步
在这里插入图片描述
用s(a1,a2)指代目标函数,将a1+a2=a3带入目标函数,得s(a1,a2)=4a12+1.5a22+10a1a2-2a1-2a2
然后分别求目标函数对a1和a2的偏导,并令它们等于0.
偏导s/a1=8a1+10a2-2=0,
偏导s/a2=13a2+10a1-2=0.
联立两式求得a1=1.5,a2=-1.
由于a2=-1不符合a2>=0,所以最小点应该在边界达到。

第三步,令a1=0,代入偏导s/a2=13a2+10a1-2=0中,求得a2=13/2,所以a3=13/2,则s(a1,a2)=-2/13;令a2=0,代入偏导s/a1=8a1+10a2-2=0中,求得a1=1/4,所以a3=1/4,则s(a1,a2)=-1/4.明显-1/4更小,于是最优解为a1=1/4,a2=0,a3=1/4.

第四步,求b,w。

在这里插入图片描述
所以w=a1y1x1+a2y2x2+a3y3x3=1/4x1x[3;3]+0+1/4x(-1)x[1;1]=[0.5;0.5].
在这里插入图片描述
注意选择aj不等于0的j(j=1,2,…,N)。
j=1:b=y1-(a1y1x1x1+0+a1y1x1x3)=-2
选择j=3计算出来的b也是-2.

第五步,在这里插入图片描述

于是超平面方程为0.5x1+0.5x2-2=0。
在这里插入图片描述
于是分类决策函数f=sign(0.5x1+0.5x2)。

以上就是全部啦有不懂的欢迎评论区提问哦

Logo

为开发者提供学习成长、分享交流、生态实践、资源工具等服务,帮助开发者快速成长。

更多推荐