线性可分支持向量机,实例,例题:给定三个数据点:x1=(3,3), x2=(4,3), x3=(1,1),. 其中x1,x2为正例,x3为负例,求线性可分向量机。为什么a1=a3=1/4而不是1/5
线性可分向量机理论大家可以自行在论坛上搜索。题目:给定三个数据点:x1=(3,3), x2=(4,3), x3=(1,1),. 其中x1,x2为正例,x3为负例,求线性可分向量机。(正例意思是其对应的y值为1,负例意思是其对应的y值为-1)第一步:写出目标函数。注意:式子中xi,xj均为矩阵,实际上是矩阵xi的转置乘以矩阵xj。于是第二步用s(a1,a2)指代目标函数,将a1+a2=a3带入目标函
线性可分向量机理论大家可以自行在论坛上搜索。
题目:
给定三个数据点:x1=(3,3), x2=(4,3), x3=(1,1),. 其中x1,x2为正例,x3为负例,求线性可分向量机。
(正例意思是其对应的y值为1,负例意思是其对应的y值为-1)
第一步:写出目标函数。
注意:式子中xi,xj均为矩阵,实际上是矩阵xi的转置乘以矩阵xj。
于是
第二步
用s(a1,a2)指代目标函数,将a1+a2=a3带入目标函数,得s(a1,a2)=4a12+1.5a22+10a1a2-2a1-2a2
然后分别求目标函数对a1和a2的偏导,并令它们等于0.
偏导s/a1=8a1+10a2-2=0,
偏导s/a2=13a2+10a1-2=0.
联立两式求得a1=1.5,a2=-1.
由于a2=-1不符合a2>=0,所以最小点应该在边界达到。
第三步,令a1=0,代入偏导s/a2=13a2+10a1-2=0中,求得a2=13/2,所以a3=13/2,则s(a1,a2)=-2/13;令a2=0,代入偏导s/a1=8a1+10a2-2=0中,求得a1=1/4,所以a3=1/4,则s(a1,a2)=-1/4.明显-1/4更小,于是最优解为a1=1/4,a2=0,a3=1/4.
第四步,求b,w。
所以w=a1y1x1+a2y2x2+a3y3x3=1/4x1x[3;3]+0+1/4x(-1)x[1;1]=[0.5;0.5].
注意选择aj不等于0的j(j=1,2,…,N)。
j=1:b=y1-(a1y1x1x1+0+a1y1x1x3)=-2
选择j=3计算出来的b也是-2.
第五步,
于是超平面方程为0.5x1+0.5x2-2=0。
于是分类决策函数f=sign(0.5x1+0.5x2)。
以上就是全部啦有不懂的欢迎评论区提问哦
更多推荐
所有评论(0)