通过StompChicken的更正(我错误地计算了一个点积,哦!),答案似乎是肯定的。从那以后,我使用具有相同正确结果的预计算内核测试了相同问题。如果您使用的是libsvm StompChickens clear,那么有条理的计算是一个很好的检查。
原始问题:
我将开始在libSVM中使用预计算的内核。我注意到了
Vlad's answer是一个问题,我认为确认libsvm提供正确答案是明智的。我从非预先计算的内核开始,只是一个简单的线性内核,在3维空间中有2个类和3个数据点。我用了数据
1 1:3 2:1 3:0
2 1:3 2:3 3:1
1 1:7 3:9
调用
svm-train -s 0 - t 0
生成的模型文件包含svm_type c_svc
kernel_type linear
nr_class 2
total_sv 3
rho -1.53951
label 1 2
nr_sv 2 1
SV
0.4126650675419768 1:3 2:1 3:0
0.03174528241667363 1:7 3:9
-0.4444103499586504 1:3 2:3 3:1
但是,当我手动计算解决方案时,我得到的不是。有谁知道libsvm是否遭受错误,还是有人可以比较注释并查看它们是否得到libsvm的相同效果?
libsvm返回的系数
a1
,a2
和a3
应该是使a1 + a2 + a3 - 5*a1*a1 + 12*a1*a2 - 21*a1*a3 - 19*a2*a2/2 + 21*a2*a3 - 65*a3*a3
尽可能大的限制
a1 + a3 = a2
并且a1
,a2
和a3
都必须介于0和1之间(C的默认值)。上面的模型文件说答案是
a1 = .412665...
a2 = .444410...
a3 = .031745...
但是,只需将
a2 = a1 + a3
替换为上面的大公式,并确认两个偏导数都为零,以查看此解决方案是否正确(因为a1
,a2
,a3
都不为0或1)但它们都不为零。我是在做错什么,还是libsvm给出了不好的结果? (我希望自己做错了。)
最佳答案
LibSVM是一个使用非常广泛的库,我高度怀疑代码是否有任何严重错误。就是说,我认为很高兴有些人对实际检查它的正确性充满幻想-做得好!
根据我下面的工作,该解决方案似乎是正确的。我的意思是,它满足KKT conditions(15.29)。确实,对偶的偏导数在解中消失。
这是我的工作...
x1 = (3,1,0) x2 = (3,3,1) x3 = (7,0,9)
y1 = -1 y2 = 1 y3 = -1
K = [10 12 21]
[12 19 30]
[21 30 130]
L_dual = a1 + a2 + a3 -5a1^2 + 12a1a2 - 21a1a3 - (19/2)a2^2 + 30a2a3 - 65a3^2)
a1 = 0.412 a2 = 0.4444 a3 = 0.0317
Checking KKT:
y1.f(x1) = y1 * (y1*a1*K(x1,x1) + y2*a2*K(x1,x2) + y3*a3*k(x1,x3) - rho)
= rho + 10*a1 + 21*a3 - 12*a2
~= 1
(Similar for the x2 and x3)
Substituting a2 = a1 + a3 into L_dual:
L_dual = 2a1 + 2a3 - 2.5a1^2 + 2a1a3 - 44.5a3^2
dL/da1 = 2 - 5a1 + 2a3 = 0
dL/da3 = 2 + 2a1 - 89a3 = 0
关于opencv - libsvm准确吗?,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/3688075/