r - kernlab::ksvm中的概率模型

对于kernlab::ksvm中的分类任务，使用的默认SVM为C-svm（LIBSVM，Chang和Lin），它计算二进制分类任务。通过计算多个1对多个二进制分类器并汇总结果，可以将此扩展到多类问题。通过spoc-svm（Crammer，Singer）和kbb-svm（Weston，Watkins）支持本机多类分类。

通过kernlab中的type参数在ksvm中支持这些（请参见?kernlab::ksvm）：

ksvm(..., type= "C-svc", ...)
ksvm(..., type= "spoc-svc", ...)
ksvm(..., type= "kbb-svc", ...)

但是，预测概率仅可通过C-svm获得。为什么？这是实施中的错误吗？

library(kernlab)
data(iris)
# default - C-svc allows for a prob.model
k1 <- ksvm(Species ~. ,data= iris,
           type= "C-svc",
           prob.model=TRUE,
           kernel= "rbfdot", C= 1)

p1 <- predict(k1, iris, type= "probabilities") # works

#### non default, doesn't work:
k1 <- ksvm(Species ~. ,data= iris,
           type= "spoc-svc",
           prob.model=TRUE,
           kernel= "rbfdot", C= 1)

p1 <- predict(k1, iris, type= "probabilities")
Error in .local(object, ...) :
  ksvm object contains no probability model. Make sure you set the paramater    prob.model in ksvm during training.

k1 <- ksvm(Species ~. ,data= iris,
           type= "kbb-svc",
           prob.model=TRUE,
           kernel= "rbfdot", C= 1)

p1 <- predict(k1, iris, type= "probabilities")
Error in .local(object, ...) :
  ksvm object contains no probability model. Make sure you set the paramater prob.model in ksvm during training.

该文档没有对此进行说明或提供任何指导。如您所见，参数prob.model已在函数调用中指定。至少，这似乎是一个有问题的错误消息。

最佳答案

kernlab当前不支持除C-svc，nu-svc和C-bsvc（check the code）以外的其他类型的概率估计。

if(type == "probabilities")
{
  if(is.null(prob.model(object)[[1]]))
    stop("ksvm object contains no probability model. Make sure you set the paramater prob.model in ksvm during training.")

  if(type(object)=="C-svc"||type(object)=="nu-svc"||type(object)=="C-bsvc")
    {
        [...]
    }
  else
    stop("probability estimates only supported for C-svc, C-bsvc and nu-svc")
}

问题在于本机多类解决方案缺乏作为couple输入的二进制概率。实际上，编写自己的解决方案并不难。