我想使用mlr包通过虹膜数据集的包装方法执行特征选择,但是我只想查看与Petal和/或Sepal相关的特征组。因此,包装程序不会查看不同组合中的4个要素,而是查看不同组合中的两组要素。
mlr文档指出,可以使用两个参数bit.names
和bit.to.feature
来执行此操作:
我在mlr教程或其他地方找不到使用这两个参数的任何示例。
我将使用?mlr::selectFeatures
中提供的示例。
首先使用所有功能
library(mlr)
rdesc <- makeResampleDesc("Holdout")
ctrl <- makeFeatSelControlSequential(method = "sfs",
maxit = NA)
res <- selectFeatures("classif.rpart",
iris.task,
rdesc,
control = ctrl)
analyzeFeatSelResult(res)
这按预期工作
为了遍历要素组,我设计了一个0/1矩阵以将要素映射到组(我不确定这是否可行,这似乎是合乎逻辑的):
mati <- rbind(
c(0,0,1,1),
c(1,1,0,0))
rownames(mati) <- c("Petal", "Sepal")
colnames(mati) <- getTaskFeatureNames(iris.task)
矩阵看起来像:
Sepal.Length Sepal.Width Petal.Length Petal.Width
Petal 0 0 1 1
Sepal 1 1 0 0
现在我运行:
res <- selectFeatures("classif.rpart",
iris.task,
rdesc,
control = ctrl,
bit.names = c("Petal", "Sepal"),
bits.to.features = function(x = mati, task) mlr:::binaryToFeatures(x, getTaskFeatureNames(task)))
analyzeFeatSelResult(res)
#output
Features : 1
Performance : mmce.test.mean=0.0200000
Sepal
Path to optimum:
- Features: 0 Init : Perf = 0.66 Diff: NA *
- Features: 1 Add : Sepal Perf = 0.02 Diff: 0.64 *
Stopped, because no improving feature was found.
这似乎可以执行我需要的操作,但是我不确定我是否正确定义了
bits.to.features
参数。但是,当我尝试在包装器中使用相同的方法时:
outer <- makeResampleDesc("CV", iters = 2L)
inner <- makeResampleDesc("Holdout")
ctrl <- makeFeatSelControlSequential(method = "sfs",
maxit = NA)
lrn <- makeFeatSelWrapper("classif.rpart",
resampling = inner,
control = ctrl,
bit.names = c("Petal", "Sepal"),
bits.to.features = function(x = mati, task) mlr:::binaryToFeatures(x, getTaskFeatureNames(task)))
r <- resample(lrn, iris.task, outer, extract = getFeatSelResult)
我收到一个错误:
Resampling: cross-validation
Measures: mmce
[FeatSel] Started selecting features for learner 'classif.rpart'
With control class: FeatSelControlSequential
Imputation value: 1
[FeatSel-x] 1: 00 (0 bits)
[FeatSel-y] 1: mmce.test.mean=0.7200000; time: 0.0 min
[FeatSel-x] 2: 10 (1 bits)
[FeatSel-y] 2: mmce.test.mean=0.0800000; time: 0.0 min
[FeatSel-x] 2: 01 (1 bits)
[FeatSel-y] 2: mmce.test.mean=0.0000000; time: 0.0 min
[FeatSel-x] 3: 11 (2 bits)
[FeatSel-y] 3: mmce.test.mean=0.0800000; time: 0.0 min
[FeatSel] Result: Sepal (1 bits)
Error in `[.data.frame`(df, , j, drop = drop) :
undefined columns selected
我在做什么错?
bit.names
和bit.to.feature
参数的正确用法是什么?谢谢
编辑:我在mlr github上发布了一个问题:https://github.com/mlr-org/mlr/issues/2468
最佳答案
我猜您发现了两个错误。
第一个是您的代码甚至可以运行,第二个是这不适用于嵌套重采样。
错误1:您的代码不应运行
首先,mati
没有任何作用,因为它会被bits.to.features
的每个内部调用覆盖。毕竟,您只是定义了一个默认参数。
您定义的bit.names
"Petal"
和"Sepal"
基本上只是告诉mlr使用两位。
因此,特征选择将适用于向量00、01、10、11。
不幸的是,R现在自动将这些向量回收到4的长度,因此10变为1010:
mlr:::binaryToFeatures(c(1,0), getTaskFeatureNames(iris.task))
# [1] "Sepal.Length" "Petal.Length"
在那里,我们遇到了第一个错误,即mlr应该避免在这里对向量进行回收。
为了使代码按预期运行,您可以这样定义函数
bits.to.features
:bitnames = c("Sepal", "Petal")
btf = function(x, task) {
sets = list(
c("Sepal.Length", "Sepal.Width"),
c("Petal.Length", "Petal.Width")
)
res = unlist(sets[as.logical(x)])
if (is.null(res)) {
return(character(0L))
} else {
return(res)
}
}
res <- selectFeatures("classif.rpart", iris.task, rdesc,
control = ctrl, bits.to.features = btf, bit.names = bitnames)
bts
的说明引用
selectFeatures
的帮助页面:因此
x
是一个包含0和1s的向量(例如c(0,0,1,0)
)。如果您不更改该功能,它将返回第三个功能的名称(例如,虹膜的
"Petal.Length"
)。向量x
的长度将始终与定义的bit.names
相同。但是,生成的字符向量可以是任何长度。它只需要返回任务的有效功能名称。在示例中,我将功能名称硬编码到函数
bts
中。如果要将功能应用于许多不同的任务,则这是一种不好的做法。因此,mlr允许您访问
task
对象,因此也可以通过getTaskFeatureNames(task)
访问功能名称,因此您可以通过编程方式生成功能名称,而无需进行硬编码。错误2:
bit.names
必须是功能名称功能选择将返回结果的位名。然后mlr尝试在数据集中选择这些位名,但显然它们不存在,因为它们完全不相关(在您的情况下)。
现在,在mlr的github版本中解决了此错误。
关于r - 使用bit.names和bits.to.features参数使makeFeatSelWrapper(mlr)对功能组进行包装选择,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/52986493/