我有一个数据集,试图从DNA构成中预测数据输入的是哪种DNA。例如,字符串ATTAG...ACGAT
可能会转换为EI
。可能的输出是EI
,IE
或N
。可以进一步调查数据集here。我尝试将内核从linear
切换到rbf
,但结果相同。 SVM分类器似乎每次都会输出N
。有什么想法吗?我是Sci-kit Learn的初学者。
import pandas as pd
# 3190 total
training_data = pd.read_csv('new_training.csv')
test_data = pd.read_csv('new_test.csv')
frames = [training_data, test_data]
data = pd.concat(frames)
x = data.iloc[:, 0:59]
y = data.iloc[:, 60]
x = pd.get_dummies(x)
train_x = x.iloc[0:3000, :]
train_y = y.iloc[0:3000]
test_x = x.iloc[3000:3190, :]
test_y = y.iloc[3000:3190]
from sklearn import svm
from sklearn import preprocessing
clf = svm.SVC(kernel="rbf")
label_encoder = preprocessing.LabelEncoder()
label_encoder.fit(y)
print(label_encoder.transform(train_y))
clf.fit(train_x, label_encoder.transform(train_y))
for u in train_y.unique():
print(u)
predictions = clf.predict(test_x)
correct = 0
total = len(predictions)
for i in range(total):
prediction = label_encoder.inverse_transform(predictions[i])
print('predicted %s and actual %s' % (prediction, test_y[i]))
print(len(prediction))
if prediction == test_y[i]:
correct += 1
print('correct %d out of %d' % (correct, total))
首先,我导入训练和测试数据,将其组合并分成x(输入)或y(输出标签)。然后我将x转换为虚拟变量版本,从原来的60列转换为300〜列,因为每个DNA点可以是
A
,T
,G
,C
,有时甚至是N
。对于每个输入,所有可能的输入基本上都为0或1。 (是否有更好的方法来执行此操作?Sci-kit学习不支持分类编码,因此我尽力从this中进行尝试。)然后我再次分离数据(必须合并,以便可以在其上生成假人整个数据空间)。在这里,我只运行svm内容以适合
x
和y
标签,然后在test_x
上进行预测。我还必须编码/标记y
,从字符串版本到数字版本。但是,是的,它总是产生N
,我觉得这是错误的。我该如何解决?谢谢! 最佳答案
我认为问题在于将数据拆分为训练和测试的方式。您已获取了前3000个样本进行培训,其余190个样本进行了测试。我发现通过这样的训练,分类器为所有测试样本生成了真实的分类标签(分数= 1.0)。我还注意到,数据集的最后190个样本具有相同的类标签,即'N'
。因此,您获得的结果是正确的。
我建议您将数据集划分为训练并通过ShuffleSplit
通过test_size=.06
进行测试(这与190/3190大致相对应,尽管为了使结果的可视化更容易,我在下面的示例中使用了test_size=.01
)。为了简单起见,我还建议您使用OneHotEncoder
来编码要素的分类值。
这是完整的代码(我可以随意执行一些重构):
import numpy as np
from sklearn.preprocessing import OneHotEncoder, LabelEncoder
from sklearn.model_selection import ShuffleSplit
from sklearn import svm
data = np.loadtxt(r'splice.data', delimiter=',', dtype='string')
bases = {'A': 0, 'C': 1, 'D': 2, 'G': 3, 'N': 4, 'R': 5, 'S': 6, 'T': 7}
X_base = np.asarray([[bases[c] for c in seq.strip()] for seq in data[:, 2]])
y_class = data[:, 0]
enc = OneHotEncoder(n_values=len(bases))
lb = LabelEncoder()
enc.fit(X_base)
lb.fit(y_class)
X = enc.transform(X_base).toarray()
y = lb.transform(y_class)
rs = ShuffleSplit(n_splits=1, test_size=.01, random_state=0)
train_index, test_index = rs.split(X).next()
train_X, train_y = X[train_index], y[train_index]
test_X, test_y = X[test_index], y[test_index]
clf = svm.SVC(kernel="rbf")
clf.fit(train_X, train_y)
predictions = clf.predict(test_X)
演示:
Out[2]:
array(['IE', 'EI', 'EI', 'EI', 'EI', 'IE', 'N', 'N', 'EI', 'N', 'N', 'IE',
'IE', 'N', 'N', 'IE', 'EI', 'N', 'N', 'EI', 'IE', 'EI', 'IE', 'N',
'EI', 'N', 'IE', 'N', 'EI', 'N', 'N', 'EI'],
dtype='|S79')
In [3]: y_class[test_index]
Out[3]:
array(['IE', 'EI', 'EI', 'EI', 'EI', 'IE', 'N', 'N', 'EI', 'N', 'N', 'IE',
'IE', 'N', 'N', 'IE', 'EI', 'N', 'N', 'EI', 'IE', 'EI', 'IE', 'N',
'IE', 'N', 'IE', 'N', 'EI', 'N', 'N', 'EI'],
dtype='|S79')
In [4]: clf.score(test_X, test_y)
Out[4]: 0.96875
注意:确保您的sklearn版本为0.18.1,否则上面的代码可能无法正常工作。