python - Python中的Perceptron –偏差不正确

对于某些输入，例如：

[[ 1.456044 -7.058824]
 [-4.478022 -2.072829]
 [-7.664835 -6.890756]
 [-5.137363  2.352941]
 ...

以及X，例如：

[ 1.  1.  1.  -1.  ...

以下是我的感知器训练功能：

def train(self, X, Y, iterations=1000):
    # Add biases to every sample.
    biases = np.ones(X.shape[0])
    X = np.vstack((biases, X.T)).T
    w = np.random.randn(X.shape[1])
    errors = []

    for _ in range(iterations):
        all_corr = True
        num_err = 0
        for x, y in zip(X, Y):
            correct = np.dot(w, x) * y > 0
            if not correct:
                num_err += 1
                all_corr = False
                w += y * x
        errors.append(num_err)
        # Exit early if all samples are correctly classified.
        if all_corr:
            break

    self.w = perpendicular(w[1:])
    self.b = w[0]
    return self.w, self.b, errors

当我打印错误时，通常会看到如下内容：

[28, 12, 10, 7, 10, 8, 11, 8, 0]

注意，我得到的是0个错误，但数据明显有偏差：

python - Python中的Perceptron –偏差不正确-LMLPHP

例如，对于一次运行，这里是Y：

-28.6778508366

我已经看了this SO但是在我们的算法中没有发现差异我想也许这就是我如何解释然后绘制b和w？我只是做一些非常简单的事情：

def plot(X, Y, w, b):
    area = 20
    fig = plt.figure()
    ax = fig.add_subplot(111)
    p = X[Y == 1]
    n = X[Y == -1]
    ax.scatter(p[:, 0], p[:, 1], s=area, c='r', marker="o", label='pos')
    ax.scatter(n[:, 0], n[:, 1], s=area, c='b', marker="s", label='neg')
    neg_w = -w
    xs = [neg_w[0], w[0]]
    ys = [neg_w[1], w[1]]  # My guess is that this is where the bias goes?
    ax.plot(xs, ys, 'r--', label='hyperplane')
    ...

最佳答案

是的，我想你学的是正确的w，但是没有正确地画出分隔线。
你有一个二维的数据集，所以你的w有两个维度。比如说，w = [w1, w2]。
分离线应w1 x x1 + w2 x x2 + b = 0。
我想你是用那条线上的两点来画分隔线这两点可以在下面找到：
首先，将x1设置为0。我们得到x2 = -b/w2。
其次，将x2设置为0。我们得到x1 = -b/w1。
因此这两点应该是(0, -b/w2)和(-b/w1, 0)在您的xs和ys公式中，我没有看到如何使用b。你能试着设置一下吗：

# Note w[0] = w1, w[1] = w2.
xs = [0, -b/w[0]]   # x-coordinate of the two points on line.
ys = [-b/w[1], 0]   # y-coordinate.

下面的图表取自@gwg提到的this幻灯片红色实线是通过w学习的分隔符（不是self.w）红色虚线箭头表示：在分隔符的那一侧，sum（wx）>0的符号。在基于边距的模型（感知器就是这样一个模型）中，计算学习模型的边距也很有用。也就是说，如果从分隔符开始，取分隔符垂直的方向，则到达的第一个示例定义了该侧的“边距”，即您到目前为止所走的距离（请注意，您可以从分隔符上的任何位置开始）。

关于python - Python中的Perceptron –偏差不正确，我们在Stack Overflow上找到一个类似的问题：https://stackoverflow.com/questions/40371948/

W2

python - Python中的Perceptron –偏差不正确