具有变化的k-hot编码矢量的LSTM

问题描述

后续问题来自:带有keras的LSTM

在此示例中，一个热编码矢量用于使用LSTM进行分类.如果k值不是恒定值，那么该LSTM如何用于执行 k-hot 编码.例如，在某些样本中，k可能是3还是k可能是5或k可能是其他可变整数?

In this example a one hot encoded vector is used to perform classification using an LSTM. How could this LSTM be used to perform k-hot encodings where the k value is not a constant value. Say for instance k could be 3 or k could be 5 or k could be some other varying integer in some samples?

推荐答案

这是一个多类分类任务.为了解决这个问题，您需要:

This is a multiclass classification task. In order to solve that you need to:

1. 将您的输出激活设置为S型:

model.add(Dense(150, activation='sigmoid'))

将目标设置为指标编码:

例如4个类，对于给定的示例，设置类0和2，您的输出应为[1, 0, 1, 0]

If you e.g. 4 classes and for a given example set classes 0 and 2 your output should be [1, 0, 1, 0]

使用以下损失:

import keras.backend as K

def multiclass_loss(y_true, y_pred):
    EPS = 1e-5
    y_pred = K.clip(y_pred, EPS, 1 - EPS)
    return -K.mean((1 - y_true) * K.log(1 - y_pred) + y_true * K.log(y_pred))

model.compile(optimizer=..., loss=multiclass_loss)

这篇关于具有变化的k-hot编码矢量的LSTM的文章就介绍到这了，希望我们推荐的答案对大家有所帮助，也希望大家多多支持！