python - keras的功能重要性

我有以下问题。我和凯拉斯建立了一个神经网络。这是我数据框架的一部分。
我的数据帧看起来像：

    Id          MainCl   Class     Other Options...
    1016178069  0        30        1
    1016178012  0        25        0

我的结果向量给出了结果可以被分类的概率。
例子：

Prob_isClass_A    Prob_isClass_b
0.756686          0.243314
0.999843          0.000157006
0.999818          0.000182159

现在主要问题是：
有没有办法获得对结果负责的特性的最高概率？
比如：

Prob_isClass_A    Prob_isClass_b      Most_Probability_Reason    Probability
0.756686          0.243314            Main_CL_Feature            0.75
0.999843          0.000157006         Class_Feature              0.8
0.999818          0.000182159         Other_Option_Feature       0.7

最佳答案

如果我理解你的问题，你需要像每个样品的特征重要性的第一个分别。。。
keras不支持功能重要性。你必须在树模型中寻找类似的东西。此外，你需要更多的东西，据我所知，尚未实现，可能不会。

关于python - keras的功能重要性，我们在Stack Overflow上找到一个类似的问题：https://stackoverflow.com/questions/47713596/