我正在写一些基本的神经网络方法-特别是激活函数-达到了我的数学知识的极限。我理解各自的范围(-1/1)(0/1)等，但是变化的描述和实现让我感到困惑。
特别是乙状结肠，后勤，双极乙状结肠，tanh等。
乙状结肠是否简单地描述了函数的形状而与范围无关？如果是这样，那么tanh是“S型函数”吗？
在论文中，我看到了“双极乙状结肠”与“tanh”相比，但是，我看到了两个函数(在各种库中)都用相同的代码实现:
((2/(1 + Exp(-2 * n)))-1)。他们是完全一样的东西吗？
同样，我也看到了使用相同代码实现的逻辑和乙状结肠激活:
(1/(1 + Exp(-1 * n)))。这些也一样吗？
最后，在实践中甚至有那么重要吗？我在Wiki上看到plot of very similar sigmoid functions-可以使用其中任何一个吗？有些看起来像它们可能比其他的要快得多。
最佳答案
物流功能:ex/(ex + ec)
后勤功能的特殊情况(“标准”):1/(1 + e-x)
双极乙状结肠:从未听说过。
谭((ex-e-x)/(ex + e-x)
乙状结肠通常是指形状(和界限)，所以是的，tanh是乙状结肠功能。但是在某些情况下，它专门指的是标准逻辑功能，因此必须小心。是的，您可以使用任何S型函数，并且可能做得很好。
((2/(1 + Exp(-2 * x)))-1)等于tanh(x)。
关于function - 神经激活功能-Logistic/Tanh/etc之间的差异，我们在Stack Overflow上找到一个类似的问题：https://stackoverflow.com/questions/11847133/