我正在Tensorflow上制作一个AutoEncoder,它将输入作为3D矩阵,其值在[-1,1]范围内。此方案的最佳激活功能是什么?
另外,选择激活功能w.r.t到输入范围的经验法则是什么?
最佳答案
首先,通常建议使用批处理规范化来启动网络,无论如何,这将或多或少地限制在-1和1之间。
隐藏层的激活功能应具有非线性,以便能够处理更高级别的复杂性。所以我会选择relu或其变体之一。
在网络的最后一层,您可以拥有一个没有激活功能的密集层,以允许映射负值。
关于tensorflow - 选择激活功能,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/50339261/