学习UFLDL笔记

第一节 神经网络

一天学完UFLDL-LMLPHP

神经元长这样

一天学完UFLDL-LMLPHP

大写W看着有点不习惯。。

激活函数, 就是上面式子中的f。

可以选 sigmoid函数(或者叫 logistic回归,对数几率函数),反正就是这样一个函数啦

一天学完UFLDL-LMLPHP

长这样。。

一天学完UFLDL-LMLPHP

也可以选双曲正切函数 tanh,长这样

一天学完UFLDL-LMLPHP

tanh 跟 sigmoid 长得像,注意取值范围

sigmoid 函数 的导数 f'(x)=f(x)(1-f(x))

tanh 的导数 f'(x)=1-(f(x))^2

以上。。

05-11 13:30