2017-08-14

这节课的主要内容是反向传播的介绍,非常的详细,还有神经网络的部分介绍,比较简短。

首先是对求导,梯度的求解。反向传播的核心就是将函数进行分解,分段求导,前向计算损失,反向计算各个单元的梯度,即代表

各个单元对于最后结果的影响力。因为神经网络一般过于庞大,所以采取分段求导会比较实际,所以引入了 computational graph.

第四节课-反向传播&&神经网络1-LMLPHP

第四节课-反向传播&&神经网络1-LMLPHP

第四节课-反向传播&&神经网络1-LMLPHP

课程下来,对于整个求解梯度的过程有了更好的理解。总结:

第四节课-反向传播&&神经网络1-LMLPHP

然后就是介绍了神将网络的一点知识。

第四节课-反向传播&&神经网络1-LMLPHP

05-11 17:34