这一节课很零碎。
1. 神经网络到底在干嘛？
浅层的是具体的特征（比如边、角、色块等），高层的更抽象，最后的全连接层是把图片编码成一维向量然后和每一类标签作比较。如果直接把图片和标签做像素级的最近领域分类，误差很大，但是转成编码之后就准多了。
可以用PCA可视化最后一层的特征，深度学习领域更高阶的做法是用t-SNE（Van der Maaten and Hinton, "Visualizting Data using t-SNE", JMLR 2008）。
可视化非线性函数的激活值也可以帮助我们理解神经网络（Yosinski et al., "Understanding Neural Networks Through Deep Visualization", ICML DL Workshop 2014.）。
还有各种各样的把神经网络的中间层提取出来观察，试图分析黑箱的做法。
2. 风格迁移
利用神经网络提取出的抽象特征，可以做一些风格迁移的工作，生成新图片。