深度网络对机器学习研讨和应用领域产生了巨大的影响，与此一起却无法很明晰地解说深度网络的来龙去脉。人们一向致力于更透彻地去了解其间杂乱的进程。因为人类关于国际的认知和感触首要来自于视觉，杰出的可视化能够有用的协助人们了解深度网络，并进行有用的优化和调理。本文首要根据ICML可视化的workshop和查到的相关论文，共享一下说到的一些先进的可视化概念和办法。

内容首要参阅：http://icmlviz.github.io/

ACTIVIS

Facebook 研制的交互式深度学习可视化体系，能够对出产环境中的大规模模型以及器运转的成果进行生动直观的出现。这一体系能够支撑四个方面的可视化。

• 模型架构及其对应的核算图概览
• 用于审视激活状况的神经元激活矩阵、以及投影到2D的可视化
• 能够关于每一个实例成果进行可视化剖析
• 支撑添加不同的实例来对不同的实例、子集、类型的激活形式进行比较，寻觅误分类的原因

Grad-CAM

Grad-CAM是指Gradient-weighted Class Activation Mapping，研讨人员提出使用这种梯度权重激活映射来对卷积神经网络的分类进行解说，在输入的图片中粗略地显现出模型猜测出的类别对应的重要性区间。这种方法能够广泛试用于CNN模型宗族的模型猜测可视化进程。

上图中能够看到关于猫和狗不同的分类，显现出的相信区域也各部相同。一起还能显现视觉问答的进程：

Deep View

研讨人员根据Deep View这一可视化东西研讨了练习进程中深度网络的进化状况。使用判别矩阵和密度矩阵别离点评神经元和输出特征图在练习中的进化进程，总而树立了非常详尽的视觉剖析结构，能够有用展现模型在练习进程中部分和大局的特征改变。

参阅：

http://www3.cs.stonybrook.edu/~mueller/people/http://101.96.8.164/icmlviz.github.io/assets/papers/2.pdf

一个自然语言处理的交互式可视化东西

能可视化NLP体系的输出，协助用户更好的了解关于文本数据的处理一起进行一些必要的批改。这样的反应进程能够协助改善模型的精度。

参阅：https://arxiv.org/pdf/1707.01890v2.pdf

LSTMV

递归神经网络特别是长短时记忆网络是关于时序信号强有力的东西，能够有用的树立和表征时序输入的隐含形式。研讨人员关于其间躲藏层随时刻的改变非常感兴趣，这一作业首要聚集于对递归神经网络中的躲藏层动力学可视化。用户能够使用这一东西针对性的选取输入规模并与相同形式的大数据集进行比较，一起还能够使用这一东西对独立的形式进行统计剖析。

参阅：http://lstm.seas.harvard.edu/

https://vcg.seas.harvard.edu/code-data

Deep Visualization Toolbox

这个东西箱能够对图像在深度学习网络中的各层输出进行直观的可视化：

参阅：http://yosinski.com/deepvis

https://github.com/yosinski/deep-visualization-toolbox

https://deeplearning4j.org/overview

数据可视化

参阅>>http://colah.github.io