OpenAI与谷歌揭开人工智能面纱 开发可视化激活图谱

　　【CNMO新闻】谷歌在2018年年底展示了一个在开源图像数据集上训练的流行模型。为了揭开人工智能系统内部工作的面纱，谷歌和研究公司OpenAI的科学家们详细介绍了一种开源的技术，该技术揭示了图像分类神经网络中的组件交互，他们称之为可视化的激活图谱。
　　OpenAI的技术人员Chris Olah在接受采访时表示，在特征可视化方面，已经有了很长一段时间的研究，这是一个试图了解神经网络内部情况的领域。

OpenAI

　　所谓神经网络，就是由神经元组成，或以生物神经元为模型的松散功能。这些神经元分层排列，并与突触相连。这些突触将信号传递给附近的其它神经元，这些信号会将激活功能的产物从一层传递到另一层，通过调整每个连接的突触强度或权重来缓慢地调整网络。随着时间的推移，该网络会从数据集中提取特征，并识别出样本之间的趋势，以致最终做出准确的预测。
　　最简单的人工智能模型可视化只显示单个输入上的数据转换，它是网络总激活量的一小部分，而空间激活就有它自己的一组打破交互的限制。
　　这解决了单图像可视化的难题，但是涉及多个场景的情况又如何呢？要解决这些问题，就需要一种聚合的方法了。研究人员从数据集的图像中收集激活，并随机选择每张图像的一个空间激活。然后，对于每个激活向量，他们计算了一个属性向量，由此可以得出一个更加准确的结果。