深度学习黑箱探测成为新学科：人工智能神经学

【编者按】近日，Science发表了一篇题为《How AI detectives are cracking open the black box of deep learning》的文章，通过介绍Uber的研究科学家Jason Yosinski的网络引出了问题，接着介绍了新一代研究者提出的三种打开黑箱的工具：一些工具可以无需深入即可探测AI；一些是带有更高透明度、可媲美神经网路的替代算法；一些则继续使用更多的深度学习来窥探黑箱。正是这些新探索形成了一门新学科，Yosinski称之为「神经科学」。

本文发于机器之心，经编辑，供行业人士参考。

Jason Yosinski坐在加州旧金山总部的小型玻璃办公室内，陷入了对人工智能的沉思。作为Uber的研究科学家，Yosinski正为在笔记本电脑上运行的人工智能进行「脑外科手术」。很多AI将为人类现代生活赋能，比如Uber汽车，Yosinski的程序是一个深度神经网络，其架构或多或少受到了大脑的启发。正如人类的大脑一样，这个程序很……