要分辨下一个物种可能需要多年的观鸟经验。但是，杜克大学的研究人员使用一种称为深度学习的人工智能技术，对一台计算机进行了培训，使其仅通过一张照片即可识别多达200种鸟类。

但是，真正的创新在于，AI工具还可以显示其思维方式，即使是不了解海雀企鹅的人也可以理解。

该团队通过向其喂食200种鸟类的11788张照片(从游泳鸭子到徘徊的蜂鸟)来训练他们的深层神经网络(基于大脑工作方式的算法)。

研究人员从未告诉网络“这是喙”或“这些是翼羽”。给定一张神秘鸟的照片，该网络能够将图像中的重要图案与以前看到的典型物种特征进行比较，从而挑选出图像中的重要图案并冒险猜测。

一路走来，它散发出一系列的热图，这些热图本质上说：“这不只是任何鸣鸟。它是一个带帽的鸣鸟，而这里有一些特征-像是蒙面的头和黄腹-可以将它散发出去。 ”

杜克大学计算机科学博士学位学生Chaohao Chen和本科生Oscar Li以及杜克大学教授Cynthia Rudin领导的预测分析实验室的其他团队成员领导了这项研究。

他们发现他们的神经网络最多可以在84%的时间内识别出正确的物种-与某些表现最好的同行相提并论，后者并没有揭示他们如何分辨出一只麻雀。下一个。

鲁丁说，他们的项目不仅仅是为鸟类命名。这是关于可视化深度神经网络在查看图像时真正看到的内容。

类似的技术被用来标记社交网站上的人，在监视摄像机中发现可疑犯罪分子，并训练自动驾驶汽车来检测交通信号灯和行人之类的东西。

鲁丁说，问题在于，众所周知，大多数计算机视觉的深度学习方法都是不透明的。与传统软件不同，深度学习软件无需显式编程即可从数据中学习。结果，这些算法在对图像进行分类时究竟如何“思考”并不总是很清楚。

鲁丁(Rudin)和她的同事们试图证明AI不必那样做。她和她的实验室正在设计深度学习模型，用以解释其预测背后的原因，并明确说明其原因以及提出答案的方式。当这样的模型出错时，其内置的透明度使我们可以了解原因。

对于他们的下一个项目，Rudin和她的团队正在使用他们的算法对乳房X线照片等医学图像中的可疑区域进行分类。如果有效，他们的系统将不仅仅帮助医生检测出可能是乳腺癌迹象的肿块，钙化和其他症状。它还将显示其在乳房X光检查的哪个部分，揭示哪些特定特征最类似于其他患者以前见过的癌性病变。