在辨识简单图片时,神经网络为何会出错?

jopen 10年前

在辨识简单图片时,神经网络为何会出错?

文/积木

最近的一项研究表明,神经网络可以被一些简单的、随机生成的图像欺骗。当它看到抽象的图片时,会将其认为是一件特定的物品。这再次告诉我们,计 算机视觉和人类视觉是完全不同的东西,但是,随着神经网络变得越来越复杂,我们对这种差别也越来越难以把握。“我们获得了一些结论,但却不知道是如何获得 这些结论的。” 研究员 Jeff Clune 在接受 Wired 网站采访时说。

为了测试神经网络是否真的聪明,Clune 和两位博士生展开了一项研究。他们用算法生成随机的图像,将其变形。然后,他们让神经网络对两幅图进行辨识。如果神经网络认为变形后的图像更接近某个物 品,他们就保留下变形后的图像,再次重复上述步骤;如果情况相反,他们就退回一步,再次进行辨识。通过这样的方法,他们获得了几十张被计算机确认的图片。 这些图像在人类看来仍然是抽象的,但是,到了神经网络那里,它们却是可以辨认的物品。

在辨识简单图片时,神经网络为何会出错?

从某种程度上,我们还可以理解计算机的失误。因为这些抽象图形存在一些可辨识的特征,但是,比较奇怪的情况是,一些毫无特征的像素图同样骗过了神经网络。

Clune 认为,神经网络在辨识物品的时候,使用了一系列的视觉线索。有时候,这些视觉线索是人类不熟悉的东西。比如,在接受训练的时候,神经网络注意到,在孔雀的 图像中,通常包含有“绿色像素、绿色像素、紫色像素、绿色像素”的线条。当神经网络在无特征的像素图中发现同样线条时,或许就将其确定为“孔雀”。

在辨识简单图片时,神经网络为何会出错?

在 Clune 看来,这项研究展示了人工智能领域的一个事实:即使神经网络起了作用,我们并不是完全了解它是如何工作的。“神经网络正变得愈加庞大,极为复杂,而且它们 拥有自学能力,” Clune 说,“它们拥有数百万的神经元,并且都在做着自己的事情。当它们完成一件让人惊讶的事情,我们并不是很了解它们是如何做到的。”

随着人工智能的进展,研究人员也在发生改变。在过去,研究人员参与着系统构建,而现在的研究人员则可以直接使用现有系统,不用深入了解其背后的 原理。同时,由于神经网络拥有自学能力,它们或许会变得非常复杂,达到不可理解的地步。“它不再是以人类的方式编写的计算机代码,” Clune 说,“它更像是各种相互关联的部分构成的一个体系,然后从中产生了智力。”

题图来自 vsmagzine