在人工智能系统接管人类工作之前还有很长的路要走: 研究

强调深度学习计算机网络的严重局限性的科学家说，人工智能 (AI) 系统要接管传统上由人们执行的任务和工作还有很长的路要走。美国加州大学洛杉矶分校 (UCLA) 的研究人员进行了各种实验，表明很容易愚弄深度学习神经网络。

加州大学洛杉矶分校 (UCLA) 教授、该研究的资深作者菲利普·凯尔曼 (philip Kellman) 说: “这些机器有我们需要理解的严重局限性，” 该研究发表在《公共科学图书馆计算生物学》 (pLOS Computational Biology) 杂志上

凯尔曼认为，机器视觉有缺点。在第一个实验中，研究人员将动物和物体的彩色图像展示给最好的深度学习网络之一，称为VGG-19。但是，图像已更改。例如，高尔夫球的表面显示在茶壶上; 斑马条纹放在骆驼上; 蓝色和红色的阿盖尔袜子的图案显示在大象上。VGG-19列出了它的首选，并选择了正确的项目作为40个对象中的五个的首选。

“我们可以很容易地愚弄这些人工系统。他们的学习机制比人类的思维要复杂得多，”加州大学洛杉矶分校教授卢洪静说。

在第二个实验中，心理学家向VGG-19和第二个深度学习网络 (称为AlexNet) 展示了玻璃雕像的图像。VGG-19在测试两个网络的所有实验中表现更好。这两个网络都经过训练，可以使用称为ImageNet的图像数据库来识别对象。但是，这两个网络的表现都很差，无法识别玻璃雕像。VGG-19和AlexNet都没有正确地将小雕像确定为他们的第一选择。大多数最受欢迎的回应都让研究人员感到困惑，比如VGG-19选择 “网站” 为 “鹅”，“开罐器” 为 “北极熊”。平均而言，AlexNet将正确答案排在1,000个选择的第328位。

“机器的错误与人类非常不同，” 卢说。

在第三个实验中，研究人员向VGG-19和AlexNet展示了40幅黑色的图画，白色的图画。前三个实验旨在发现设备是否通过形状识别物体。网络再次在识别蝴蝶，飞机和香蕉等物品方面做得很差。研究人员得出结论，当人类看到整个物体时，人工智能网络会识别物体的碎片。

凯尔曼说: “这项研究表明，这些系统在不考虑形状的情况下，在他们接受训练的图像中得到正确的答案。”他说: “对于人类来说，整体形状是物体识别的主要原因，通过整体形状识别图像似乎根本不在这些深度学习系统中。”

有几十种深度学习机，研究人员认为他们的发现广泛适用于这些设备。