机器人创建自己的语言后，Facebook关闭了AI系统

特斯拉首席执行官埃隆·马斯克 (Elon Musk) 表示人工智能 (AI) 是最大的风险几天后，Facebook关闭了其AI系统之一，因为聊天机器人开始用自己的语言说话，无视所提供的代码。根据《科技时报》周日的一篇报道，这家社交媒体巨头不得不拔掉其研究人员正在研究的AI系统，“因为事情失控了”。

报告指出: “人工智能并没有开始关闭世界各地的计算机或类似的东西，但它停止使用英语，并开始使用它创造的语言。”

最初，AI代理使用英语进行交谈，但后来他们创建了一种只有AI系统才能理解的新语言，从而违背了他们的目的。这导致Facebook研究人员关闭了人工智能系统，然后迫使他们只能用英语互相交谈。

6月，Facebook AI研究实验室 (FAIR) 的研究人员发现，当他们忙于改进聊天机器人时，“对话代理” 正在创建自己的语言。媒体报道说，很快，这些机器人开始偏离脚本规范，并开始使用一种全新的语言进行交流，而这种语言是他们在没有人工投入的情况下创建的。使用机器学习算法，“对话代理” 可以自由交谈，以增强其对话技能。

研究人员还发现这些机器人是 “令人难以置信的狡猾谈判者”。报告称: “在学会谈判之后，机器人依靠机器学习和先进的策略来改善这些谈判的结果。”“随着时间的推移，机器人变得相当熟练，甚至开始假装对一个项目感兴趣，以便在谈判的后期将其 '牺牲' 为虚假的妥协，” 它补充道。

尽管这对人工智能来说似乎是一个巨大的飞跃，但包括斯蒂芬·霍金教授在内的几位专家提出了这样的担忧，即受缓慢生物进化限制的人类可能会被人工智能取代。

特斯拉的埃隆·马斯克 (Elon Musk)，慈善家比尔·盖茨 (Bill Gates) 和前苹果创始人史蒂夫·沃兹尼亚克 (Steve Wozniak) 等其他人也表达了对人工智能技术发展方向的担忧。有趣的是，这一事件发生在Facebook首席执行官和马斯克之间的口头争吵几天后，马斯克就一场关于人工智能未来的辩论交换了严厉的言辞。“我已经和马克谈过这个 (人工智能)。他对这个问题的理解是有限的，“马斯克上周在推特上写道。

该推文是在扎克伯格 (Zuckerberg) 在本月早些时候的Facebook直播中谴责马斯克 (Musk) 辩称，如果人工智能成为主流，需要谨慎和监管来维护未来。 “我认为那些唱反调的人试图鼓吹这些世界末日的场景 -- 我只是，我不明白。这真的是负面的，在某些方面，我实际上认为这是相当不负责任的，“扎克伯格说。

马斯克经常在人工智能上发表讲话，并称其进步是 “我们作为一个文明面临的最大风险”。他说: “人工智能是一种罕见的情况，我们需要积极主动地进行监管，而不是被动地进行监管，因为如果我们对人工智能监管做出反应，那就太晚了。”