当机器人听起来太像人类时会发生什么？

人工智能面临新的挑战: 是否以及如何提醒可能不知道自己正在与机器人交谈的人。周二，Google展示了一个计算机助手，该助手至少在其预先录制的演示中发出令人信服的人性化电话。但是，这些电话中的真实人员似乎并不知道他们正在与机器通话。这可能会给人工智能的未来使用带来棘手的问题。

其中: 欺骗人们与有效记录其所有对话的人工智能系统交谈是公平的，甚至是合法的吗？尽管Google的演示强调了对话机器人的良性用途，但当垃圾邮件发送者和诈骗者抓住它们时会发生什么？

谷歌首席执行官桑达尔·皮查伊 (Sundar pichai) 在该公司面向软件开发人员的年度会议上展示了名为双工的新技术，引起了欢呼。助理在演讲中添加了停顿，“ums” 和 “mmm-hmms”，以便在发廊和餐厅与真正的员工交谈时听起来更人性化。

研究人工智能对伦敦组织未来倡导的政策影响的马修·费内奇 (Matthew Fenech) 表示: “这非常令人印象深刻，但显然会导致这种技术的更险恶的使用。”“捕捉细微差别的能力，人类使用额外的小短语 -- 这些暗示非常人性化，显然另一端的人不知道。”

Fenech表示，不难想象类似聊天机器人的邪恶用途，例如向企业发送垃圾邮件，诈骗老年人或使用政治或个人敌人的声音进行恶意呼叫。

他说: “你可能会遇到非常不稳定的情况，人们被报道说他们从未说过的话。”

pichai和其他Google高管试图强调该技术仍处于实验性，并将谨慎推出。它还不能在消费类设备上使用。

帮助设计这项新技术的谷歌工程师Yaniv Leviathan和Yossi Matias在周二的博客中写道: “对我们来说，用户和企业拥有这项服务的良好体验是很重要的，透明度是其中的关键部分。”“我们希望清楚电话会议的意图，以便企业了解上下文。在接下来的几个月里，我们将尝试正确的方法。“

目前尚不清楚该公司将如何驾驭现有的电信法律，这些法律可能因州或国家而异。谷歌周三没有就其计划如何寻求其机器人呼叫的人的同意发表评论请求。一些Google员工光顾的旧金山湾区理发店的一位共同所有者对隐私的影响有些毛骨悚然。

“这似乎对我们的客户有帮助，” 位于加利福尼亚州奥克兰的Slick & Dapper理发店的共同所有者凯瑟琳·埃斯佩兰萨 (Katherine Esperanza) 说。然而，埃斯佩兰萨 (Esperanza) 想知道这家商店是否能够阻止这些电话，并表示 “回避了关于对话是否被记录的问题，以及这些自动电话的接收者是否知道他们正在被记录。”

加利福尼亚州和其他几个州的反窃听法律已经规定，未经呼叫者和被叫人均同意而记录电话是非法的。联邦通信委员会 (Federal Communications Commission) 也一直在努力应对自动电话呼叫的规则，即电话推销员主动拨打和自动拨打的电话。这样的电话通常是预先录制的独白，但是更多的企业和组织正在使用机器学习技术来通过听起来很自然的对话来回答一个人的问题，希望他们不太可能挂断电话。