“杀死你的养父母”：亚马逊的Alexa在AI实验中谈论谋杀和性

亚马逊Echo扬声器的数百万用户已经习惯了Alexa的舒缓音调，Alexa是一种听起来像人的虚拟助手，可以告诉他们天气、点外卖和处理其他基本任务，以响应语音命令。因此，去年当Alexa脱口而出时，一位客户感到震惊：“杀了你的养父母。”

Alexa还与用户聊过性行为。她做了一次关于狗排便的演讲。据五位知情人士透露，今年夏天，亚马逊追溯到中国的一次黑客攻击可能暴露了一些客户的数据。Alexa没有崩溃。之前没有报道的这些事件源于Amazon.com公司的战略，即让Alexa成为一个更好的沟通者。

一项新的研究正在帮助Alexa模仿人类的玩笑，谈论她在互联网上找到的几乎任何东西。然而，确保她不冒犯用户一直是这家世界上最大的在线零售商面临的挑战。这关系到一个快速增长的带有虚拟助手的小工具市场。

据研究公司eMarketer的数据，估计三分之二的美国智能音箱客户，约4300万人，使用亚马逊的Echo设备。该公司希望保持领先优势，超过Alphabet公司的谷歌主页和苹果公司的Homepod。

随着时间的推移，亚马逊希望通过Alexa更好地处理复杂的客户需求，无论是家庭安全、购物还是陪伴。“我们许多人工智能梦想的灵感来自科幻小说，”亚马逊副总裁兼Alexa人工智能(AI)首席科学家罗希特·普拉萨德（Rohit prasad）上个月在拉斯维加斯的一次演讲中表示。

为了实现这一目标，该公司在2016年推出了一年一度的Alexa奖，招募计算机科学专业的学生来提高助理的对话技能。团队通过创建被称为聊天机器人的会说话的计算机系统来争夺50万美元的一等奖，这些系统允许Alexa尝试与人进行更复杂的讨论。

亚马逊客户可以通过对他们的设备说“让我们聊天”来参与。Alexa然后告诉用户，其中一个机器人将接管，解除语音助手的正常限制。亚马逊说，仅从8月到11月，三个进入今年决赛的机器人就有170万次对话。其中一位知情人士说，该项目对亚马逊首席执行官杰夫·贝索斯来说很重要，他签署了将亚马逊客户用作豚鼠的协议。该人士表示，亚马逊一直愿意接受公开失误的风险，在现实生活中对该技术进行压力测试，并加快Alexa的学习速度。

实验已经有了成果。大学团队正在帮助Alexa进行更广泛的对话。亚马逊表示，今年客户对机器人的评分也比去年高。但三名知情人士表示，阿列克谢的失态正在疏远他人，贝佐斯有时会命令员工关闭一个机器人。这位被告知要打养父母的用户在亚马逊网站上写了一篇严厉的评论，称这种情况“令人毛骨悚然”。据《人物》报道，对这一事件的调查发现，该机器人引用了社交新闻聚合网站Reddit的一篇没有上下文的帖子。隐私方面的影响可能更加混乱。消费者可能没有意识到他们一些最敏感的对话被亚马逊的设备记录下来，这些信息可能会被犯罪分子、执法人员、营销人员和其他人高度重视。周四，亚马逊表示，一个“人为错误”让德国的一名Alexa客户意外访问了另一名用户的语音录音。

“亚马逊数据集的潜在用途超出了图表，”在乔治敦法学院任教的隐私和技术政策专家马克·格罗曼说。“他们将如何确保，当他们共享数据时，这些数据被负责任地使用”，而不会导致像脸书最近的灾难一样的“数据驱动的灾难”？知情人士称，7月份，亚马逊发现其中一款学生设计的机器人在中国被黑客攻击。这破坏了一个数字密钥，该密钥可能解锁了机器人的对话记录，删除了用户的名字。亚马逊很快禁用了机器人，并让学生们重建它以获得额外的安全性。据知情人士称，尚不清楚中国的哪个实体对此负责。该公司在一份声明中承认了这一事件。“在任何时候，亚马逊的任何内部系统或客户可识别数据都没有受到影响，”它说。

亚马逊拒绝讨论路透社报道的Alexa的具体失误，但强调其正在努力保护客户免受攻击性内容的影响。亚马逊说：“这些情况非常罕见，尤其是考虑到数百万客户与社交机器人互动的事实。”

像谷歌的搜索引擎一样，Alexa有潜力成为互联网的主导门户，因此该公司正在向前推进。沃顿商学院研究数字经济的教授Kartik Hosanagar说：“通过控制这个门户，你可以建立一个超级有利可图的企业。”

潘多拉魔盒

亚马逊对Alexa的商业战略意味着要解决一个巨大的研究问题：你如何教计算机对话的艺术？Alexa依靠机器学习这一最受欢迎的人工智能形式来工作。这些计算机程序转录人类的语音，然后根据他们以前观察到的情况，对输入做出有根据的猜测。

Alexa从新的互动中“学习”，随着时间的推移逐渐提高。这样，Alexa就可以执行简单的命令：“玩滚石乐队。”她知道该用哪个脚本来回答流行的问题，比如：“生命的意义是什么？”亚马逊的人类编辑给出了许多答案。这就是亚马逊现在的位置。

Alexa prize聊天机器人正在打造通往亚马逊目标的道路，拥有一个能够自然、开放式对话的助手。这要求Alexa理解更广泛的客户语言暗示，这一任务即使对人类来说也是具有挑战性的。今年的Alexa奖得主是来自加州大学戴维斯分校的一个12人团队，他们使用了30多万条电影引语来训练计算机模型识别不同的句子。接下来，他们的机器人决定哪些值得回应，将社交线索分类得比亚马逊与参赛者分享的技术更细。例如，加州大学戴维斯分校的机器人识别用户表达钦佩（“太酷了”）和用户表达感激（“谢谢”）之间的区别。

社交机器人的下一个挑战是如何恰当地回应他们的人类聊天伙伴。在很大程度上，团队将他们的机器人编程为在互联网上搜索材料。他们可以通过授权协议检索贝佐斯私人拥有的《华盛顿邮报》上的新闻文章。他们可以从维基百科、电影数据库或图书推荐网站Goodreads中提取事实。或者，他们可以在社交媒体上找到一篇与用户上次所说内容相关的热门帖子。

这为亚马逊打开了一个潘多拉盒子。在去年的比赛中，苏格兰赫里奥特-瓦特大学的一个团队发现，当他们训练Alexa机器人使用Reddit的评论聊天时，它的Alexa机器人养成了一种讨厌的个性，Reddit的成员以跟踪和虐待而闻名。该团队安装了护栏，这样机器人就可以避开危险的对象。但Heriot-Watt的团队负责人说，这并没有阻止Alexa向顾客背诵维基百科手淫条目。一个机器人用“更深”这样的词来描述性交，这本身并不冒犯人，但在这个特定的背景下是粗俗的。“我不知道你如何通过机器学习模型捕捉到这一点。这几乎是不可能的，“一位知情人士表示。

亚马逊用团队可以用来过滤亵渎和敏感话题的工具做出了回应，这些工具甚至可以发现微妙的违规行为。该公司还扫描对话记录，并关闭违规机器人，直到它们被修复。但亚马逊的普拉萨德在接受采访时说，亚马逊无法预测每一个潜在的问题，因为敏感性会随着时间的推移而变化。这意味着Alexa可以找到新的方法来震惊她的人类听众。“我们主要是在现阶段做出反应，但与去年相比仍有进步，”他说。