将用户隐私放在首位的数字助手

作者: 约翰·马尔科夫

自从Google开始主导互联网搜索以来，已经有将近二十年了，就像微软在一代人之前主导个人计算机软件一样。

现在，斯坦福大学的计算机科学家警告说，争夺控制他们认为将是下一个关键的消费技术市场的竞争的后果-像亚马逊的Alexa和Google Assistant这样的虚拟助手。

由计算机系统设计师莫妮卡·林 (Monica Lam) 领导的斯坦福大学的小组上个月获得了美国国家科学基金会 (National Science Foundation) 的300万美元资助。这笔赠款用于一项互联网服务，他们希望该服务将成为瑞士的一种使用人类语言控制家庭和办公室中的计算机，智能手机和互联网设备的系统。

研究人员最担心的是，像今天设计的虚拟助手对消费者信息的影响可能比今天的网站和应用程序大得多。他们说，将这些信息交到一家大公司或一个小集团手中，可能会抹去剩下的在线隐私。

“垄断助理平台可以访问我们所有不同帐户中的数据。他们将拥有比亚马逊、Facebook和谷歌加起来更多的知识，“林在接受采访时说。

与搜索引擎相比，虚拟助手可以访问更广泛，更多的个人数据。虚拟助理可以像私人秘书一样，可以访问您生活中许多最亲密的细节。

Lam正在与斯坦福大学的一群教职员工和学生合作，建立一个虚拟助手，使企业和公司能够避免交出个人信息，并保持一定程度的独立于大型技术公司。

来自Lam小组的系统称为Almond。在最近的一篇论文中，他们提出了一种方法，其中虚拟助手软件是分散的，并通过编程标准进行连接，这将使消费者有可能选择其信息存储在哪里以及如何共享。

该服务的第一个版本于去年发布，斯坦福大学的研究人员现在正试图与更大的技术和消费公司建立联盟。

虚拟助手的市场正在蓬勃发展，虚拟助手可以执行各种任务，例如选择音乐或打开和关闭恒温器和灯。今年早些时候，谷歌表示，包括基于Android的手机在内，它即将在10亿设备上安装其助手服务。亚马逊表示已售出10000万多台Echo及相关设备。

虚拟助手并未受到政府监管机构的严格审查，因为市场仍然很小。但少数几家公司 -- 亚马逊、谷歌、苹果和微软 -- 已经占据主导地位。

斯坦福大学的研究人员希望通过向智能手机，计算机和消费设备的用户免费提供其软件来获得支持。

他们鼓励消费产品制造商通过称为Thingpedia的Wikipedia风格服务将其设备连接到Almond虚拟助手。它是一个共享数据库，任何制造商或internet服务都可以在其中指定其产品或服务与Almond虚拟助手的交互方式。

他们还希望Almond能够在理解复杂语言的能力上超越现有的虚拟助手系统。虚拟助手在理解人类所说的方面做得更好，但是他们在理解这些词的含义方面取得的进展要小得多。背景和细微差别对于机器来说很难理解。

虽然像 “温度是多少？” 或 “播放甲壳虫乐队的歌曲” 这样的简单短语现在通常由计算机助理来处理，但需要理解上下文或依赖于以前所说的东西的日常人类互动更具挑战性。

这些服务现在在特定领域表现最好，就像您可能会遇到的关于控制Spotify帐户的所有问题一样。

到这一点已经花了多年的工作。三十年前，苹果公司委托一个由计算机科学家艾伦·凯 (Alan Kay) 领导的小组制作了一个视频，展示了人类将来如何使用口语与计算机进行交互。该视频被称为 “知识导航器”，其中一位心不在焉的教授与计算机系统进行了交谈，以执行日常任务和学术研究。

该演示启发了许多开发人员，包括人工智能研究人员Adam Cheyer和Tom Gruber，他们还在加利福尼亚州门洛帕克的独立研究实验室SRI International时就开始研究虚拟助手。

2010年，苹果收购了这家初创公司，然后于次年发布了iphone的技术。

此后，Siri面临激烈的竞争。去年，亚马逊表示有10,000名员工致力于其Alexa服务，其中许多人专注于提高理解复杂命令的能力。

斯坦福大学的研究人员认为，即使有成千上万的员工，Alexa的方法也永远无法充分应对人类语言的复杂性和可变性，因为它的劳动强度令人难以置信，并且可能不会扩展到更复杂的对话。

另一方面，亚马逊研究人员表示，访问大量数据将使他们在开发更复杂的对话软件方面具有有意义的优势。

斯坦福大学的研究人员开发了一种名为Genie的系统，该系统简化了训练所谓神经网络的任务。他们通过创建测试数据来提高服务的准确性，其中一些数据是由人类生成的，其余的则是由特殊测试程序创建的句子。

虽然理解口语的机器准确性现在通常高于90%，但理解复杂自然语言的准确性显著较低。斯坦福大学研究人员最近发表的一篇论文描述了语言理解的重大进步，但在 “真实的用户输入” (由人类测试对象以书面形式产生的实际陈述) 上仍仅达到62% 的准确性。

格鲁伯 (Gruber) 在领导苹果高级开发工作后最近离开了苹果，他仍然对任何近期的技术突破持怀疑态度，这些突破将使虚拟助手有可能具有人性化的理解。

“当你得到一个问题，你不知道它在什么领域，那么你就有了一个非常复杂的问题，巨大的歧义，” 他说。

另请阅读:苹果首席执行官蒂姆·库克 (Tim Cook) 表示，科技公司无法逃避隐私混乱的责任

林说，对隐私的威胁不能过分夸大。例如，她指出，去年拉斯维加斯的永利度假村在房间里安装了亚马逊回声设备。

“一旦他们说拉斯维加斯发生的事情就会留在那里，” 她说。“现在这已经不一定是真的了。现在它可能会在西雅图结束。”