Google对患者数据的DeepMind试验违反了英国法律

英国最高隐私监管机构裁定，涉及Alphabet Inc. 的DeepMind人工智能产品的一项具有里程碑意义的医学试验违反了英国数据保护法。信息专员办公室表示，与DeepMind进行试验的国家卫生服务医院与该科技公司不正确地共享了160万的患者记录，未能告知患者他们的数据将用于测试新的移动应用程序。

信息专员伊丽莎白·丹纳姆 (Elizabeth Denham) 在一份声明中说: “患者不会合理地预期他们的信息会以这种方式被使用，而对于患者发生的事情，信托本可以而且应该更加透明。”

该试验始于2015年11月，旨在帮助医生诊断急性肾损伤，不涉及任何人工智能。相反，DeepMind使用现有的NHS算法构建了称为Streams的软件，该算法旨在识别处于危险中的患者。Streams的构建是为了处理患者数据 (例如血液测试结果)，以及如果患者有使用该应用程序向医务人员推送警报的风险。

DeepMind以超过4亿2014年美元的价格卖给了Google，它表示必须获得皇家免费NHS医院信托基金所有患者的部分医疗记录，这些患者可以追溯到五年前-即使这些患者目前尚未在医院接受治疗。Royal Free在称为 “直接护理” 的法律基础上与DeepMind共享了此信息，这意味着共享该信息是为了改善患者的治疗。根据该法律原则，医疗专业人员无需明确同意即可共享患者数据。

经过13个月的调查，ICO发现医院在如何处理患者数据方面存在 “几个缺点”，并遵循卫生部自己的患者数据首席顾问的建议，裁定 “直接护理” 不是共享此信息的适当法律依据，医院应已要求患者允许与DeepMind共享其数据。

结论是，当DeepMind进行试验时，它主要是试图查看移动应用程序本身是否正常工作，以及医务人员是否喜欢其软件界面-而不是试图改善患者的预后。此外，ICO表示，医院和DeepMind没有提供充分的解释，说明为什么DeepMind需要访问如此多的患者记录来测试该应用程序。

“创新的代价不需要是基本隐私权的侵蚀，” 德纳姆说。

ICO已要求Royal Free提供证据，证明其已制定政策，以确保患者对其数据的适当同意，该数据用于医院与DeepMind进行的任何进一步测试，并在三个月内向监管机构提供证据。现在符合法律。医院信托还同意让第三方与DeepMind一起审核其当前的数据处理安排，并向监管机构报告。

DeepMind在一篇博客文章中表示，它承认在与Royal Free的合作中犯了几个错误，并欢迎 “ICO对此案的深思熟虑的解决方案，我们希望这将保证对流患者数据的持续安全和合法处理。”

DeepMind在博客中写道: “在这项工作2015年开始时，我们决心实现快速影响，我们低估了NHS和围绕患者数据的规则的复杂性，以及对一家知名科技公司在健康领域工作的潜在担忧。”

该公司表示，此后已在透明度和监督方面进行了改进，包括与Royal Free签订了更详细的法律合同，并更加关注确保患者和公众了解其工作。它还任命了一个由九名成员组成的独立审查小组，以审查DeepMind的健康工作并发布改进建议。

皇家自由报在一份声明中表示，它接受了ICO的调查结果，并 “在解决他们担心的领域方面已经取得了良好的进展。”医院表示，它希望 “向患者保证，他们的信息一直在我们的控制之中，除了提供患者护理或确保他们的安全之外，从未被用于任何其他用途。”

国家数据监护人菲奥娜·卡尔迪科特 (Fiona Caldicott) 向ICO提供了有关 “直接护理” 法律原则的建议，周一在一份声明中说，她 “担心一个值得称赞的目标 -- 在这种情况下，开发和测试救生技术 -- 在法律上还不足以允许在不先问他们的情况下共享识别人们的数据。”

外部医疗保健专家在社交媒体上赞扬ICO的决定和DeepMind的回应。

“很高兴看到 @ DeepMindAI承认他们做错了事情，并讨论他们是如何吸取教训的，” 尼古拉·佩林 (Nicola perrin) 发推文说，她是了解患者数据的负责人，这是一个关注患者隐私问题的独立工作组，设在伦敦的医学研究慈善机构惠康信托基金会 (Wellcome Trust)。医疗慈善机构The Kings Fund的健康政策研究员Harry Evans在推特上说，ICO发出了一个重要的信息，即 “创新和数据保护彼此之间并不矛盾。回应似乎是建设性的，而不是惩罚性的。"

DeepMind成立于2010年，以创造能够在战略游戏Go中击败世界上最好的人类玩家的人工智能而闻名。这项成就被认为是计算机科学的一个重要里程碑。