来源： 时间：2022-07-21 14:35:07
一份新的报告警告说，人工智能的快速发展正在增加恶意用户将很快利用该技术发起自动黑客攻击，导致无人驾驶车祸或将商用无人机变成目标武器的风险。
这项研究由剑桥，牛津大学和耶鲁大学的25名技术和公共政策研究人员以及隐私和军事专家于周三发表，为流氓国家，犯罪分子和独狼攻击者可能滥用AI敲响了警钟。研究人员说，恶意使用人工智能会对数字，物理和政治安全构成迫在眉睫的威胁，因为它允许大规模，针对性强，高效的攻击。这项研究的重点是五年内合理的发展。
牛津大学人类未来研究所研究员迈尔斯·布伦戴奇 (Miles Brundage) 表示: “我们都同意人工智能有很多积极的应用。”“围绕恶意使用问题的文献存在空白。”人工智能 (AI) 涉及使用计算机执行通常需要人类智能的任务，例如做出决策或识别文本，语音或视觉图像。它被认为是释放各种技术可能性的强大力量，但已成为激烈辩论的焦点，即它所实现的大规模自动化是否会导致广泛的失业和其他社会混乱。
这份长达98页的论文警告说，使用人工智能来完成原本需要人力和专业知识的任务，可以降低攻击成本。可能会出现新的攻击，这对人类来说是不切实际的，或者利用人工智能系统本身的漏洞。它回顾了越来越多的关于人工智能带来的安全风险的学术研究，并呼吁政府、政策和技术专家合作并化解这些危险。
研究人员详细介绍了人工智能生成合成图像，文本和音频以在网上模仿他人的能力，以影响公众舆论，并指出专制政权可能部署此类技术的威胁。该报告提出了一系列建议，包括将人工智能作为一种军民两用的军事/商业技术进行监管。
它还询问有关学者和其他人是否应该控制他们发表或披露有关人工智能新发展的内容的问题，直到该领域的其他专家有机会研究并对他们可能构成的潜在危险做出反应。布伦戴奇说: “我们最终得到的问题比答案多得多。”
相关推荐
猜你喜欢
