-
如何应对人工智能被恶意使用?牛津剑桥专家给出5点建议
关键字: 人工智能威胁攻击恶意使用【观察者网TMT频道综合】越来越多的人享受着人工智能带来的便利,但人工智能使用不当也可能造成危险。利用人工智能进行不道德的、恶意的甚至犯罪行为的人将会造成更大的麻烦。
22日,20多位来自牛津大学人类未来研究所、剑桥大学存在风险研究中心和埃隆·马斯克(Elon Musk)支持的OpenAI的专家发布了《人工智能的恶意使用:预测、预防和缓解》报告。
《人工智能的恶意使用:预测、预防和缓解》
专家们在报告中列举了未来5年,人工智能可能出现的潜在威胁和新型攻击以及化解的方式。研究员布伦戴奇表示,“报告的重点不是描绘一个悲观和黯淡的画面,我们有很多可以开发的防御措施,而且我们还有很多需要学习的东西。这篇报告是一个行动呼吁。”
这份报告重点指出,人工智能会加剧数字和物理安全系统的威胁,并将造成全新的危险。该报告写道:“随着人工智能越来越强大,越来越普及,我们预计人工智能系统的广泛应用将导致现有威胁的扩大,还会引发新的威胁,甚至改变典型的威胁特征。”他们还警告称,由于人工智能可以扩大规模,并减轻人类的负担,所以攻击成本也会大幅降低。类似地,由于可以借助这种系统来完成人类通常难以完成的任务,所以也有可能出现新的攻击。
具体来说,该报告认为,与自动攻击、钓鱼、语音合成、数据中毒有关的网络攻击将会增多。无人机以及全自动和半自动驾驶系统的出现也会构成新的风险,包括多辆无人驾驶汽车故意撞击,使用数千架无人机协同攻击,把商用无人机变成人脸识别刺客,控制关键基础设施以索要赎金。在政治方面,人工智能还可以用于左右民众观点,形成高度精准的宣传,传播虚假但却可信的文章和视频。人工智能还能在私有和公共空间催生更好的监控技术。
为了缓解这些威胁,该报告给出了5点建议:
人工智能和机器学习研究人员应该承认其研究成果是双刃剑。
政策制定者应该与技术人员密切合作,调查、预防和缓解人工智能可能的恶意使用方式。
应该向电脑安全等其他高风险技术领域学习一些方法,将其应用于人工智能领域。
应该在这些领域优先形成规范和道德框架。
讨论这些挑战时所涵盖的利益相关者和专家范围应该扩大。
- 请支持独立网站,转发请注明本文链接:
- 责任编辑:陈燕妮
-
布林肯来华谈的怎么样?是否不虚此行? 评论 100“看看,这就是美国的警察” 评论 364习近平会见布林肯:中美应彼此成就,而不是互相伤害 评论 130“宁愿关闭在美业务也不卖” 评论 397王毅见布林肯,对美方提出三个“不要” 评论 264最新闻 Hot