AI黑客对决的观众 达帕
ntext="Article" data-image-id="2101285" data-caption="Spectators at an AI hacking duel" data-credit="DARPA" />
坐下来享受演出。本月早些时候，计算机做了他们以前从未做过的事情 - 他们在没有人类帮助的情况下互相黑客入侵。这场战斗将成为许多人中的第一场，尤其是如果这样的机器成为我们的在线保护者。
在拉斯维加斯举行的Black Hat网络安全会议上的大型网络挑战使人工智能相互对抗，而他们的人类创作者则坐下来观看。争取美国国防高级研究项目局（DARPA）的400万美元奖金，每个人的AI都试图破解其对手的计算机系统。他们寻求弱点，并弄清楚如何在捍卫自己的计算机时利用它们。
人造黑客的复杂性给许多人留下了深刻的印象。“这确实使我感到惊讶，”华盛顿特区网络安全公司Fusionx的Matt Devost说。他说，它可能会在未来10年内改变安全现场。
竞争的目的是鼓励可以开发自动化系统，这些系统可以捍卫互联网免受黑客攻击。获胜者称为Mayhem，是由宾夕法尼亚州匹兹堡的Forallsecure创建的。该公司的首席执行官戴维·布鲁姆利（David Brumley）说，这是第一次证明这种软件可以使用，他还是卡内基·梅隆大学（Carnegie Mellon University）的网络安全研究员。
连接设备的世界变得太复杂了，无法独自捍卫。因此，像布鲁姆利（Brumley）这样的人正在开发工具，可以扫描互联网以获取脆弱设备并协助保护它们。
“您可以制造自主防御实体，” Devost说。“您可能会释放其中之一，其唯一的工作只是四处走动，探索您的网络，找到漏洞并修补它们。”
ForallSecure已开始探测Linux操作系统，Linux操作系统由运行Internet的许多计算机使用。该公司计划在线发布其软件，并为其遇到的系统的安全性评分。布鲁姆利说：“转折点是我们现在可以自主检查每件软件。”
这样的想法是让消费者了解设备在购买之前的安全性，让他们避免使用黑客容易受到攻击的婴儿监视器。他说：“所有这些设备尚未深入研究。”“如果您去亚马逊购买路由器，那么它有很大的漏洞。”
但是有一个翻转的一面。Devost说：“您现在也有可能创建自主攻击者。”“启动其中之一，您可以自动化类似2014 Sony Hack之类的东西。”
Devost并不是唯一关注的人。在拉斯维加斯竞赛之后不久，旧金山的数字右翼集团电子边界基金会（EFF）在其网站上发表了一篇文章，以赞扬DARPA的倡议，但呼吁研究人员聚集在一起讨论如何阻止此类系统免于流氓和造成灾难性损害。
像Mayhem这样的软件可用于控制人类黑客本身能够的数量要大得多的连接设备，从而打开新的攻击。例如，通过劫持智能恒温器，网络犯罪分子可以通过威胁要提高空调并崩溃网格来使电力提供商赎金。
EFF希望研究人员通过构建可以自行探测和攻击的软件的风险进行努力。这些问题类似于患有高度传染病时面临的问题。例如，就像在实验室中修改和研究H5N1流感病毒一样，我们可以为流行病做准备，它还为该研究用于传播疾病开辟了大门。
在Black Hat的演讲中，Devost开玩笑说，比赛预示了Skynet的发射，这是Malevolent AI 终结者 电影。“每个人都笑了，”他说。“人类鼓掌自己的灭亡！”
本文以标题为“ AI观察者”的印刷品出现
