美国军事报告建议授予AI自治权发射核武器

商业作者 / 姓名 / 2025-06-30 22:42
"
美国军事报告建议授予AI自治权发射核武器  对指数的未来感兴趣?连接,下载免费的电子书,观看主题演讲或浏览我的博客。  科

美国军事报告建议授予AI自治权发射核武器

  对指数的未来感兴趣?连接,下载免费的电子书,观看主题演讲或浏览我的博客。

  科幻小说中的“ AI和机器人变得不好”触发了核大赛,因此,我感到绝望的是,我报道了对俄罗斯人工智能(AI)的死者的重新激活,如果俄罗斯高级命令被淘汰,则会引发全部核战争。当时,我称之为AI最糟糕的用例之一。现在,尽管一对与美国空军有关的研究人员宣布,他们想向AI提供核法规。所有这一切都在美国五角大楼宣布,他们将一个名为Mayhem的半自治的AI机器人藏在五角大楼的任务关键系统中,以捍卫五角大楼的任务,开发单个AI,可以监视和跟踪全球风险,以及世界上第一个自我变换机器人的发展,并在这里进行了杀手机器人的最初警告。

  空军技术研究所副学院迪恩·柯蒂斯·麦吉芬(Dean Curtis McGiffin)和路易斯安那科技研究所的研究人员亚当·洛瑟(Adam Lowther)也隶属于空军,共同撰写了一篇文章 - 与不祥的标题“美国需要'死手'” - 认为美国需要开发“基于人工智能的自动化战略响应系统”。

  换句话说,他们想给AI核法规。是的,正如作者承认的那样,这听起来很像斯坦利·库布里克(Stanley Kubrick)1964年的讽刺《史克特洛夫(Strangelove)》(Dr. Strangelove)的“世界末日机器”。

  标题中提到的“死手”是指苏联的自动化系统,如果满足某些条件,包括工会领导人的死亡,该系统将发射核武器。

  不过,这次,Lowther和McGiffin建议的AI驱动系统甚至都不会等待对美国进行首次罢工 - 它将知道提前做什么。

  他们写道:“对于基于人工智能的制定系统,具有预定的响应决策可能是必要的,该决定以如此速度来检测,决定和指导战略力量,以至于攻击时间压缩挑战并不能使美国处于不可能的位置。”

  攻击时间压缩是现代技术(包括高度敏感的雷达和接近瞬时通信)的现象,大大减少了检测时间和决策时间之间的时间。挑战:现代武器技术,尤其是高超音速巡航导弹和飞机,进一步切开了窗户。

  Lowther和McGiffin认为:“这些新技术正在将美国的高级决策时间缩小到如此狭窄的窗口,以至于很快就不可能有效地检测,决定和直接及时地核力量。”

  这个想法是使用AI驱动的解决方案来消除对敌人的报复性罢工的任何惊喜能力或优势。它将取代洛瑟(Lowther)和麦吉芬(McGiffin)所说的“系统,流程和人员制度”,“不可避免地,必须能够检测到世界任何地方的发射,并有能力针对对手发动核罢工。”

  毫不奇怪,原子科学家编辑马特·菲尔德(Matt Field)的公告指出,将核法规移交给AI可能会产生很多负面影响。其中之一是自动化偏见,正如菲尔德在他的作品中指出的那样。人们倾向于盲目相信机器在告诉他们什么,甚至支持自动决策而不是人类决策。

  Field认为,一个简单的事实是,AI没有太多数据可以运行。这意味着将大多数馈送到AI的数据都是模拟数据。而且,如果“ Strangelove博士”有什么需要进行的,只要所有主要的世界大国都知道自动化系统,就可以防止他们攻击美国。因为没有这些知识,它就会变得毫无意义,并有可能完全歼灭。或者,正如Strangelove博士本人所说:“当然,如果您保留秘密的话,世界末日机器的整个点就会丢失!”

  资料来源:原子科学家公告

分享到
声明:本文为用户投稿或编译自英文资料,不代表本站观点和立场,转载时请务必注明文章作者和来源,不尊重原创的行为将受到本站的追责;转载稿件或作者投稿可能会经编辑修改或者补充,有异议可投诉至本站。

热文导读