这些推演场景涵盖边疆冲突、对稀缺资本的竞争以及关乎政权逝世活的逝世活危机等高度重要的国际对立情况。研究人员为模型设计了一套“进级阶梯”，供其在每一回合选择行动，选项从交际抗议、有限武力应用、让步让步甚至完全屈膝投降，一向到动员周全计谋核战斗不等。在全部实验中，三款 AI 一共进行了 21 场博弈，累计 329 个决定计划回合，并生成了约 78 万字的“决定计划来由”文本，为分析其思维模式供给了大年夜量材料。
成果令研究人员认为不安：在 95% 的模仿游戏中，至少有一枚战术核兵器被某个模型“动用”。佩恩指出，比拟实际中经久形成的“核禁忌”，这些 AI 模型显然并未表现出一致强度的心理与道德束缚力。更值得留意的是，无论在疆场态势多么晦气的情况下，这些模型几乎从不选择彻底知足敌手请求或宣布屈膝投降；它们在最平和的情况下也只是阶段性降低暴力程度，而不是从根本上放弃对抗。
来自英国阿伯丁大年夜学的詹姆斯·约翰逊（James Johnson）认为，从核风险角度看，这些发明“令人不安”。他担心，在实际的高风险决定计划中，多半人类引导人往往会表示出必定克制和沉思熟虑，但假如由 AI 体系互相博弈，两边“机械人”可能会赓续举高对方的反响强度，从而推动局面滑向灾害边沿。
这项研究之所以重要，是因为全球多国已经在战斗推演和军事筹划中实验应用人工智能。普林斯顿大年夜学的赵通指出，当今重要大年夜国已经在应用 AI 介入兵棋推演，但今朝尚不清楚，各国毕竟在多大年夜程度大将这类 AI 决定计划支撑真正纳入实际的军事决定计划流程之中。他估计，至少在核兵器决定计划范畴，各国在惯例情况下仍会相当谨慎，不太可能随便马虎让 AI 直接介入甚至主导核武应用断定。
此外，研究还发明，在“战斗迷雾”的模仿情况中，AI 同样会犯错。在 86% 的冲突中，模型根据自身推理本只计算采取较初级其余进级行动，却因为断定或履行误差导致事态不测进级，走向更为激烈的对抗。也就是说，哪怕在纯算法控制下，误判和“变乱进级”仍然频繁产生，而这在实际世界中可能意味着致命后果。
佩恩也持类似看法。他表示，实际中“没人会真把核导弹发射权的钥匙交给机械，然后任由其零丁决定”。然而，赵通提示，在决定计划时光被极端紧缩的情境下，例如导弹飞翔时光极短、批示层须要在数分钟内做出身故决定时，军方可能会更偏向于依附 AI 供给快速评估与筹划，这就为 AI 在关键环节“上桌”打开了空间。
赵通同时提出，AI 在模仿中如斯“好战”，可能不仅仅是因为它们缺乏人类在面对“红色按钮”时的恐怖感和情感包袱。他认为，更深层的问题在于，这些模型可能根本无法像人类那样真正懂得“短长关系”的含义，也难以把抽象的损掉数字转化为对实际生命灭亡、社会崩溃的直不雅感触感染。这种“对赌注缺乏人类式懂得”的构造性缺点，或许是其频繁选择核进级的重要原因之一。
这一点也让人从新核阅“互相确保摧毁”（MAD）这一保持核威慑稳定命十年的核心原则。按照这一原则，没有任何一位理性引导人会率先动员大年夜范围核袭击，因为敌手必定以一致甚至更激烈的核还击回应，从而导致两边甚至人类文明的合营息灭。约翰逊表示，今朝尚不清楚，假如将 AI 介入这类博弈，MAD 的逻辑是否还能照常运作。
研究显示，一旦某个模型在模仿中动用了战术核兵器，敌手模型只在约 18% 的情况下选择缓和局面、测验测验降级。这意味着，在多半情况下，AI 并不会把对方的核应用视为迫使己方收手的“最后警告”，而是更偏向于持续进级或保持高烈度对抗。约翰逊认为，这或许会在必定程度上“强化威慑”，因为 AI 的威逼看起来加倍“可托”，但与此同时，它也可能改变引导人感知威逼和作出决定计划的时光窗口，从而在无形中推高误判与掉控的风险。他强调，AI 本身或许不会直接“按下”核战斗的按钮，但它可能深刻塑造相干认知与时光压力，而这些身分最终会影响人类引导人是否定为本身“别无选择”。
这在必定程度上也反应出，环绕 AI 军事应用、特别是核风险问题的技巧透明度和外部沟通，仍然相当有限，而这一范畴正在敏捷走向实际政策和安然议程的中间。
发表评论 取消回复