五角大年夜楼已给xAI的竞争敌手之一Anthropic设定了周五的最后刻日，请求其赞成美国军方放宽对其模型的应用规定。在xAI与军方杀青协定之前，Anthropic是独一获准用于机密用处的开辟商。
其他官员则质疑Grok较为宽松的控制是否会带来风险。
当时，在12月底和1月初，Grok因许可对包含儿童在内的照片进行色情化编辑而受到鞭挞。当局官员认为，这个问题代表了Grok可能被不良行动者应用的方法。
上述知恋人士说，此事传到了白宫办公厅主任苏西·威尔斯那边，她就这些担心致电xAI的一位高管。该高管告诉她，xAI正在尽力解决导致Grok过于服从的安然问题。经由过程马斯克的美国当局效力部（Department of Government Efficiency）招募的美国总务治理局高等采购官员乔希·格林鲍姆向当局官员包管，Grok的当局平台与公共平台是分开的。这些人士说，威尔斯对此认为知足。
马斯克曾表示，他致力于防止对儿童的性盘剥。他在1月份宣布，该公司将把图像生成和编辑对象的应用范围限制在付费客户。
近几周，美国总务治理局官员被告诉将xAI的标记放在一个名为USAi的对象上，该对象本质上是一个供联邦雇员实验不合AI模型的沙盒。据知恋人士泄漏，Grok一向未能经由过程USAi拜访，今朝仍未在该平台上供给，这重要出于安然推敲。
该网站显示了xAI的标记，但只供给来自Anthropic、谷歌和Meta的AI模型。
上述知恋人士说，美国总务治理局一个研究AI的团队向该机构高层官员分发了一份申报，指出了Grok的安然问题。Grok已被美国总务治理局工作人员停用数月。其他机构对应用Grok的需求一向不大年夜，只有少数情况下有人想用它来模仿不良行动者以进行防御性测试。
格林鲍姆在一份声明中说，该机构严肃对待AI安然问题。“我们经由过程周全的内部审查法度榜样，对包含xAI在内的前沿AI模型进行严格评估。在此次事宜中，我们遵守了既定法度榜样，并保持按筹划推动的决心，”他说。
两周前，五角大年夜楼主管AI义务部分的负责人马修·约翰逊告退，部分原因是他担心，在国防部大年夜力推动扩大年夜AI才能之际，安然和治理已成为次要问题。
此前，约翰逊的团队曾分发备忘录，强调了Grok的安然问题，并质疑其是否相符当局的道德和标准。这些备忘录已经由过程他们在五角大年夜楼的批示体系上报。
在被问及置评时，约翰逊提到了他在领英上宣布离职的帖子，他在帖子中说，他为本身在国防部AI义务部分的团队认为骄傲，他们是“一群真正的、默默无闻的专业人士，产生了巨大年夜的影响，却未获得应有的承认”。他还写道：“我们赓续面对弗成能完成的义务，但总能凭借毅力和一次又一次的彻夜达旦完成义务。”
一位五角大年夜楼官员说：“无论保密级若何，国防部将持续确保所应用的所有模型的安然和保障。”
据知恋人士泄漏，美国联邦当局的采购部分美国总务治理局（General Services Administration）最高官员埃德·福斯特近几个月向白宫官员就Grok的潜在安然问题发出警报。他手下的其他美国总务治理局官员也对Grok的安然性提出了担心，他们认为Grok阿谀阿谀，太轻易受到缺点或有成见数据的把持或废弛，从而构成潜在的体系性风险。
负责监督美国大年夜部分谍报收集和处理工作的美国国度安然局（National Security Agency）在2024年11月对包含Grok在内的大年夜说话模型进行了一次机密审查。据懂得此次审查的知恋人士称，该机构认定Grok存在其他模型（包含Anthropic的Claude）所没有的特别安然问题。这些知恋人士说，这一结论敲响了警钟，使五角大年夜楼的一些部分清除了应用Grok的念头。
上个月，在美国军方抓捕委内瑞拉前总统马杜罗的行动中，Anthropic的Claude被应用，这加剧了该公司与五角大年夜楼之间的重要争端。
Anthropic的应用指南禁止Claude被用于助长暴力、开辟兵器或进行监督，该公司不予让军方在所有合法情况下应用其模型。xAI则赞成了军方的相干请求。
美国国防部长赫格塞思已请求Anthropic在周五前赞成军方提出的赐与更大年夜灵活性的请求，不然他可能会禁止该公司承接当局工作，或采取司法行动迫使其知足请求。
xAI经由过程7月份从AI办公室获得的一份价值高达2亿美元的合同在五角大年夜楼站稳了脚跟，谷歌、OpenAI和Anthropic也获得了该合同。谷歌和OpenAI获准在非机密情况中应用，但未获准用于机密活动。
在全部当局范围内，各机构都在竞相为多种目标安排AI，但关于应用哪些模型的辩论已变得日益政治化。据知恋人士泄漏，包含白宫官员在内的一些美国高等官员认为，Anthropic在安然问题上直言不讳的立场以及与平易近主党大年夜金主的关系，可能使其因过于“政治精确”（woke）而无法成为一个靠得住的供给商。对Grok较为宽松的控制，以及马斯克在谈吐自由问题上的绝对主义立场，使其成为五角大年夜楼一个更具吸引力的选择。
AI和安然分析师表示，直到比来，军方一向更偏向于应用Claude而非Grok，因为业内很多人认为Claude是更靠得住的模型。
计谋与国际问题研究中间（Center for Strategic and International Studies）专注于AI问题的高等参谋格雷戈里·艾伦说：“我认为，就对战斗部如许的客户至关重要的所有才能而言，它们今朝的表示并非旗敌相当。”他之前曾介入国防部的AI计谋工作。
据知恋人士泄漏，在拜登当局时代，五角大年夜楼部属的首席数字和AI办公室（Chief Digital and AI Office）不予寻求任何对Grok的应用。相干担心包含：Grok难以追踪用于练习模型的数据来源，不相符联邦当局的AI义务标准，以及安然防护办法脆弱。这些知恋人士说，xAI没有充分测验测验经由过程进击自身技巧来发明和修复马脚，这个过程在技巧上被称为红队练习训练（red teaming）。
据知恋人士泄漏，军方很多部分甚至在非机密工作中也更青睐Anthropic的Claude。
在当局情况中审查过Grok的知恋人士表示，比来的测试显示，该聊天机械人比其他模型更轻易受到“数据投毒”（data poisoning）的影响，即被把持的、有成见的或不精确的数据会破坏底层数据。
知恋人士称，从积极的方面来看，美国官员已肯定Grok能有效模仿敌对行动者，这在兵棋推演等场景中很有效。
客岁，五角大年夜楼将首席数字和AI办公室划归研究与工程办公室（Research and Engineering Office）管辖，此举旨在加快AI的采取。批驳人士称，此举为了寻求效力，剥夺了该办公室的大年夜部分权力，特别是在履行AI义务标准方面的权力。
发表评论 取消回复