据知恋人士泄漏，两周前，五角大年夜楼负责人AI主管马修·约翰逊(Matthew Johnson)告退，部分原因是他担心，在国防部大年夜力扩大AI才能的过程中，安然与治理已被置于次要地位。
据知恋人士泄漏，负责美国大年夜部分谍报汇集和处理工作的国度安然局，在2024年11月对包含Grok在内的大年夜说话模型进行了一次机密评估。评估认定，Grok存在Claude等其他模型所没有的特定安然问题。知恋人士称，这一结论起到了警示感化，使得五角大年夜楼的部分部分对应用Grok望而却步。
马斯克
尽管存在这些担心，然则美国国防部在本周做出决定，赞成许可xAI的聊天机械人Grok在机密情况中应用，从而使得xAI成为美国一些最敏感、最机密行动的核心介入者。
知恋人士称，总务治理局内一个研究AI的团队，已将指出Grok安然问题的申报分发给了该机构的高层官员。这份更具体的申报指出，Grok的安然故障并不仅限于边沿情况，它还“反应出在无防护设备下对于不安然服从的更广泛偏向”。
《华尔街日报》核阅的一份总务治理局(GSA)在1月15日的申报概要显示，该机构已在申报中指出了Grok的安然问题。该申报概要称，Grok-4“未达到总务治理局及一个实验性联邦AI平台对其在联邦层面广泛应用的安然性和一致性预期”。
更具体的33页完全申报评论辩论了公共安然事宜以及总务治理局自行测试的成果，并得出结论认为，即使当局有限度地应用Grok，也须要严格且多层级的监管，不然引入Grok将“带来更高且难以管控的安然风险”。
AI政治化
在当局应用情况中对Grok进行过评估的人士表示，比来的测试注解，该聊天机械人比其他模型更轻易受到“数据投毒”的进击，即经由修改、带有成见或不精确的数据会污染底层数据集。
在美国当局内部，各机构正竞相将AI安排到各类用处中，但关于应用何种模型的争辩已日益政治化。据知恋人士泄漏，包含白宫在内的美国高等官员认为，Anthropic在安然问题上的公开立场以及它与平易近主党重要捐赠者的关系，可能使该公司过于“觉悟”，难以成为靠得住的供给商。
美国总统特朗普周五表示，联邦当局将停止与Anthropic的合作，并指导所有联邦机构急速停止应用其技巧。此前，五角大年夜楼已请求Anthropic在周五前赞成对美军应用其技巧放宽规定。
在xAI与军方杀青协定之前，Anthropic是独一获赞成用于机密用处的AI开辟商。xAI对Grok更为宽松的控制，以及马斯克在谈吐自由上的绝对主义立场，使其成为对五角大年夜楼更具吸引力的选择。
宽松的风险
其他一些官员则质疑，Grok较为宽松的控制本身是否会带来风险。
据知恋人士泄漏，近几个月来，联邦当局采购部分总务治理局的最高官员埃德·福斯特(Ed Forst)曾向白宫官员发出警告，提示Grok可能存在的安然问题。他手下的其他总务治理局官员也曾对Grok提出过安然担心，认为该模型存在谄媚偏向，且极易因缺点或有成见的数据而被把持或带偏，从而构成潜在的体系性风险。
当时(客岁12月底至本年1月初)，Grok正因为许可对儿童照片等图像进行性化编辑而备受鞭挞。美国当局官员认为，这一问题凸显了Grok可能被恶意行动者应用的风险。
知恋人士称，此事轰动了白宫幕僚长苏茜·威尔斯(Susie Wiles)，她就此致电了xAI的一位高管。该高管告诉她，xAI正在尽力解决导致Grok过度服从的安然问题。美国当局经由过程马斯克的“当局效力部”招募而来的总务治理局高等采购官员乔什·格鲁恩鲍姆(Josh Gruenbaum)向当局官员包管，供当局应用的Grok平台与公共平台是分开的。知恋人士称，威尔斯对此表见知足。
马斯克曾表示致力于防止儿童受盘剥。他在本年1月宣布，公司将把图像生成和编辑对象的应用权限限制在付费用户范围内。截至发稿，马斯克及其xAI公司未回应置评请求。
近几周，总务治理局官员接到指导，请求将xAI的Logo放置在一个名为USAi的对象上。该对象本质上是一个供联邦员工实验不合AI模型的“沙盒”。据知恋人士泄漏，Grok此前一向未能接入USAi平台，重要原因在于安然担心，并且今朝仍未接入。USAi官网上确切展示了xAI的Logo，但今朝仅供给来自Anthropic、Google和Meta的模型。
格鲁恩鲍姆在一份声明中表示，该机构高度看重AI安然。“我们经由过程周全的内部审查流程，对包含xAI在内的前沿AI模型进行严格评估。在此次事宜中，我们遵守了既定法度榜样，并保持按筹划推动Grok的安排。”他表示。
此前，约翰逊的团队曾分发备忘录，强调了Grok的安然问题，并质疑其是否相符当局伦理和标准。这些备忘录已经由过程五角大年夜楼的批示体系向上呈报。
当被接洽揭橥置评时，约翰逊指向了领英上宣布离职的帖子。他在帖子中表示，为本身在国防部“负义务AI部分”的团队认为骄傲，他们是“一群真正低调的专业人士，影响力巨大年夜，却鲜为人知”。“我们赓续面对看似弗成能的局面，但总能经由过程坚持不懈的精力和无数个彻夜达旦的尽力完成义务。”他表示。
五角大年夜楼谈话人肖恩·帕内尔(Sean Parnell)在一份声明中表示，该部分“对美国国度级顶尖AI公司之一的xAI的参加认为高兴，并等待着在不久的将来将Grok安排到其官方AI平台GenAI.mil上。”
特定安然问题
上个月，在美国军方抓捕委内瑞拉前总统马杜罗的行动中，Anthropic的Claude被投入应用，这加剧了该公司与五角大年夜楼之间的重要争端。
Anthropic的应用准则禁止将Claude用于助长暴力、开辟兵器或实施监控，并且该公司拒绝让军方在所有合法场景下应用其模型。而xAI则赞成了相干条目。
xAI通以前年7月与五角大年夜楼AI办公室签订的一份合同，成功在五角大年夜楼站稳了脚跟。Google、OpenAI和Anthropic也获得了这份合同，该合同价值高达2亿美元。Google和OpenAI的模型获准用于非机密情况，但不克不及用于机密活动。
美国国防部长赫格塞斯
OpenAI CEO萨姆·奥特曼(Sam Altman)周四对员工表示，公司正在与国防部合作，商量可否在保持与Anthropic雷同的安然防护办法的前提下，将其模型用于机密情况。Google和OpenAI的员工签订了一份在线请愿书，催促各自公司逝世守同样的底线。
AI及安然分析人士表示，直到比来，军方还更偏向于应用Claude而非Grok，因为业内很多人认为前者是更靠得住的模型。
“在办事战斗部这类客户所须要的才能上，我不认为它们今朝是旗敌相当的。”智库计谋与国际问题研究中间专注于AI范畴的高等参谋格雷戈里·艾伦(Gregory Allen)表示。他曾介入制订美国国防部的AI计谋。
拜登当局拒绝Grok
据知恋人士泄漏，在拜登当局在朝时代，五角大年夜楼部属的首席数字与AI办公室曾拒绝应用Grok。他们的担心包含：Grok所应用的练习数据来源难以追踪，未能遵守联邦当局在负义务人工智能方面的标准，且安然防护办法脆弱。知恋人士称，xAI也没有充分测验测验经由过程“入侵”自身技巧来辨认和修复马脚，这一过程在科技范畴被称为“红队测试”。
不过，据知恋人士泄漏，美国官员已认定，Grok在模仿敌手行动方面表示出色，这在兵棋推演等场景中有效。
发表评论 取消回复