OpenAI闭幕“任务对齐”团队 负责人改任首席将来学家

“任务对齐”团队成立于2024年9月，作为OpenAI内部专门研究“对齐问题”的核心力量，致力于确保人工智能体系在复杂、真实世界情况以及对抗性场景中依然能遵守人类意图，避免灾害性行动，并保持可控、可审计以及与人类价值不雅的一致。OpenAI在其对齐研究博客中曾公开写道，公司欲望这些体系可以或许“在复杂、真实世界情境和对抗性前提下，一贯地遵守人类意图，避免灾害性行动，并保持可控性、可审计性和与人类价值的对齐”。响应的雇用信息也将该团队定位为专注“开辟办法，使AI可以或许在包含高风险或对抗性格境在内的广泛场景中稳健地遵守人类意图”的研究部分。

在新宣布的一篇博客文章中，阿奇亚姆具体阐述了本身作为首席将来学家的新角色。他表示，其工作目标是经由过程研究世界将若何因AI、通用人工智能（AGI）甚至更远将来的技巧成长而产生变更，从而支撑OpenAI“让AGI造福全人类”的任务。阿奇亚姆还泄漏，他在新岗亭大将与OpenAI技巧团队中的物理学家杰森·普鲁特（Jason Pruet）展开合作。

OpenAI方面表示，原“任务对齐”团队的成员已被分派到公司内部的其他岗亭，但人数仅为六到七人阁下。谈话人未泄漏这些员对象体进入了哪些部分，仅称他们在新岗亭上仍从事与以往类似的工作。今朝也尚不清楚阿奇亚姆在担负首席将来学家后，是否会从新组建新的团队。

对于此次团队调剂，OpenAI谈话人将其归因于一家高速成长企业内部常见的“例行重组”。这并非OpenAI初次对安然与对齐相干团队进行组织调剂：公司曾在2023年组建“超等对齐”（Superalignment）团队，专门研究AI可能带来的经久生计性威逼，但该团队已于2024年被闭幕。

今朝，阿奇亚姆的小我网站仍将其职务标注为OpenAI“任务对齐负责人”，并称他存眷若何确保“人类的经久将来是好的”。其LinkedIn材料显示，他自2024年9月起担负Mission Alignment负责人，直至此次职位更改。