OpenAI 公司近日宣布雇用信息,拟以年薪 55.5 万美元(约合人平易近币 400 万元)招募一名“Head of Preparedness”,此外还包含优厚的股权嘉奖。

OpenAI 首席履行官 Sam Altman 在社交平台上表示,当前的 AI 模型已经开端带来真实的挑衅。例如,某些模型的计算机安然才能极强,甚至能自立发明关键体系马脚;同时,AI 对人类心理健康的潜在影响也引起了公司的高度看重。

“假如你欲望助力世界摸索若何付与收集安然防御者尖端才能,同时确保进击者无法应用这些才能作恶——幻想状况下是经由过程加强所有体系的安然性来实现——并同样致力于摸索若何释放生物技巧才能,甚至建立对运行可自我改进体系的安然性的信念,请推敲申请参加我们。

这将是一份压力很大年夜的工作,你几乎会急速面对严格的挑衅。”

该职位将负责引导 OpenAI “Preparedness framework”的技巧计谋和履行。这一框架的核心义务是追踪和应对可能导致严重伤害的极端风险,范畴涵盖了收集安然、生物安然,甚至包含体系“自我改进”带来的弗成控性。

OpenAI 的这一岗亭此前由Aleksander Madry担负,但他已于不久前被调往AI推理部分,而公司内部多位安然主管也接踵离职或转岗。

点赞(0) 打赏

评论列表 共有 0 条评论

暂无评论

微信小程序

微信扫一扫体验

立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部