本文的主角是 Meta 超等人工智能实验室对齐负责人 Summer Yue，她在应用 OpenClaw AI 机械人的过程中就因为掉误导致全部 Gmail 邮箱汗青邮件被清空。
Summer Yue 也坦言，人工智能对齐研究者也不克不及免疫于纰谬齐问题，所以各位日常在应用各类 AI 尤其是 OpenClaw 时务必做好各类指令切实其实认防止翻车。
事宜背景：
Summer Yue 应用 OpenClaw AI 机械人搭建工作流，这个工作流已经在测试情况中安稳运行数周并且没有产生任何故障，这个工作流的指令是检查邮箱并建议哪些邮件可以归档或删除，但在人类确认前不要履行任何操作。
因为数周安稳运行没有出现故障，Summer Yue 很自负地认为这个工作流已经完全可用，所以她将工作流安排到本身的 Gmail 主邮箱中履行操作。
记忆损掉导致敕令掉足：
测试邮箱中的邮件比较少，而主邮箱中有海量邮件，OpenClaw AI 机械人在处理邮件时触发框架内置的高低文紧缩机制，该机制为了不让超长对话撑爆模型的高低文窗口，会主动总结并丢弃早期消息。
机械人在处理 Summer Yue 的主邮箱时就因为海量邮件撑爆高低文导致主动紧缩并损掉部分记忆，在这个过程中机械人持续按之前的流程将 2026 年 2 月 15 日之前的邮件辨认和处理。
然而机械人 (应当说模型) 认为最高效的清理筹划是核弹选项 — 直接清空所有邮件，甚至还筹划了持续轮回清理直到所有邮件都被清空为止，因为损掉人类确认的指令，机械人完全自立完成邮件清空义务。
对于新产品或者大年夜家还不熟悉的产品最大年夜问题就是可能会出现各类误操作，例如 Summer Yue 发明机械人在清空邮件时已经发送大年夜量指令请求机械人停止操作。
但问题在于，OpenClaw AI 机械人的 run 默认情况下是不会停止的，用户发送的消息也须要列队处理，也就是只有上个义务停止后才能持续处理用户发送的新消息。
在清空邮件过程中 Summer Yue 发送多个指令欲望机械人停止操作但无济于事，最终只能跑到 Mac Mini 面前手动杀掉落所有过程才让机械人停下来。
针对这种情况用户须要履行的指令其实是 /stop 这个指令可以强迫中断机械人正在履行的指令，纯真发送文字消息是没有的用，也就是前面提到的消息列队问题。
过后总结：
发明缺点若何中断指令？
Summer Yue 过后发帖自嘲称：说实话这是个新手缺点，对齐研究者也不克不及免疫于纰谬齐问题，因为在测试有向上跑了几周没出事，就过度自负了。
其他网友看到这个自嘲也是感概，连专业的对齐研究者都邑翻车，通俗用户假如把真实钱包、邮箱、日历以及其他涉及高度隐私的内容交给 AI 后，风险有若干大年夜？
发表评论 取消回复