超越护栏：AI智能体运行时强制执行的系统综述（58项研究）

Journal of Reliable and Secure Computing · 2026-10-17 · 期刊论文

• 一句话结论：系统综述提示，仅靠以模型为中心的护栏不足以阻止被操纵或出错的推理转化为外部动作，需在推理之外设置独立的运行时强制执行边界；该结论属综述层面的归纳，非干预效果验证。
• 研究设计与做法：研究设计与做法：系统综述，检索Compendex与Web of Science核心合集，覆盖2023年1月至2026年9月发表或公开可得的文献，经去重、多阶段筛选、基于原文的合格性评估与定向滚雪球，最终纳入58项原始研究，并按强制执行位置、安全机制与保障类型编码。
• 主要结果：主要结果：多数研究在工具/动作边界实施安全控制（33/58，56.9%）或于智能体运行时/执行框架内部实施（18/58，31.0%），仅7/58（12.1%）主要在操作系统/进程/执行边界工作；机制族以授权与权限控制（41/58，70.7%）和动作校验（34/58，58.6%）最常见。
• 机制或解释：机制或解释：作者归纳出跨机制的共同设计模式，即模型提出动作、由独立执行点决定该动作能否产生外部效力，并据此主张将推理与执行权限分离。
• 局限与边界：局限与边界：纳入研究在机制与保障模型上差异很大，持久授权、多智能体委派、跨层强制执行、部分已提交效应的恢复及标准化评估仍为未解问题；检索时限与数据库范围有限，材料未报告利益冲突。
• 可否落地：可否落地：证据支持将“推理与执行权限分离、把有后果的动作置于可独立强制执行的运行时边界之后”作为安全智能体架构的设计原则；但具体机制孰优尚不足以下结论，需标准化评估后再比较。

🔗 打开原文

Jimmy Ming‐Tai Wu, Lingping Kong, Matin Pirouz 等

本文摘自《每日前沿研究简报 · 2026-10-19》「AI 科研智能体 / AI 科学家」。本内容仅用于研究信息整理与科普交流，不构成医疗建议。