超越护栏:AI智能体运行时强制执行的系统综述(58项研究)
系统综述提示,仅靠以模型为中心的护栏不足以阻止被操纵或出错的推理转化为外部动作,需在推理之外设置独立的运行时强制执行边界;该结论属综述层面的归纳,非干预效果验证。 研究设计与做法:系统综述,检索Compendex与Web of Science核心合集,覆盖2023年1月至2026
系统综述提示,仅靠以模型为中心的护栏不足以阻止被操纵或出错的推理转化为外部动作,需在推理之外设置独立的运行时强制执行边界;该结论属综述层面的归纳,非干预效果验证。 研究设计与做法:系统综述,检索Compendex与Web of Science核心合集,覆盖2023年1月至2026
该研究提出通过对比反思实现自动提示去偏,以提升大语言模型的公平性。 摘要仅显示发表于Artificial Intelligence第360卷,未提供具体方法流程与实验设置。
对103个MCP服务器中856个工具的描述质量进行实证评估,发现97.1%的工具描述至少含有一处缺陷,提示MCP生态中工具描述质量问题较为普遍,但该结论基于特定评分规则与扫描工具,尚不足以推广至全部MCP实现。 研究为实证性横断面分析,样本为103个MCP服务器中的856个工具;