医疗人工智能幻觉的伦理风险与负责任治理框架

Philosophy, ethics, and humanities in medicine : PEHM · 2026-11-02 · 期刊论文

• 一句话结论：结论：论文提出医疗生成式AI的“幻觉”会在高风险医疗场景中产生系统性伦理风险，需以生物医学伦理四原则结合负责任研究与创新（RRI）构建闭环治理矩阵；属规范性论证，非实证检验。
• 研究设计与做法：设计与做法：概念分析与伦理框架构建类论文，以生物医学伦理四原则为分析工具，引入RRI的预判、包容、反思、响应四维度；材料未报告样本量、干预对照或随访。
• 主要结果：主要结果：识别四条风险路径——知情同意被削弱、医患信任受侵蚀、生命健康受损、责任分配不公；并构建覆盖技术开发、临床应用与监管监督的闭环治理矩阵。材料未报告定量数据。
• 机制或解释：机制解释：作者将风险归因于生成内容“貌似合理但虚假”的特性在高风险决策场景中的放大效应，并以伦理原则与治理工具的组合作为应对逻辑。
• 局限与边界：局限与边界：为理论性论文，未提供实证验证或治理措施的效果评估；材料未报告适用人群、机构类型、利益冲突等信息，框架的可操作性尚待检验。
• 可否落地：可否落地：对监管与机构治理提示可参考的四维治理思路，但证据档位为C，属规范性建议而非效果证据，不足以下结论其能实际降低临床风险。

🔗 打开原文

Du M, Zhan N.

本文摘自《每日前沿研究简报 · 2026-11-08》「AI 科研智能体」。本内容仅用于研究信息整理与科普交流，不构成医疗建议。