此次批驳源于一段在客岁涌如今 Meta 平台上的捏造视频。视频经由过程 AI 生成，声称展示了以色列城市海法遭受建筑破坏的画面，由一名在菲律宾、假装成消息来源的用户宣布。多名用户对该视频进行了举报，但平台既未进行内部审查，也未触发第三方事实核查机制，视频经久在线却未被标注为“高风险 AI 内容”，直到监督委员会介入后才激发存眷。
监督委员会的职责是改良 Meta 在全球范围内对用户和社群的对待方法。委员会认为，这起个案裸露出 Meta 在 Facebook、Instagram 和 Threads 等平台上针对 AI 内容治理体系的体系性问题，即过于依附用户主动披露或内部“进级”流程，而无法匹配当下 AI 内容以惊人速度和范围传播的实际，尤其是在战斗、灾害和政治高度敏感事宜时代。
在最新建议中，监督委员会请求 Meta 为 AI 生成内容零丁制订一套社区标准，而不是持续依附碎片化的缺点信息政策拼凑应对。委员会主意，将 AI 生成图像、视频、音频的规矩同一纳入清楚的框架，以便平台在高风险场景下做出更一致、更透明的干涉。
今朝，Meta 对 AI 生成内容的标注在很大年夜程度上取决于创作者是否自我声明应用了 AI，或者内容是否被内部进级到特别审核流程。监督委员会指出，这种做法远远不足以应对深度捏造和合成媒体在互联网上的扩散态势，难以及时向用户提示内容的生成方法与潜在误导性。
委员会还建议，Meta 应更频繁地应用“高风险 AI”标签，对可能影响公共安然、舆论和选举的内容进行明显标记。同时，公司须要进一步晋升主动化检测体系的才能，覆盖图像、视频与音频等多种媒体情势，并向用户清楚解释未披露数字合成或修改内容者将面对的具体处罚办法。
在技巧基本方面，监督委员会点名 Content Credentials 行业框架，认为 Meta 应更积极、同一地采取这一机制。该框架经由过程为内容附加元数据，标明素材来源及是否应用了 AI 对象，旨在晋升内容溯源和透明度。委员会担心，Meta 今朝在履行此类标准时不敷一致，包含对其自家 AI 对象生成内容的标注也存在不同一之处。
监督委员会此前就曾批驳 Meta 的“把持媒体”规矩过于纷乱且范围过窄，过分聚焦“是否应用 AI”，而非“内容是否具有欺骗性”。在压力之下，Meta 对相干标注体系进行调剂，将原有的“Made with AI（由 AI 制造）”标签改换为范围更广的“AI info（AI 信息）”标签。不过，这一修改也引来外界质疑，认为新标签提示过于笼统、不敷能干，用户很轻易忽视个中关键信息。
在当前美国总统唐纳德·特朗普就职典礼前夕，Meta 首席履行官马克·扎克伯格宣布，公司现有的第三方事实核查合作已变得“政治上过于偏颇”，破坏了用户对平台的信赖，是以将被 Community Notes（社区注释）机制所代替。这一调剂意味着，平台在辨认和改正缺点信息方面，将进一步依附用户社区自发标注与纠错，在深度捏造与 AI 内容敏捷扩散的背景下，这一策略也激发了外界对其有效性的持续争辩。
发表评论 取消回复