马杜罗倒台后AI生成内容扩散 事实与虚构界线模糊

为回应日益增长的担心，抖音、元宇宙平台等主流社交媒体均已推出人工智能内容检测与标注对象，但实际后果参差不齐。

“X” 平台上最早且传播最广的相干视频片段之一，由名为 “华尔街猿” 的账号宣布，该账号在平台上拥有跨越 100 万粉丝。

这条帖子出现了多名委内瑞拉平易近众喜极而泣的场景，画面中的平易近众还对美国及总统唐纳德・特朗普颠覆马杜罗的行动表达了感激。

该视频随后被 “X” 平台的 “社区备注” 功能标记。这一功能是平台依托用户众包开展的事实核查机制，许可用户为其认为具有误导性的帖子弥补背景信息。备注内容显示：“此视频由人工智能生成，今朝被算作真实事宜传播，意在误导"大众,"。”

这条视频的浏览量已超 560 万次，被至少 3.8 万个账号转发分享，个中包含商界大年夜亨埃隆・马斯克，不过马斯克最终删除了该转发内容。

美国花费者消息与贸易频道（CNBC）未能核实该视频的来源，但英国广播公司（BBC）和法新社（AFP）的事实核查人员表示，已知的该视频最早版本涌如今抖音账号 “@美国好奇智库”，该账号经常宣布人工智能生成内容。

这位委内瑞拉前总统于 2026 年 1 月 3 日被捕，当时美军动员了空袭与地面突袭行动。这场军事行动在新年伊始占据了全球各大年夜媒体的头条地位。

除了这些人工智能生成视频外，法新社的事实核查团队还标记了多条与马杜罗倒台相干的误导性内容，个中包含将智利平易近众的庆贺画面捏造成委内瑞拉场景的视频片段。

重大年夜消息事宜时代滋长虚假信息并非新鲜事。此前在巴以冲突和俄乌冲突时代，也曾出现过类似的不实或误导性内容。

事实上，早在这类视频出现之前，在特朗普当局宣布马杜罗被捕的真实照片前，收集上就已经传播着由人工智能生成的马杜罗被美方羁押的相干图片。

然而，此次与委内瑞拉近期局面相干的人工智能生成内容，凭借其广泛的传播范围和高度的逼真度，成为人工智能技巧日益沦为虚假信息传播对象的光鲜例证。

像苏蕊和米德尔路程这类人工智能内容生成平台的出现，使得人们可以或许更便捷地快速制造超写实视频，并在突发消息激发的信息纷乱中假装真实内容传播。这类内容的制造者往往意在放大年夜特定政治叙事，或是在全球受众中制造认知纷乱。

鉴于此类趋势愈演愈烈，社交媒体公司正面对越来越大年夜的压力，外界请求它们加大年夜力度，为具有潜在误导性的人工智能生成内容添加明白标签。

客岁，一段由人工智能生成的视频也曾在收集上疯传，视频中几名女性控告当局停摆时代本身掉去了弥补养分增援筹划（即 “粮票筹划”）的福利补贴。该视频甚至骗过了福克斯消息频道，后者曾将其算作真实事宜撰写报道，相干文章后来才被删除。

客岁，印度当局提出一项法案，请求对人工智能生成内容强迫标注；西班牙则出台律例，对未标注的人工智能生成内容最高可处以 3500 万欧元的罚款。

美国花费者消息与贸易频道（CNBC）发明，抖音平台上部分被算作委内瑞拉欢庆排场传播的视频，已经被标注为人工智能生成内容。

而 “X” 平台在内容标注方面，重要依附 “社区备注” 功能。批驳人士指出，这一机制往往反响迟缓，难以阻拦人工智能虚假信息在被辨认前大年夜面积扩散。

负责监管照片墙和 “思瑞德” 平台的亚当・莫塞里，在比来的一则帖子中坦承了社交媒体行业面对的这一挑衅。他表示：“所有主流平台都邑在辨认人工智能生成内容方面付出尽力，但跟着人工智能技巧愈发善于模仿实际，平台的辨认才能反而会逐渐降低。”

他还弥补道：“如今，越来越多的人和我一样认为，比拟给虚假内容做标记，为真实内容设置数字水印将是更可行的筹划。”