欧盟禁止AI生成“深度捏造”的色情内容

根据人工智能取证组织申报，2025年12月25日至2026年1月1日，在Grok以深度捏造方法生成的2万张图像中，55%的人物图像穿戴裸露，个中81%是女性，另有2%的图像中人物年纪不足18岁。

欧洲议会议员迈克尔·麦克纳马拉表示，这是欧盟初次经由过程立法明白禁止“脱衣换脸”类应用法度榜样。

他强调：“欧盟今天规定了‘红线’。人工智能毫不克不及用于耻辱、盘剥或伤害他人。”

近年来，AI深度捏造色情内容激发全球存眷。

本年1月，马斯克旗下社交媒体平台X的AI聊天机械人Grok，就曾被部分用户滥用于生成色情内容，并被推上舆论风口浪尖。

在持续数周的舆论压力下，X于1月14日宣布对Grok采取限制办法，禁止该功能生成真人裸露图像。

X平台安然团队表示，已实施技巧办法，防止Grok账号许可编辑真人穿戴比基尼等裸露服装的图像，该限制实用于所有效户，包含付费订阅用户。

此外，该团队还称，正在全天候工作以增设防护办法，移除违规及不法内容，在须要时将永远封禁账户并与本地当局及法律部分开展协作。