Grok AI应用户请求制造大年夜量露骨图片甚至包含儿童露骨图片

因为 X 账户答复内容是公开可见的，是以用户只须要转到 Grok AI 主页查看答复或者是图片就可以看到人请求 Grok AI 生成的图片，不罕用户看到图片后直呼辣眼睛。

这些图片里不乏存在埃隆马斯克裸露照片以及大年夜量其他人的裸露照片，甚至还有未成年人的裸露照片，在大年夜多半国度或地区，涉及未成年人的色情内容都是严重的犯法。

负责生成图片的是 Grok AI 推出的 Grok Imagine 图像生成模型，该模型本身就缺乏针对性爱和深度捏造技巧的安然保障，在 2025 年 8 月推出时用户就可以应用该模型生成 NSFW 图像 (意为不合适在工作场合查看的内容)。

然而 xAI 的反响速度似乎并不快，在收到大年夜量用户反馈后该公司才发帖表示正在推敲加强安然办法：

个别情况下用户被请求供给并收到描述未成年人衣着裸露的 AI 图片，我们团队已经发明安然办法存在马脚并正在紧急修复。别的我们团队正在推敲进一步加强我们的安然办法。(注：原文如斯)

在 xAI 的可接收应用政策里明白禁止用户以色情方法描述人物肖像，但这不必定包含仅带有性暗示的内容，当然政策本身确切禁止对儿童进行性化或盘剥，只不过 xAI 的安然政策显然没有跟上。

今朝法国当局已经开端指控 Grok AI 在未经用户赞成的情况下生成并传播明显违法的色情内容，法国当局称 xAI 和 X/Twitter 可能违背了欧盟的数字办事法，这项律例请求平台降低不法内容传播的风险。