涉嫌生成儿童色情深度捏造内容 xAI遭美国巴尔的摩市告状索赔

跟着事态发酵，宣布于2023年的Grok正面对来自美洲、欧洲、亚洲和澳大年夜利亚等多地的监管查询拜访。尽管xAI曾在1月中旬宣布在部分司法管辖区限制Grok的图像编辑功能，且马斯克当时坚称对Grok生成未成年人违规图像的情况“完全不知情”，但司法争议并未平息。巴尔的摩市在此次诉讼中不仅寻求未指明金额的罚款，更请求法院下达禁令，迫使xAI彻底更改Grok存在“盘剥性”的设计特点。截至今朝，近期归并后估值约达1.25万亿美元的母公司SpaceX及xAI均未对该诉讼做出官方回应。

法庭文件披露了该对象在内容生成方面的宏大年夜数据。据反数字仇恨中间基于2万张样本的估算，在本年事首年代的11天内，社交平台X上生成了约300万张逼真的性化图像，个中包含跨越2.3万张涉及儿童的违规内容。巴尔的摩市长布兰登·斯科特揭橥声明，责备科技公司为性盘剥儿童供给便利，并强调必须穷究相干义务方的司法义务。此外，诉状还引用了马斯克本人在2025年12月31日宣布的一张由Grok生成的身穿蓝色比基尼的自画像，将其作为证据，指控这是对该AI对象生成真人裸露图像才能的“公开背书”。