马斯克旗下xAI因Grok生成色情内容遭加州司法部查询拜访

据互联网不雅察基金会的查询拜访显示，在部分案例中，Grok 甚至能让用户生成虚拟脱衣后果的未成年人图像。

邦塔在周三宣布的一份声明中指出：“xAI 公司似乎在为大年夜范围生成未经赞成的私密深度捏造图像供给便利，这些图像正被用于在互联网上骚扰女性和女孩，社交平台 X 也成为了传播渠道之一。”

这位审查长表示，其办公室正就 “应用 Grok 制造的未经赞成的性露骨内容的泛滥问题” 对 xAI 展开查询拜访。

在美国启动此次查询拜访之前，印度、马来西亚、印度尼西亚、爱尔兰、英国、法国、澳大年夜利亚等多个国度的当局机构已敏捷采取行动，欧盟委员会也已对此事立案查询拜访。

此前报道称，马来西亚和印度尼西亚已宣布暂停应用 xAI 旗下的 Grok 对象，直至相干问题获得解决。

在美国国内，三名平易近主党籍参议员已联名呼吁苹果和谷歌两家公司，请求其在应用市廛下架社交平台 X 及 Grok 的应用法度榜样，直至 xAI 可以或许采取有效办法，防止用户随便马虎生成未经赞成的露骨图像以及涉及儿童性虐待的深度捏造图像。

“紫外线” 组织、美国全国妇女组织、“家长结合行动” 等多家保护妇女及儿童权益的倡导组织，也已呼吁应用市廛下架 xAI 的相干应用。

苹果和谷歌两家公司均未对置评请求作出回应。

周二，美国参议院投票经由过程了《反深度捏造滥用法案》。根据该法案，被捏造为露骨深度捏造图像且未经本人赞成的受害者，有权在平易近事法庭告状制造或传播此类内容的公司。

该法案曾于 2024 年在参议院获得经由过程，但尚未提交至众议院审议表决。

周三，马斯克在社交平台 X 上发文称，尽管已有多个当局机构就未成年人赤身深度捏造图像问题对 xAI 进行质询，但他 “并不知晓任何由 Grok 生成的相干图像”。

马斯克转而将经由过程 Grok 和社交平台 X 产生、传播的潜在不法内容归咎于 “用户的相干请求”，并表示可能是 Grok 体系存在 “法度榜样马脚”。

此前，针对外界对 Grok 生成内容的担心境感赓续进级，xAI 曾宣布将部分图像生成和编辑功能仅限付费订阅用户应用。

马斯克此前也曾在社交平台 X 上表示，应用 Grok 制造不法内容的用户，将面对与直接在社交平台 X 上传此类内容一致的后果。

xAI 近期完成了一轮范围达 200 亿美元的成长型融资，投资方包含英伟达、思科投资，以及经久支撑马斯克旗下企业的大胆股权合股公司、基石集团、富达投资、卡塔尔投资局、阿布扎比 MGX 集团和巴伦本钱集团。

今朝，xAI 的多个数据中间正在田纳西州孟菲斯市及其周边地区扶植；这家由马斯克创建的人工智能及社交媒体企业，在内华达州注册成立，总部位于加利福尼亚州帕洛阿尔托市，与马斯克旗下电动汽车制造商特斯拉的工程办公地点相邻。

此外，特斯拉也已将 Grok 整合为旗下车辆信息娱乐体系的一项功能。