欧盟训斥马斯克旗下Grok生成含未成年人的不法色情图像

X 平台用户近期频繁应用 Grok 的功能，对上传的照片进行 “数字脱衣” 处理 —— 这类照片的主体大年夜多为女性，处理后人物仅身着内衣或比基尼。此类图像在这一热点社交平台上的泛滥，激发全球监管机构与收集安然倡导者的当心，印度、英国、法国等多国官员均对相干帖文予以训斥。

负责运营 X 平台与 Grok 的 XAI 公司，尚未就此事回应置评请求。马斯克于周日在 X 平台发文称，平台会对不法内容采取清理办法，永远封禁相干账号，并在须要时合营官方开展查询拜访。他在帖文中表示：“任何应用 Grok 生成不法内容的用户，都将面对与直接上传不法内容一致的后果。”

尽管多半主流人工智能模型均明令禁止生成色情图像与视频，但 XAI 公司却将 Grok 定位为 “更宽松开放” 的对象。该体系许可生成成年人局部裸露及带有性暗示的图像，但明令禁止制造以真实人物为原型的露骨色情内容，以及涉及未成年人的性相干内容。在美国、英国等部分国度，未经本人赞成便宣布人工智能生成的私密 “深度捏造” 图像，本身即属违法行动。可否明白界定并严格履行上述禁令，成为考验图像生成类人工智能对象安然防护机制是否完美的关键标准。

印度电子和信息技巧部已责令相干方对 Grok 的安然功能展开周全审查；马来西亚官方则表示，在收到关于 Grok 生成 “不雅不雅内容” 的投诉后，正对此事展开查询拜访。

XAI 公司显然未能为 Grok 搭建起有效的防护樊篱，这一点已招致全球监管机构的一致训斥。

莱纳斯进一步弥补道，像 Grok 如许在事发后才删除相干帖文的做法 “根本算不上解决筹划”，因为 “受害者所遭受的伤害已然造成，且无法挽回”。

荷兰议员杰伦・莱纳斯在周二的一份声明中指出：“假如人工智能平台执意许可生成色情内容，就必须提前建立起健全、有效且可自力核验的防护办法。” 莱纳斯恰是客岁推动欧洲议会经由过程法案、将人工智能生成虐童图像列为刑事犯法的核心人物。

他强调：“若人工智能平台选择开放色情内容生成功能，就必须提前建立健全、有效且可自力核验的防护机制。在儿童色情内容生成后再进行清理，绝非解决之道 —— 伤害既已造成，便无法逆转。人工智能平台理应为保护儿童收集安然承担更大年夜义务，但显而易见的是，贸易好处的权重似乎正持续胜过儿童收集保护工作。”

英国媒体监管机构英国通信治理局于周一表示，已获悉外界针对 Grok 功能的 “严重关怀”，并已 “紧急联络 X 平台与 XAI 公司，请求其解释为实施保护英国用户的司法义务所采取的具体办法”。

法国当局于上周五指控称，Grok 在 X 平台上未经当事人赞成生成 “明显违法” 的色情内容，认为此事或已违背欧盟《数字办事法案》。该法案请求大年夜型平台必须采取办法，降低不法内容传播的风险。

马斯克旗下的 X 平台此前便已因涉嫌违背欧盟《数字办事法案》遭查询拜访，并于客岁 12 月因合规不力被处以 1.2 亿欧元（约合 1.4 亿美元）的罚款 —— 这也是这项颇具争议的内容治理法案开出的首张罚单。欧盟对 X 等美国科技企业的重点监管举措，遭到美国特朗普当局的强烈批驳，美方称欧洲监管机构的做法本质是在 “审查谈吐自由”。