自2025年12月24日Grok上线图像生成与编辑功能以来,社交平台上陆续出现大年夜量将实际中的人物生成成裸露或身着裸露内衣的合成图像,由此激发了多起受害者投诉。

1月6日,X公司宣布警告称,应用Grok制造性化修改图像的行动将被视为上传违法内容,可能导致账号内容删除、永远封禁,并在须要时合营法律机构展开查询拜访。
日本司法咨询网站Bengoshi.com随后出现了大年夜量相干咨询,提问者多为青少年和年青用户,他们表示此前并不清楚应用Grok可能带来的司法风险。例如,有高中生坦言曾生成同班女生的裸露视频,虽未传播但担心仅“制造”行动本身是否已构成违法;也有人询问,仅向AI下达将同窗处理成内衣形象的指令,是否会被认定为制造色情内容;还有大年夜学生表示,尽管已删除账号和数据,但仍担心平台是否会将相干信息提交给警方,甚至推敲主动自首。

专攻互联网司法的律师清水洋平指出,此类行动确切可能激发司法义务。他解释称,假如生成的图像涉及裸露或明显性暗示内容,可能构成对当事人的荣誉伤害或隐私权侵犯;在情节严重的情况下,甚至可能涉及刑事层面的诽谤罪或著作权侵权问题。
日本产生的这些事宜,也被视为全球范围内针对Grok的争议之一。批驳者认为,该对象在必定程度高低降了生成欠妥内容的门槛。多名向司法网站咨询的用户表示,直到看到X公司的正式警告后,才意识到行动的严重性。今朝,他们最担心的后果是刑事追责以及给家人带来的社会影响。

发表评论 取消回复