实测发明,直白露骨的提示词会被多半平台拦截,但将敏感表述调换为含蓄描述、英文词汇等方法后,违规内容可顺利生成。
在一款AI应用中,应用网购的隐晦提示词,仅几分钟就生成半裸女性跳舞视频,全程未触发任何平台限制机制,同类问题也涌如今多款主流AI应用平台。


收集上有商家公开兜售定制提示词,搭配境外AI对象或本地安排模型,进一步规避监管。
部分付费AI照片生成器传播鼓吹,只要充值对应金额,仅凭一张照片就能一键生成色情视频,严重冲破司法与伦理底线。

查询拜访显示,AI“造黄”已形成完全黑色家当链,从违规提示词售卖、对象应用教程,到批量生成色情内容、付费换脸造假,各环节分工明白、取利跋扈獗。
此类乱象不仅污染收集生态,还极易滋长色情传播、讹诈勒索、恶意造谣等违法犯法行动,对未成年人身心健康与收集空间秩序造成极大年夜伤害。
今朝,我国已出台多项律例整治AI技巧滥用,明白请求平台落实内容安然主体义务,强化算法审核与风险防控,严禁生成传播淫秽色情信息。
监管部分正持续开展“明亮清明”专项行动,重点袭击应用AI制造低俗色情内容、违规供给生成办事等行动,督促平台进级审核技巧,封堵提示词绕过马脚。

发表评论 取消回复