实测发明,直白露骨的提示词会被多半平台拦截,但将敏感表述调换为含蓄描述、英文词汇等方法后,违规内容可顺利生成。

在一款AI应用中,应用网购的隐晦提示词,仅几分钟就生成半裸女性跳舞视频,全程未触发任何平台限制机制,同类问题也涌如今多款主流AI应用平台。

收集上有商家公开兜售定制提示词,搭配境外AI对象或本地安排模型,进一步规避监管。

部分付费AI照片生成器传播鼓吹,只要充值对应金额,仅凭一张照片就能一键生成色情视频,严重冲破司法与伦理底线。

查询拜访显示,AI“造黄”已形成完全黑色家当链,从违规提示词售卖、对象应用教程,到批量生成色情内容、付费换脸造假,各环节分工明白、取利跋扈獗。

此类乱象不仅污染收集生态,还极易滋长色情传播、讹诈勒索、恶意造谣等违法犯法行动,对未成年人身心健康与收集空间秩序造成极大年夜伤害。

今朝,我国已出台多项律例整治AI技巧滥用,明白请求平台落实内容安然主体义务,强化算法审核与风险防控,严禁生成传播淫秽色情信息。

监管部分正持续开展“明亮清明”专项行动,重点袭击应用AI制造低俗色情内容、违规供给生成办事等行动,督促平台进级审核技巧,封堵提示词绕过马脚。

点赞(0) 打赏

评论列表 共有 0 条评论

暂无评论

微信小程序

微信扫一扫体验

立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部