有人在大年夜拇指上画了俩眼睛一张嘴,举到摄像头前,按照体系提示居中、对准、左回头、右回头……AI 分析完了,给出的结论是:年纪在 13-15 岁之间,验证经由过程!
互联网在“钻空子”这块从来不缺想象力,还有 12 岁男孩用眉笔画了撇胡子,被体系剖断为 15 岁,顺利过审。
为啥会如许?
Roblox 等平台也出现过类似情况。由此可见,当前的面部年纪技巧,在面对精心设计的欺骗手段时,还远没到滴水不漏的程度。
这些平台为了应对监管,同时尽量削减隐私争议,选了一套设备端面部年纪估算筹划,也就是用户对着摄像头录一段视频,AI 模型完全在本地手机或电脑上运行,只把最终的年纪区间断定成果发还办事器,不会上传完全视频或人脸数据。
这听起来隐私风险小,验证过程也相对简便,但价值是可用的计算资本有限,模型不克不及太复杂,更没法依附办事器端的重型分析。
这些模型重要靠眼睛、嘴巴、脸部轮廓、皮肤纹理等视觉特点来揣摸年纪,一个简单画了两个点和一条线的拇指,在特定光线、角度和低分辨率下,不测相符了“年青滑腻脸部”的抽象特点模式。
一旦 AI 认为疑似未成年,就会先把账号干掉落,想找回来得走官方验证流程。今朝这套体系已在部分国度上线,后续会慢慢推向更多地区,还筹划扩大到 Instagram Live、Facebook 群组等场景。
体系请求“脸”居中并阁下迁移转变时,手指的天然稍微颤抖和跟随动作,又供给了根本的活动旌旗灯号,足以让相对轻量的活体检测认为这是“活的”物体,直接放行。
AI 年纪估算模型主如果用海量真实人脸数据练习出来的,对这种高度非标准、抽象化的输入本来就缺乏足够鲁棒性。
rollout 初期,平台为了不让正常用户因为光线不好、角度纰谬或长相特别而频繁掉败,不得不把阈值设得相对宽松,也就给了这种低技巧含量邪修办法可乘之机。
平台们也没坐以待毙。
前段时光,Meta 宣布要用 AI 主动扫描用户上传的照片和视频,经由过程身高、骨骼构造等通用视觉线索,断定账号主人是否未满 13 岁,进而直接移除。
Meta 特意强调:“这不是人脸辨认”,它只做大年夜概的年纪区间断定。」
成果互联网老哥们开端各类极限测试,有人拿游戏截图糊弄,有人用 3D 模型,最离谱的是用手指简笔画。
并且 Meta 不只看图片,还会结合全部账号的文本内容和互动行动全方位画像,比如产诞辰蛋糕、提到黉舍年级等,这些都邑被纳入断定。
平台在用 AI 堵马脚,用户想方设法钻马脚。
这场猫鼠游戏,大年夜概率还会持续下去。

发表评论 取消回复