研究者指出，只要测量反射、暗影、透视线等看似细枝末节的部分，就仍然有机会拆穿一张看似完美的 AI 照片。 这种基于物理世界一致性的核查办法，被数字取证专家视为在“深度捏造”时代区分真实照片与 AI 捏造的重要防地。 早期的辨别往往依附肉眼捕获粗拙的技巧瑕疵，但跟着生成质量晋升，图像开端越来越相符人类对“真实”的主不雅等待——色彩光鲜、构图戏剧化、充斥片子感，这种“被制造出的戏剧性”反而让人更轻易放松当心。
加州大年夜学伯克利分校传授、被广泛视为数字取证范畴奠定人之一的 Hany Farid，一向在应用 AI 图像的另一种“隐性弱点”。 他的办法不是去寻找明显的视觉缺点，而是把生成图跟实际世界中应当出现的几何干系进行一一对比。 在他看来，现有的图像生成模型尚未真正学会美术课上的基本概念——消掉点。
以一张 AI 生成的“士兵在长廊中行进”的图片为例，图中可以看到一些显而易见的缺点，比如墙上模糊难辨的文字、莫名其妙的链条等。 但更关键的线索藏在地面的瓷砖里：按照透视道理，实际中的平行线（例如地砖缝、木地板接缝）在画面中应当延长并汇聚到同一个消掉点。 假如用直线对象沿着这些构造画线，就可以检查它们是否像真实照片那样在远方交汇，从而初步断定图像是否可托。
类似的几何干系同样实用于反射。 研究指出，尽管今天的生成模型已经能合成足以蒙混人眼的水面或镜面反射，只要拿直尺量一量，问题就会裸露出来。 在真实世界中，物体某一点与其在反射中的对应点之间连线，应当彼此平行，并在延长后指向一致的消掉点；一旦这些线条出现不该有的误差，就很可能意味着这是一张合成图。
阳光投下的暗影也为这种测试供给了额外抓手。 因为太阳距离地球极其遥远，可以近似认为照射到地面的阳光是平行光线。 在这种前提下，物体某个点与其暗影中对应点之间的连线，同样应当可以或许延长并汇聚于一个消掉点。 假如一张照片中，不合物体的暗影线无法指向一致的几何干系，则很可能违背了光学根本规律。
今朝还很难猜测生成式模型何时、以及可否在根本上克服这些物理层面的缺点。 比拟早期那些肉眼易辨的瑕疵，基于透视和光线的“几何验真”请求不雅察者花费更多时光和精力，远超一般社交媒体用户的日常当心阈值。 一些研究者甚至认为，对这种物理规矩的深刻控制，可能已经超出当前主流生成模型的设计才能范围。
在这项工作之外，专家也提示用户对“用 AI 辨认 AI”的做法保持谨慎。 一些主动检测对象在特定前提下确切可能比未受练习的人眼更靠得住，但一旦输入图像和其练习数据分布差别过大年夜，算法就会出现掉误甚至体系性误差。 换言之，把甄别义务完全交给别的一个黑盒模型，并不是万无一掉的解决筹划。
一篇相干研究还提出了一个耐人寻味的发明：确认一张照片“是真的”，可能比辨认一张“假的”更难。 这项研究指出，不雅者核阅图像的时光越长而始终找不到马脚，那么它是真实照片的概率就越高。 从这个角度看，“没有发明缺点”本身，反而可以成为真实性的证据之一。
发表评论 取消回复