AI如何上演一出“无间道”
扫描二维码
随时随地手机看文章
我们常说「无图无真相」,但是图对于技术人员来说并不是什么困难的事,很多新闻的图片可能是假图。不过,既然技术可以成为造假者的帮凶,反过来也能在识别照片真假时发挥作用。
Google旗下的技术公司(原 GoogleIdeas)是是Google的内部部门,他们负责预测和应对新出现的威胁,并创建定义未来的研究和技术,以确保我们的世界更安全。Jigsaw发布了一款免费工具,声称可以帮助媒体从业人员识别被动过手脚的图片,连人工智能制造的图片也难逃其法眼。
这款照片打假神器名为 Assembler,具有5+2 个检测器,其中有5个用于识别造假的图片,之所以有这么多个探测器,是因为各个检测器通常无法准确检测不同类型的图像处理。例如,能识别通过复制和粘贴操作的图像的检测器通常无法检测通过操作图像亮度来修改的图片,反之亦然。为了解决这个问题,就建立了一个实验性探测器,即“整体模型”,该探测器使用来自多个探测器的信号进行训练。因为集成模型可以识别多种图像处理类型,所以平均而言,结果比任何单个检测器都更准确。
经过处理的图片例如合成、擦除等,这些操作是会留下蛛丝马迹,学习过大量案例的计算机程序可以在分析图像后标记出它认为的更改痕迹,如颜色模式异常、图像光影异常,纵深比例不正确,已经复制和粘贴多次的区域以及是否图像使用了多个摄像头模型来合成等。
另外两个检测器主要识别「deepfake」的造假,也就是这两年引起热议的「AI 换脸」,该检测器使用机器学习区分真人图像和StyleGAN 技术生成的deepfake。
据 Jigsaw 产品经理圣蒂亚戈·安德里戈介绍,Assembler能处理大量丑闻照片,这对面临核实压力的新闻机构很有帮助,还可用于验证已经在网络上大规模传播的图像的真实性。
这场人工智能的战争悄然开始,Assembler负责找到其他AI图像处理的的破绽,对于这些AI图像处理软件来说,AI图像处理软件:“原来这里还有不足,知道下面要怎么修改了。”