您的位置:首页 > 热点专题

AI造假与AI打假 终结“猫鼠游戏”不能只靠技术

时间:2020-03-16

Connection timed out after milliseconds

“魔”比“道”高一尺吗?最近,谷歌的母公司Alphabet旗下的Jigsaw与谷歌研究公司、马里兰大学和美国其他研究机构合作开发了一个名为“汇编器”的实验平台。该平台的目的是帮助用户通过简单的操作快速识别深假,减少人工智能技术滥用造成的损害。

谭明洲说:“事实上,这个平台将多个图像探测器集成到一个工具中,每个探测器处理特定类型的图像。例如,一些检测器可以判断图像是否有复制和粘贴标记,并主要关注图像颜色、噪声等

具体来说,它的机器学习模型不仅可以利用图像的颜色值来发现异常,还可以检查图像的噪声模式是否不一致。从算术上来说,可以在经过编辑的JPEG压缩图像区域中找到具有相似外观的块,以确定其中一个图像是否被复制并粘贴到另一个区域。

"然而,在真实场景中,媒体经常面临经过复杂处理后编辑的低分辨率图像,这给检测技术带来了新的挑战。底层算法本身无法准确把握图像上丢失的篡改标记,需要结合高级语义算法进行识别。”曹娟说道。

曹娟进一步指出,现有的检测假视频的方法仍然有三个主要的局限性。首先,概括性是不够的。大多数检测只针对特定类型的篡改。如何找到篡改的共同属性,使模型能够处理多种类型的篡改是未来研究的重点之一。第二,防篡改能力不够。目前,篡改方法一直被隐藏。经过复杂的处理后,篡改痕迹往往会消失,导致检测性能大大降低。如何提高模型的健壮性,处理各种实际应用场景是未来的核心任务。第三,目前的方法基本上是将图像分成小块,然后分块处理,这非常耗时且耗费资源。

建立生态系统确保真实信息

国际咨询公司Gartner曾预测,到2020年,互联网将产生更多的虚假信息或更大的危害,基于人工智能技术的伪造信息能力将远远优于检测虚假信息的能力。2018年3月,发表在《爱尔兰人》杂志上的一篇论文指出,近年来虚假新闻的兴起凸显了互联网时代打击虚假信息的现有系统和技术的缺陷。当前,迫切需要重建信息生态系统以保证信息的真实性。

"今天,更重要的是改进目标检测技术,完善相关法律和认证机制."谭明舟强调道。

2019年9月5日,脸谱网相关负责人宣布,脸谱网和微软正在美国麻省理工学院、牛津大学和康奈尔大学等几所大学联合研究检测深度假冒的方法。同时,非营利研究组织人工智能伙伴关系也参与其中。其成员包括大型科技公司,如谷歌、苹果、亚马逊和小发猫。

曹娟说,在研究方面,除了汇编器平台,还有中国科学院、中国科学院自动化研究所、北京交通大学、中山大学、深圳大学等。目前在国内做得比较好,还有加州大学伯克利分校、宾汉姆顿大学、马里兰大学等。与此同时,许多企业和研究机构也在积极开发实用的图像篡改检测工具和平台,如美国安派软件公司开发的安派认证工具。

2019年11月29日,国家互联网信息办公室发布《科学》,要求网络音视频信息服务提供商具备适合新技术和新应用开发的安全可控的技术支持,部署非法音视频和虚假音视频识别技术。

专家建议相关部门建立相关管理制度,预防和控制虚假视频,尤其是新闻视频和新闻内容管理。在沟通渠道方面,我们应该建立过滤机制,实现技术上的高效过滤,追踪所有的假视频和假音频。同时,我们应该增加

  • 友情链接:
  • 交口农业网 版权所有© www.imms2015.com 技术支持:交口农业网| 网站地图