当我们想到深度假货时,我们倾向于想象AI生成的人。这可能是轻松的,如深假的汤姆-克鲁斯,或恶意的,如未经同意的色情。我们想象不到的是深度伪造的地理环境。人工智能生成的城市景观和乡村的图像。但这正是一些研究人员所担心的。

具体来说,地理学家担心假的、人工智能生成的卫星图像的传播。这种图片可能会以各种方式误导人们。它们可以被用来制造关于野火或洪水的骗局,或者用来诋毁基于真实卫星图像的故事。想想关于中国维吾尔族拘留营的报道,它从卫星证据中获得了可信度。随着地理深层造假的普及,中国政府可以声称这些图像也是假的)。) 地理深层造假甚至可能成为一个国家安全问题,因为地缘政治对手利用假卫星图像来误导敌人。
假的卫星图像可能被用来误导军事计划者
美国军方在2019年对这种前景发出了警告。美国国家地理空间-情报局的分析师托德-迈尔斯想象了这样一个场景:军事规划软件被假数据愚弄,假数据显示一座桥的位置不正确。"因此,从战术角度或任务规划来看,你训练你的部队走某条路线,走向一座桥,但它不在那里。然后有一个大的惊喜在等着你,"迈尔斯说。
华盛顿大学地理学助理教授赵博说,解决这些问题的第一步是让人们首先意识到有一个问题。赵博和他的同事最近发表了一篇关于 "深度虚假地理 "的论文,其中包括他们自己生成和检测这种图像的实验。
赵博和他在华盛顿大学的同事能够创建他们自己的人工智能生成的卫星图像(上图)。图片。深度虚假地理?当地理空间数据遇到人工智能时》,Zhao等人
赵在电子邮件中告诉The Verge,其目的是 "揭开卫星图像的绝对可靠性功能的神秘面纱,并提高公众对深度虚假地理的潜在影响的认识"。他说,虽然深层造假在其他领域被广泛讨论,但他的论文可能是第一个在地理学中触及这个话题的。
"虽然许多GIS[地理信息系统]从业者一直在庆祝深度学习和其他类型的人工智能在解决地理问题方面的技术优势,但很少有人公开承认或批评深度造假对地理学领域或其他领域的潜在威胁,"作者写道。
赵和他的同事们远没有把深度造假说成是一种新的挑战,他们把这项技术放在可以追溯到几千年前的漫长的地理造假历史中。他们说,只要有地图存在,人类就一直在用地图撒谎,从巴比伦人等古代文明设计的神话地理,到战争期间分发的现代宣传地图,"以动摇敌人的士气"。
一个特别奇怪的例子来自所谓的 "纸质城镇 "和 "陷阱街道"。这些都是制图师在地图中插入的假定居点和道路,目的是为了抓住偷窃他们作品的对手。如果有人制作的地图上有你自己的俄亥俄州法克斯维尔,你就知道--而且可以证明--他们在抄袭你的制图。
用地图撒谎有着悠久而丰富的历史
尽管新技术带来了新的挑战,但 "这是一个有几百年历史的现象,"赵国栋说,"假地理学。"它之所以新颖,部分原因是深度伪造的卫星图像非常逼真,令人难以置信。未经训练的眼睛很容易认为它们是真实的。"
制作假的卫星图像当然比制作人类的假视频更容易。较低的分辨率同样可以令人信服,而且卫星图像作为一种媒介,本身就是可信的。这可能是由于我们对这些图片的费用和来源的了解,赵说。"由于大多数卫星图像是由专业人士或政府生成的,公众通常更愿意相信它们是真实的。"
作为他们研究的一部分,赵和他的同事创建了生成深度伪造卫星图像的软件,使用了与ThisPersonDoesNotExist.com等知名程序相同的基本人工智能方法(一种被称为生成对抗网络,或GANs的技术)。然后他们创建了检测软件,能够根据纹理、对比度和颜色等特征发现假货。但正如专家们多年来对人物深层造假的警告,任何检测工具都需要不断更新,以跟上深层造假的改进。
不过,对赵来说,最重要的是提高人们的认识,这样地理学家就不会被打草惊蛇。正如他和他的同事所写的那样。"如果我们继续对深度造假毫无准备,我们就有可能进入一个'假地理'的二维空间"。
打赏
-
支付宝扫一扫
-
微信扫一扫