探索欺骗技术在美国和国外的应用
21岁的梅根·霍根(Megan Hogan)可以为使用深度伪造技术作为国防策略提出理由,但她计划在2020年总统大选期间揭露类似的虚假信息方法。
她的论文《复制现实——武器化深度伪造技术的优势和局限性》最近获得了2020年鲍比·r·英曼奖,成为美国情报和国家安全领域的最佳本科生论文。
在她的论文中,她描述了欺骗性操纵数字图像的进展,并认为美国应该发展武器化的深度伪造技术,以阻止、击败或防御任何试图损害美国国家利益的对手。
此外,她还共同领导着一个名为“DisinfoLab”的研究佳博体育,该佳博体育由威廉玛丽全球研究所(William & 玛丽’s Global research Institute)资助。其目的是让美国公众意识到,外国对手正试图影响我们的选举,以及我们对当前政治气候的看法。
去年春天,霍根在她的国际和平与安全项目(PIPS)白皮书中研究了深度造假作为一种虚假信息策略,在收到PIPS联合主任艾米·奥克斯和丹尼斯·史密斯的指导后,她缩小了研究重点。
今年8月,她得知自己获得了德州大学奥斯汀分校(University of Texas at Austin)情报研究项目(Intelligence Studies Project)颁发的本科生英曼奖(Inman Award)。
“我没想到会获奖,因为我知道英曼奖竞争非常激烈,他们每年都会收到100多名本科生和博士生的申请,”主修国际关系和经济学的霍根说。
霍根解释说,深度造假是一种利用人工智能制作高度逼真的假视频的合成媒体形式。它们是极其有效的虚假信息武器,既能破坏对机构和选举的信任,又能煽动政治暴力。她认为,到2020年底,几乎无法检测到的深度造假将成为现实。
深度造假也进入了流行文化,可以在流媒体电视服务Hulu的电视广告和互联网表情包等媒体中找到。演员兼导演乔丹·皮尔(Jordan Peele)在他与BuzzFeed首席执行官合作制作的一段视频中警告了深度造假的危险。在视频中,他使用深度假技术让前总统巴拉克·奥巴马的嘴唇与皮尔说的话同步移动。
霍根认为,美国应该发展这种技术,以保护自己免受任何试图损害美国利益的对手的伤害。
霍根说:“我认为,只有在地面作战的情况下,美国才应该积极使用深度假体作为武器。”“例如,如果我们正在参与一场军事行动,并希望使用深度伪造来实现特定的战术目标。
“我完全不主张对平民或主要政治人物使用这种武器。”
霍根表示,美国发展深度伪造技术的主要动机应该是保护自己免受其他国家试图使用人工智能的影响。
霍根说:“我想说,深度伪造检测至关重要,因为这种虚假信息的策略与我们遇到的任何策略都完全不同,人们对深度伪造有一种本能的反应。”“这比假新闻故事或传统形式的虚假信息更引人注目。因此,如果美国有希望能够在针对我们公民的攻击中发现深度伪造,我确实相信未来某个时候会有攻击,我们现在就需要开始开发它。”
在奥克斯的帮助下,霍根计划用这个学期把她的论文变成一篇文章或专栏,发表在一家外交政策杂志上。
她还将与前PIPS研究实习生Thomas Plant ' 22共同指导“DisinfoLab”。霍根和普兰特正在招募学生加入佳博体育。
霍根说:“在2020年总统大选之后,我们希望在全国范围内开展一场积极的媒体扫盲运动,让每个人都意识到,有外国对手正在试图影响我们的选举,以及我们对当前政治气候的看法。”