我们不需要想象这样一个世界:深度造假可以如此逼真地模仿政客的声音,以至于它们可以被用来制造可能影响选举的丑闻。它已经在这里了。幸运的是,有很多理由对社会识别虚假媒体和保持对当前事件的共同理解的能力持乐观态度
虽然我们有理由相信未来可能是安全的,但我们担心过去并非如此。
历史可以成为操纵和渎职的有力工具。可以伪造当前事件的生成式人工智能也可以伪造过去的事件。虽然新内容可以通过内置系统得到保护,但还有很多内容没有被打上水印,这是通过在数字文件中添加难以察觉的信息来实现的,这样就可以追踪其来源。一旦水印在创作时变得普遍,人们习惯于不相信没有水印的内容,那么在那个时间点之前产生的所有东西都很容易受到质疑。
这将为利用生成的文件来支持虚假声明创造一个宝贵的机会,从将历史人物置于不利境地的照片,到修改历史报纸上的个人故事,再到更改头衔契据上的名字。虽然所有这些技术以前都被使用过,但当制造近乎完美的赝品的成本大幅降低时,反击它们要困难得多。
这个预测是基于历史的。关于经济和政治大国如何操纵历史记录以达到自己的目的,有很多例子。斯大林通过处决不忠诚的同志,将他们从历史中清除,然后修改照片记录,使他们看起来好像从未存在过。斯洛文尼亚在1992年成为独立国家后,从居民登记册上“抹去”了18 000多人,主要是罗姆少数民族和其他非斯洛文尼亚民族的成员。欧洲人权委员会(Council of european Commissioner for Human Rights) 2003年的一份报告显示,在许多情况下,政府销毁了他们的实物记录,导致他们失去了住房、养老金和其他服务。
虚假文件是许多改写历史记录的努力的关键部分。臭名昭著的《锡安长老纪要》(Protocols of The Elders of Zion)最初于1903年在一家俄罗斯报纸上发表,据称是犹太人控制世界阴谋的会议纪要。1921年8月,《议定书》首次被认为是抄袭了多个不相关来源的伪造品,在纳粹宣传中占据突出地位,长期以来一直被用来为反犹暴力辩护,包括在1988年哈马斯成立公约的第32条中引用。
1924年,《每日邮报》(the Daily Mail)在大选前四天发表了《季诺维也夫信》(Zinoviev Letter),据说这是莫斯科共产国际主席写给英国共产党的秘密公报,目的是动员支持英苏关系正常化。由此产生的丑闻可能导致工党输掉了选举。这封信的来源从未得到证实,但其真实性在当时受到质疑,20世纪90年代的官方调查得出的结论是,它最有可能是白俄人(White Russians)的作品——白俄人是当时由反对共产党政府的俄罗斯人所领导的一个保守政治派别。