纽约(美联社)——在暴徒袭击美国国会大厦近三年后，导致暴力袭击的虚假选举阴谋论仍然在社交媒体和有线电视新闻上流行:手提箱里装满选票，深夜投票，死人投票。
专家警告说，在即将到来的总统选举中，情况可能会更糟。上次试图对抗虚假声明的保障措施正在受到侵蚀，而制造和传播虚假声明的工具和系统却越来越强大。
许多美国人在前总统唐纳德·特朗普的怂恿下，继续宣扬一种未经证实的观点，即美国各地的选举不可信。大多数共和党人(57%)认为民主党人乔·拜登不是合法当选的总统。
与此同时，可生成的人工智能工具使传播那种可能误导选民并可能影响选举的错误信息变得更便宜、更容易。曾经在纠正记录方面投入巨资的社交媒体公司已经改变了他们的优先事项。
“我预计会出现错误信息的海啸，”人工智能专家、华盛顿大学(University of Washington)名誉教授奥伦·埃齐奥尼(Oren Etzioni)说。“我无法证明。我希望被证明是错的。但配料就在那里，我完全被吓坏了。”
围绕选举的图像和视频被操纵并不是什么新鲜事，但2024年将是美国总统大选中，只需点击几下鼠标，就能在几秒钟内制作出令人信服的假照片的复杂人工智能工具首次出现。
Etzioni说，这些被称为深度伪造的图像、视频和音频片段已经开始进入实验性的总统竞选广告中。更险恶的版本很容易在没有标签的情况下在社交媒体上传播，并在选举前几天愚弄人们。
“你可以看到像拜登总统这样的政治候选人被紧急送往医院，”他说。“你可能会看到一位候选人说了一些他或她从未说过的话。你可以看到银行出现挤兑。你可以看到从未发生过的爆炸和暴力事件。”
布伦南司法中心(Brennan Center for Justice)选举和政府项目高级主管拉里·诺顿(Larry Norden)说，高科技造假已经影响到了全球各地的选举。就在斯洛伐克最近选举的前几天，人工智能生成的录音模仿了一名自由派候选人讨论提高啤酒价格和操纵选举的计划。事实核查员争先恐后地将其识别为虚假，但它们在社交媒体上被当作真实的分享。
这些工具也可能被用来针对特定的社区，制造关于投票的误导性信息。专家说，这可能看起来像是有说服力的短信、在WhatsApp上用不同语言分享的关于投票过程的虚假公告，或者是仿作你所在地区官方政府网站的虚假网站。
宾夕法尼亚大学安嫩伯格公共政策中心主任、错误信息学者凯瑟琳·霍尔·贾米森说，面对那些看起来和听起来都很真实的内容，“我们在进化过程中所做的一切都将发挥作用，让我们相信虚构的东西，而不是真实的事实。”
国会的共和党人和民主党人以及联邦选举委员会(Federal Election Commission)正在探索监管这项技术的措施，但他们尚未敲定任何规则或立法。这使得各州迄今为止对政治人工智能深度造假实施了唯一的限制。
少数几个州已经通过了法律，要求对深度造假进行标记，或者禁止那些歪曲候选人的造假。一些社交媒体公司，包括YouTube和拥有Facebook和Instagram的meta，已经引入了人工智能标签政策。他们是否能够持续抓捕违规者还有待观察。
就在一年多前，埃隆·马斯克(Elon Musk)收购了Twitter，开始解雇高管，取消了一些核心功能，并将这个社交媒体平台重塑为现在被称为X的平台。
从那以后，他颠覆了其核查系统，使公职人员容易受到假冒。他摧毁了曾经在该平台上打击错误信息的团队，让用户社区自行调节。他还恢复了先前被禁止的阴谋论者和极端分子的账户。
这些变化受到了许多保守派人士的欢迎，他们表示，Twitter此前的适度尝试相当于审查他们的观点。但支持民主的人士辩称，这次接管已经把曾经有缺陷但有用的新闻和选举信息资源，变成了一个基本上不受监管的回音室，放大了仇恨言论和错误信息。
非营利监督组织Accountable Tech的联合创始人杰西·莱里奇(Jesse Lehrich)说，Twitter曾经是“最负责任”的平台之一，它愿意测试可能减少错误信息的功能，即使是以牺牲用户参与度为代价。
“很明显，他们现在正好处于另一个极端，”他说，并补充说，他认为该公司的变化给了其他平台放松自己政策的借口。X没有回复美联社通过电子邮件发送的问题，只是发送了自动回复。
倡导科技和媒体公民权利的非营利组织自由媒体(Free Press)的一份报告显示，在2024年之前，X、meta和YouTube共取消了17项防止仇恨和错误信息的政策。
今年6月，YouTube宣布，虽然它仍将监管误导当前或即将举行的选举的内容，但它将停止删除虚假声称2020年大选或其他之前的美国选举受到“广泛欺诈、错误或故障”影响的内容。该平台表示，这项政策是为了保护“公开辩论政治观点的能力，即使是那些有争议的或基于错误假设的观点”。
Lehrich表示，即使科技公司希望避免删除误导性内容，平台也可以“有很多内容中立的方法”来减少虚假信息的传播，从给几个月前的文章贴上标签，到在没有事先审查的情况下让分享内容变得更加困难。
自2020年以来，X、meta和YouTube也解雇了数千名员工和承包商，其中一些人包括内容审核员。
华盛顿大学(University of Washington)的错误信息专家凯特·斯塔伯德(Kate Starbird)说，这类团队的缩减——许多人将其归咎于政治压力——“为2024年的情况比2020年更糟创造了条件”。
meta在其网站上解释说，它有大约4万名员工致力于安全和保障，并保持着“所有平台中最大的独立事实核查网络”。它还经常关闭旨在散布不和和不信任的虚假社交媒体账户网络。
“没有一家科技公司在保护网上选举方面比meta做得更多或投入更多——不仅在选举期间，而且在任何时候，”帖子说。
YouTube发言人艾薇·崔(Ivy Choi)表示，该平台“投入巨资”将人们与YouTube上的高质量内容联系起来，包括选举内容。她指出，该平台的推荐和信息面板为用户提供可靠的选举新闻，并表示该平台删除了误导选民如何投票或鼓励干预民主进程的内容。
抖音和其他监管较少的平台，如Telegram、Truth Social和Gab的兴起，也在网上创造了更多的信息孤岛，毫无根据的言论可以在那里传播。在有色人种和移民群体中特别受欢迎的一些应用程序，比如WhatsApp和微信，依赖于私人聊天，这使得外部群体很难看到可能传播的错误信息。
美洲数字民主研究所(Digital Democracy Institute of the Americas)创始人兼执行董事罗伯塔·布拉加(Roberta Braga)说:“我担心，在2024年，我们会看到类似的重复、根深蒂固的虚假叙述，但会有更复杂的策略。”“但从积极的方面来看，我希望社会对这些事情有更大的适应能力。”
特朗普在共和党总统初选中的领先地位是错误信息研究人员最关心的问题，他们担心这会加剧选举错误信息，并可能导致选举警戒或暴力。
这位前总统仍然谎称自己赢得了2020年的大选。
斯塔伯德说:“唐纳德·特朗普过去显然接受并煽动了有关选举舞弊的虚假指控。”“我们可以预期，他可能会继续利用这一点来激励他的选民。”
在没有证据的情况下，特朗普已经让他的支持者做好准备，预计2024年的选举将出现欺诈行为，敦促他们进行干预，以“保护投票”，防止在多个民主党城市操纵投票。特朗普长期以来一直暗示，如果他没有获胜，选举就会被操纵，他在2016年和2020年的投票前就这么做了。
无党派组织“保障民主联盟”(Alliance for Securing democracy)的高级研究员布雷特·谢弗(Bret Schafer)说，选民对民主的信任不断流失，可能会导致暴力。该组织追踪错误信息。
“如果人们最终不相信与选举有关的信息，民主就会停止运作，”他说。“如果一场错误信息或虚假信息的宣传活动足够有效，以至于有足够多的美国人不相信选举结果反映了实际发生的事情，那么1月6日可能会看起来像是一场热身活动。”
自2020年以来，选举官员花了数年时间为否认选举的言论可能卷土重来做准备。他们派出团队解释投票过程，聘请外部团体监控出现的错误信息，并加强了计票中心的物理保护。
在科罗拉多州，国务卿杰纳·格里斯沃尔德(Jena Griswold)表示，信息丰富的付费社交媒体和电视宣传活动使选举工作人员人性化，有助于选民防范错误信息。
“这是一场艰苦的战斗，但我们必须积极主动，”她说。“错误信息是我们今天看到的对美国民主的最大威胁之一。”
明尼苏达州国务卿史蒂夫·西蒙(Steve Simon)的办公室率先发起了#TrustedInfo2024，这是全国国务卿协会(National Association of Secretary of State)发起的一项新的在线公共教育活动，旨在促进选举官员成为2024年选举信息的可信来源。
他的办公室还计划与县和市选举官员举行会议，并将在其网站上更新“事实与虚构”信息页面，以应对虚假声明的出现。明尼苏达州的一项新法律将保护选举工作人员免受威胁和骚扰，禁止人们在选举前故意传播错误信息，并将未经同意分享深度虚假图像以伤害政治候选人或影响选举的人定为刑事犯罪。
“我们抱最好的希望，但也做最坏的打算，”西蒙说。
在威斯康星州格林湾以北的一个农村县，奥康托县书记金·皮特莱斯基(Kim Pytleski)在该地区巡回演讲，向小团体介绍投票和选举，以提高选民的信任。该县还公开提供设备测试，以便居民可以观察到这一过程。
她说:“能够与你们的选举官员直接对话，一切都会变得不同。“能够看到这些流程背后有真正的人，他们致力于自己的工作，并希望做好工作，这有助于人们理解我们是来为他们服务的。”