看起来像是皮克斯新电影的海报。但这部电影的名字是《跳舞的以色列人》。海报称这部电影是“摩萨德/中央情报局的作品”，描绘了一个跳舞的犹太男子的漫画形象，他的靴子正在撞倒世界贸易中心大楼——这是对反犹的9/11阴谋论的参考。
10月27日，一名拥有22万粉丝、自称“美国第一爱国者”的认证用户在X上发布了这张照片，获得了约19万次观看，其中包括8000个赞和1500次转发。X的内容管理员没有对这条推文采取任何行动，该用户于11月16日再次发布了这条推文，浏览量增加了19.4万次。截至周三，这两条推文仍在该网站上，尽管研究人员使用该社交网络的报告系统将它们标记为仇恨帖子。
在埃隆·马斯克(Elon Musk)的X上发表反犹言论并不是什么新闻。但新的研究发现，该网站已经成为新一波自动仇恨表情包的主流曝光渠道，这些表情包是由臭名昭著的在线论坛4chan上的喷子使用尖端的人工智能图像工具生成的。非营利性反数字仇恨中心(CCDH)的研究发现，在10月7日哈马斯袭击之后，4chan成员发起了一场传播“人工智能犹太人表情包”的运动，根据该网站公开显示的指标，10月5日至11月16日期间，43张不同的图片在X上达到了220万的浏览量。
被广泛转载的帖子包括:美国陆军士兵跪在宝座上的一名犹太人面前;穿着纳粹军官制服的泰勒·斯威夫特(Taylor Swift)将一名犹太男子推入烤箱;还有一个犹太人在操纵一个黑人的木偶。后者可能指的是“大替代”(Great Replacement)阴谋论。2022年5月，一名18岁的白人男子在纽约州布法罗的一家杂货店屠杀了10名黑人，马斯克在上个月的一条推文中似乎支持了这一阴谋论。
超过一半的帖子是由经过验证的账户发布的，这些账户的所有者每月为特殊状态支付一定的费用，这些帖子根据网站的算法在用户的订阅中优先显示。在推特上发布美国陆军士兵向犹太统治者鞠躬的照片，并声称犹太人试图奴役世界的经过认证的用户，在2018年以共和党人的身份竞选犹他州参议员，在X上有8.6万名粉丝。
4chan用户使用微软的Image Creator等人工智能工具创造了机器生成的偏见，这种偏见的扩散让人质疑马斯克和X首席执行官琳达·亚卡里诺最近的说法，即该公司正在打击反犹太主义内容，因为主要广告商正在退缩。在11月14日的一篇博客文章中，X表示，它已经扩大了对反犹内容的自动审核，并为其审核员提供了“反犹主义的复习课程”。
但研究人员表示，在12月7日被他们报告为仇恨言论的66条帖子中，截至周一，X似乎只对其中三条采取了行动。其中两架的能见度受到限制，一架被击落。《华盛顿邮报》独立证实，截至周三，其他63人仍在X上公开，没有任何迹象表明该公司已对他们采取了行动。大多数人似乎违反了X的仇恨行为政策。
研究人员指出，一些相同的人工智能生成的图像也被发布到其他主要平台上，包括抖音、Instagram、Reddit、YouTube和Facebook。但CCDH表示，之所以关注X，是因为在马斯克的领导下，该网站对节制的削减使其成为一个特别友好的环境，让明确的仇恨内容能够接触到更广泛的受众。《华盛顿邮报》自己对4chan档案的审查表明，X一直是一个受欢迎的分享反犹图片的平台，尽管不是唯一的平台。
上个月，一些最大的广告客户撤下了广告，X的业务受到了影响。这次反弹是对马斯克的反犹推文和另一家非营利组织“美国媒体事务”(Media Matters for America)的一份报告的回应，该报告显示，推纳粹宣传的帖子与主要品牌的广告一起出现在该网站上。
在撤回支出的公司中，迪士尼就是其中之一。在X上流传的许多人工智能制造的仇恨表情包中，迪士尼的品牌都占据了显著位置。在上个月《纽约时报》组织的一次会议上，马斯克对暂停在X上支出的广告商进行了亵渎，指责他们“勒索”，并表示他们将“杀死公司”。他提到了迪士尼首席执行官的名字。
在CCDH的研究中，分享最多的是一条推文，上面写着“皮克斯的纳粹德国”，这是一个虚构的动画电影中四个人工智能生成的场景的蒙太奇，描绘了微笑的纳粹管理集中营，并将犹太儿童和成人带入毒气室(皮克斯是迪士尼旗下的)。这是研究中为数不多的被X的内容管理员贴上标签的帖子之一，上面写着:“能见度有限:这篇帖子(原文如此)可能违反了X反对仇恨行为的规定。”即便如此，根据X的数据，截至周三，该视频的浏览量已超过50万次。
另一个经过验证的X账户发布了数十个人工智能仇恨表情包，包括以阿道夫·希特勒为主角的皮克斯电影海报，而该平台没有任何明显的批准。
作为世界上最富有的人，马斯克起诉了美国媒体事务和打击数字仇恨中心，原因是他们对x上的仇恨言论进行了研究。在最近一波对反犹主义的批评之后，马斯克宣布了针对某些亲巴勒斯坦口号的严格新政策。他访问以色列宣布支持该国，并广播了他与该国右翼总理本雅明·内塔尼亚胡(Benjamin Netanyahu)的友好会晤。
今年5月被马斯克任命为首席执行官的亚卡里诺在11月的一条推文中表示，X“非常清楚我们打击反犹太主义和歧视的努力”。该公司没有回复询问反犹太的人工智能表情包是否违反其政策的电子邮件。
4chan是一个匿名的在线留言板，长期以来一直是攻击性和极端主义内容的中心。当马斯克去年秋天收购Twitter时，4chan的喷子们用大量种族主义辱骂来庆祝。据科技博客404 Media最先报道，今年10月初，4chan“政治不正确”留言板的成员开始互相教导和鼓励，使用人工智能图像工具生成种族主义和反犹主义的右翼表情包。
4chan的帖子描述了逃避旨在防止人们产生冒犯性内容的措施的方法。其中包括使用微软(Microsoft)的Image Creator(以前称为必应(Bing) Image Creator)的“快速方法”，该软件是围绕OpenAI的dall - e3软件构建的，被认为对敏感内容的限制较为薄弱。
4chan上的一篇帖子建议:“如果你添加了一些你认为会被审查的单词，那就把它们从你正在编写的提示中分隔出来。”该帖子描述了如何制作能够产生成功结果的文本提示。“例子:开头是拉比，结尾是大鼻子。”
在10月7日哈马斯袭击以色列之后，4chan用户对反犹内容的关注似乎更加强烈。“第二次大屠杀版”、“烤箱全天运行版”等各种各样的次主题出现了许多“人工智能犹太人表情包”。
微软通讯主管凯特琳·鲁尔斯顿(Caitlin Roulston)在一份声明中表示:“当这些报道浮出水面时，我们会采取适当的措施来解决它们，就像我们过去所做的那样. . . .。与任何新技术一样，有些人试图以意想不到的方式使用它，任何反复尝试制作违反我们政策指导方针的内容都可能导致无法访问该服务。”微软没有透露有多少人因为违反规定而被拒绝访问其成像程序。
使用数字工具生成极端主义图像的能力并不新鲜。像Adobe Photoshop这样的程序长期以来一直允许人们操纵图像，而无需对从中产生的内容进行审核。
但是，在几秒钟内从零开始创建复杂图像的能力是不同的，无论是皮克斯电影海报的形式还是逼真的战争图像，只有几行文字。CCDH的首席执行官伊姆兰·艾哈迈德(Imran Ahmed)表示，公开的仇恨账户在X上得到验证和放大的能力，使此类信息的传播比以往任何时候都容易。“显然，制作和传播极端主义材料的成本从未像现在这样低。”
反诽谤联盟极端主义中心的虚假信息分析师萨拉·阿尼亚诺表示，人工智能似乎正在引领“模因文化的下一个阶段”。
阿尼亚诺补充说，极端分子在主流社交媒体平台上分享人工智能仇恨表情包的目的是“红丸”普通人，这意味着将他们引向激进和阴谋主义的道路。“你总是可以预料到这种言论会出现在边缘空间。但他们喜欢它脱离那些空间。”
并不是所有在X上流行的人工智能表情包都是反犹的。英国极右翼政党“英国第一党”(Britain First party)主席阿什利娅·西蒙(Ashlea Simon)发布了明显是人工智能生成的针对穆斯林移民的图片，暗示他们想强奸白人妇女，并“取代我们的人民”。
2017年，在唐纳德·特朗普(Donald Trump)在推特上的支持下，该党及其一些领导人因发表仇恨言论而被禁止使用推特。但马斯克在收购该公司后不久就恢复了它们，并在4月份给该党颁发了黄金“官方组织”认证标签。
虽然马斯克说他个人反对反犹太主义，但他有时也为X上存在的反犹太主义内容辩护。“言论自由有时确实意味着你不喜欢的人说了你不喜欢的话，”他在9月份与内塔尼亚胡的谈话中说。“如果你没有这些，那就不是言论自由。”
艾哈迈德说，问题在于，社交媒体平台在没有谨慎节制的情况下，往往会放大极端和冒犯性的观点，因为它们把人们震惊和愤怒的回应视为参与的信号。
他说:“如果你是犹太人，或者你是穆斯林，每天你打开X，你会在你的时间轴顶部看到把你描绘成吸血怪物的新图像，这让你觉得这些平台，甚至更广泛的社会，可能都在反对你。”