我们需要谈谈对爱尔兰名人和政治家的深度模仿。
在YouTube、Instagram和X等平台上，被人为操纵的爱尔兰名人越来越多地出现在诈骗广告中。
在YouTube、Instagram和X等平台上，被人为操纵的爱尔兰名人越来越多地出现在诈骗广告中。
该名单包括维珍传媒的科莱特·菲茨帕特里克、前RTé新闻播音员安妮·道尔和爱尔兰总理利奥·瓦拉德卡等人。
在每一种情况下，都是同一件事:一个视频广告，显示某位名人显然在提醒我们一个难以置信的机会，或者警告我们一些重要的事情即将到来。
他们的嘴唇和身体动作似乎与他们所说的内容有关。
,“是的，几个月来，我和我的随行人员确实一直在用这个应用赚钱，直接在我们的手机里，”一个伪装得很好的利奥·瓦拉德卡在一个广告中说，该广告还展示了科莱特·菲茨帕特里克(Collette Fitzpatrick)和爱尔兰央行行长加布里埃尔·马赫洛夫(Gabriel Makhlouf)的伪造版。
“我很高兴地宣布，(这款应用)对所有爱尔兰公民开放。你所需要做的就是在项目网站上注册，留下你的详细信息。”
点击或点击所提供的链接，它会把你带到一个网页，这个网页的风格是爱尔兰政府、爱尔兰媒体组织(就像这个)，甚至是像爱尔兰企业这样的投资机构。
再次点击任何链接，你通常会被带到一个骗局网站，要求你“注册”并提供一些东西，或者——至少——使用你的谷歌、Facebook或苹果凭证“登录”，可能是为了将来的网络钓鱼。
另一个视频则以假的安妮·道尔(Anne Doyle)为主角，旨在邀请观众点击，以发现公众不知道的关键信息。
虚假名人广告并不新鲜。广播员米里亚姆·奥卡拉汉花了数年时间与网上虚假宣传她的诈骗广告作斗争，最终在爱尔兰法庭上得到了梅塔的道歉。
一周中的任何一天，你都会在社交媒体平台上看到同样的各种诈骗广告。(最新的大众市场版本是帕特里克·凯利在《阿拉斯泰尔·坎贝尔深夜秀》(Late Late Show)的拍摄现场，声称有重要的未公开信息。)
但到目前为止，它们大多是照片。对爱尔兰名人和政客的视频深度造假是相对较新的事情。
令人担忧的是，在选举和公投的年份，这些数字还在增加。
，特别令人担忧的是，制作一种巧克力到底有多容易、多快。
通过在谷歌上搜索如何做到这一点，我上周花了不到15分钟的时间来设置、准备和制作一个深度的假视频，这个视频以一种逼真的方式操纵了我的动作、面部和声音，然后把我输入文本框的脚本吐了出来。
在线人工智能系统“训练”了我对着笔记本电脑的摄像头说话30秒。然后我给了它几行“说”作为我的深假。
我把视频给同事看，他们都惊呆了。
其他人的视频几乎同样简单，你可以从网上复制他们的动作和讲话，并上传到类似的人工智能生成器中。
需要明确的是，如果你在笔记本电脑的大屏幕上仔细观察嘴唇和其他动作，你可以看到它可能是人工智能操纵的信号。如果你听得够仔细的话，有些单词有时会有一点美式鼻音。
但是当你在智能手机上浏览动态时呢?它确实是可信的。
你不能取消发明技术。所以我们现在有很多新问题。我们该如何为一个如此容易以这种方式操纵视频的时代做好准备?
meta、谷歌和X等主流科技平台的立场似乎依赖于向他们举报可疑或虚假的违规视频，然后他们会进行调查。
但这就足够好了吗?如果像米里亚姆·奥卡拉汉(Miriam O ' callaghan)这样的人多年来一直看到自己的形象与山寨假广告联系在一起，那么一个平台仅仅说一句:“我们会在接到通知后撤下个别帖子”就足够了吗?
这个问题在X上尤为严重，目前的许多诈骗广告实际上都是由“经过验证”的付费蓝标用户发布的。
即使诈骗广告被撤下，他们的账户也不会受到影响。难道这是X的借口，因为它的广告收入已经崩溃，它不能把骗子踢出它的平台?
目前，我们看到的主要是深度假视频应用于低级别的商业诈骗。但是，如果这些骗局中的一个在选举或公投前的关键时刻获得关注，会发生什么呢?