去年，一个神秘的政治团体委托制作了一则攻击共和党国会候选人波·海恩斯的电视广告，北卡罗莱纳人由此窥见了政治广告的未来。
这则广告是由共和党初选对手制作的，其中有一张人工生成的图像，是海恩斯对一名报纸记者说的话。海恩斯并没有对这些评论的内容提出异议，这些评论意在将他描绘成一个自由主义者，但他对使用假的他的渲染来描绘他的讲话感到愤怒。海恩斯的竞选团队称这一虚假描述是“诽谤”，并表示这欺骗了选民。这位共和党人赢得了初选，但最终在势均力敌的大选中落败。
从那以后，人工智能得到了发展，它在政治广告中的应用爆炸式增长。
在某些情况下，使用生成式AI制作的音频和视频看起来和听起来都是完全真实的。现在，它被用于美国政治最高层的竞选广告中。虚假信息专家担心，这项技术可能被用来改变全球选举的天平。
“做一个知情的选民变得更加困难了，”伊隆大学新闻学教授、《发现欺骗:打击假新闻》(detection Deception: Fighting Fake News)一书的作者阿曼达·斯特吉尔(Amanda Sturgill)说。
误导性广告对政治来说并不新鲜。但从历史上看，技术限制使广告创作者无法复制政治家的声音或外貌。如果一个政治团体想要塑造一个不讨人喜欢的对手形象，他们必须改变现有的形象。如果他们想要对手的录音，他们必须修改或编辑现有的录音。
新兴的人工智能工具如今让华盛顿拥有了一些与好莱坞相同的权力。
斯特吉尔说:“你可以把原本不存在的东西放到视频或照片中。”“但你也可以无中生有地做出一块完整的布。”
这就是一些人正在做的事情。仅在2月份，社交媒体上就出现了至少三段人工智能制作的视频，试图分别进行抹黑。所谓的深度造假是为了让人们认为政客们说了一些他们从未说过的话。
在芝加哥市长选举前一天，一名匿名社交媒体用户发布了一段人工音频，据称一名候选人说，警察过去曾杀害平民，“没有人会眨一下眼”。另一位社交媒体用户发布了一段视频，错误地描绘了拜登总统批评变性人。据《波士顿环球报》报道，另一段修改后的视频错误地描绘了马萨诸塞州民主党参议员伊丽莎白·沃伦(Elizabeth Warren)，她说共和党人应该被限制在2024年总统选举中投票。
在过去的六个月里，人工智能引发的攻击激增:
4月:共和党全国委员会发布了一个针对拜登的视频广告，其中展示了人工智能生成的荒凉的城市街道和移民大篷车的图像。共和党全国委员会在视频上加上了水印，表明该广告“完全是用人工智能图像制作的”。
据《福布斯》报道，支持佛罗里达州州长罗恩·德桑蒂斯(Ron DeSantis)竞选总统的政治行动委员会May: Never Back Down发布了一个视频广告，其中包括人工智能生成的军用飞机飞过德桑蒂斯竞选活动的视频。
6月:德桑蒂斯的总统竞选团队在社交媒体上发布了一则广告，利用人工智能生成的特朗普拥抱美国国家过敏和传染病研究所前所长安东尼·福奇博士的照片，攻击前总统唐纳德·特朗普。福奇博士在新冠肺炎大流行期间是一个有争议的人物。
7月:支持德桑蒂斯的超级政治行动委员会(super PAC)“永不后退”(Never Back Down)在一则电视广告中使用人工智能模仿特朗普的声音，使其看起来像是这位前总统抨击爱荷华州州长的录音。
9月:据《连线》杂志报道，在斯洛伐克，在总统选举前两天发布的一段经过修改的音频错误地声称要抓住一名密谋操纵选举的候选人。
共和党人和民主党人都谴责了利用人工智能欺骗选民的竞选活动。例如，乔治亚州共和党众议员马乔里·泰勒·格林(Marjorie Taylor Greene)呼吁德桑蒂斯竞选团队撤下特朗普和福奇的假照片。
然而，人工智能在政治广告中的应用预计只会增加。俄亥俄州共和党参议员j·d·万斯称特朗普的假照片“完全不可接受”，他在社交媒体上写道:“我们处在一个新时代。对你在网上看到的东西要更加怀疑。”
联邦法律并未禁止使用人工智能在政治广告中制作误导性的音频或视频。由政治任命的联邦选举委员会(Federal election Commission)正在探索针对此类内容的监管规定，但尚未实施任何限制这类内容的规定。
许多州都颁布了禁止对普通公民使用深度伪造的法律。但根据追踪各州通过法律的全国州议会会议(National Conference of State Legislatures)，只有少数几个州——加利福尼亚州、明尼苏达州、德克萨斯州、华盛顿州和威斯康星州——有专门与竞选活动相关的规定。
为了帮助观众，谷歌和YouTube上个月宣布，他们将要求用户披露他们的视频是否包含合成内容。两位民主党议员——明尼苏达州参议员艾米·克洛布查尔(Amy Klobuchar)和纽约州众议员伊维特·克拉克(Yvette Clarke)——本月早些时候致信其他公司，敦促它们也这么做。他们要求Facebook和Instagram的母公司meta以及前身为Twitter的X的高管在周五之前做出回应。
克拉克和克洛布查尔写道:“随着2024年大选的临近，政治广告中这类内容缺乏透明度，可能会导致与选举有关的错误信息和虚假信息在你们的平台上泛滥，这是危险的，选民经常会转而了解候选人和问题。”两人都提交了法案，要求所有政治广告披露人工智能生成内容的存在。
一些人反对监管人工智能生成的政治内容的想法，称这是不必要的，或者可能侵犯言论自由权。智库TechFreedom的律师阿里?科恩(Ari Cohn)驳斥了人工智能生成的内容对民主构成独特威胁的说法。
科恩在9月27日参议院规则和行政委员会(Senate Rules and Administration Committee)的会议上说:“我们今天不是站在地震变化带来的灾难的悬崖上。”
他说:“人工智能给我们的沟通方式带来了渐进式的变化。”“没有迹象表明深度造假会严重误导选民，改变他们的实际投票行为。”
联邦选举委员会的共和党成员艾伦·迪克森(Allen Dickerson)认为，人工智能生成的严重歪曲政治候选人的图像将违反现行法规。
迪克森在8月10日的一次会议上说:“对某人的私人谈话撒谎，或者发布一份经过修改的文件，或者在后期制作中添加声音效果，或者手动对照片进行修饰——如果是有意欺骗的话——已经违反了我们的法规。”
迪克森表示，希望联邦选举委员会的任何新规定都是针对欺诈活动的，而不是针对人工智能生成内容的一般使用。他说，不精确的规则可能会打击言论自由。
在三角地区，选民在接受WRAL采访时对这个问题表达了复杂的感情。WRAL向个别选民展示了德桑蒂斯竞选团队发布的特朗普拥抱福奇的照片，并询问他们的反应，然后披露这些照片是人工智能生成的。大多数人都怀疑这种拥抱是否真的发生过。
“我不认为唐纳德·特朗普曾经支持过福奇，”罗利的西娅·罗巴格站在罗利西部一家杂货店外说。
罗利居民Antwan Orr不确定这些图像是否真实:“随着科技的发展，你永远不知道该相信什么。”
对于政府是否应该介入监管人工智能生成的图像，比如特朗普和福奇的图像，选民们存在分歧。来自罗利(Raleigh)的民主党人兰德尔?贝恩(Randall Bain)表示:“我们应该有标准，一个好的领导人应该遵守这些标准。”
在达勒姆的一个投票中心外，来自达勒姆的杰伊·海克斯(Jay Heikes)担心监管可能会不公平地实施:“这多久就会变成第一修正案的问题，‘这张人工智能图像可以，而这张不行?’”
选民们对他们喜欢的政治候选人是否应该利用人工智能在民意调查中获得优势也有不同的看法。Robarge说，如果她喜欢的候选人使用人工智能生成的内容来攻击他们的对手，她会感到不安:“只要提供真相，就可以很容易地赢得竞选。”
奥尔说，他希望他支持的候选人“以任何必要的手段”获胜，并补充说，“美国已经这样多久了?”
虽然生成式人工智能已经有所改进——并且可以欺骗许多选民——但它的创造并不总是完美的。
有了音频剪辑，这个人的表达是流畅的吗?如果这些单词听起来断断续续，或者说话者把重点放在了句子中一个不自然的地方，这可能表明这个片段是人工生成的。
如果音频与视频配对，检查声音是否与人的嘴唇运动同步。WRAL的事实核查合作伙伴PolitiFact在注意到音频与特写人物的嘴部动作或面部表情不匹配后，发现了几起伪造事件。
与此同时，人工智能图像生成器有时无法解释关键细节。
“通常是图像背景中的东西，”伊隆公司的专家斯特吉尔说。
“为了节省计算能力，他们会花很多精力使图像的前部看起来更好，”她说。“但后台的东西要么不存在，要么就是错误的。”
例如，在特朗普拥抱福奇的照片背景中，白宫标志上的字母都是混乱的。这个标志并没有写着“白宫”或“华盛顿”，这是它应该写的。牌子上写着“MEHIHAP”。
一些候选人和公司不愿意为了取悦一个客户而牺牲自己的声誉。
华盛顿SKDK政治公司的董事总经理兼总裁皮娅·卡鲁松说，她的咨询公司不会制作一张类似于特朗普拥抱福奇的假照片。
她说，她公司的客户“在这方面有更严格的对与错的解释，”卡鲁松说。“我们的客户不想不惜任何代价赢得官司。他们希望在公平规则的基础上获胜。”
努诺·安德拉德(Nuno Andrade)是德克萨斯州一家营销公司Media Culture的首席创新官，他从客户那里听到了同样的话。该组织主要与地方选举中的政治候选人合作。他说，客户对人工智能的工作原理很好奇，并担心人工智能会被用来对付他们。
安德拉德说:“这是我们得到的一些问题，主要是从防守的角度来看。”
他警告说，人工智能生成的攻击广告的目标可能永远不会真正发现谁对这些内容负责。一般来说，大型广告公司需要保护自己的声誉。他们有生意要经营，并且小心翼翼地避免法律上的麻烦。
在政治舞台上，有可能——如果不太可能的话——对生成式人工智能最严重的滥用来自匿名来源。
安德拉德说:“做这些事情并不需要那些财力雄厚的人，他们可以在一个地下室雇佣100个人。”
他说，所需要的只是“隔壁有电脑和激情的家伙”。