来源：环球时报

美国《华盛顿邮报》4月23日文章，原题：AI深度伪造技术可能会颠覆全球选举，势不可挡 作为“印度深度伪造大师”，贾多恩擅长运用人工智能（AI）手段拍摄宝莱坞电影和电视广告。

随着印度大选拉开帷幕，贾多恩称已有数百名政客向他寻求帮助，其中多半是要做些“不道德”的勾当——或是让他帮忙伪造竞争对手在竞选中失态的音频，或是将对手的脸P到色情图片上。

有些竞选团队想为自家候选人制造粗劣的虚假视频，用以混淆视线，降低大选中不利于己方的真实视频的可信度。贾多恩称自己拒绝了这些蓄意诽谤或欺骗的业务。

但他认为，在这场超过5亿印度选民参与、全球规模最大的选举中，势必会有大量同行煽风点火，扭曲事实。“能让我们拒绝造假的，只有我们的良心。”贾多恩告诉记者，“但这很难做到”。

印度大选于上周开始，并将持续至6月初。我们可以看到，AI技术爆炸式的发展让深伪信息充斥大选的每一个角落。2024年是全球选举年，来自全球50多个国家和地区，超过半数的公民都将在本年度内参与选举。

有多少政客深受深度伪造之害仍是未知数，但专家称，选举中的深度造假势头迅猛。“相比去年，今年的政治深度伪造现象要多很多，内容也更为复杂，效果更逼真，”加利福尼亚大学伯克利分校的计算机教授哈尼·法里德称。

尽管各国立法和监管部门争相出台政策，限制AI音频、图像和视频在选举中的使用，但距离有效管控仍然存在真空期。欧盟的人工智能法案直至6月议会选举后才会生效。在美国11月大选之前，禁止AI用于政治诽谤的法案都很难面世，少数几个州颁布的法令效用无法惠及全国。

政客可以轻松运用AI内容迷惑选民，面对社交媒体和群聊中快速传播的虚假信息，执法人员只能望洋兴叹。“在选举水深火热之际，我们最好不要袖手旁观，”美国参议院规则委员会主席埃米·克洛布彻在演讲中表示，“城门即将失火，我们绝不能作壁上观”。

多年来，有关国家和民族团体的海量虚假信息充斥着脸书、X等社交媒体平台。AI赋予了普通人武器，使得打击虚假信息成为街头巷尾、异常艰难的“游击战”。

美国国土安全部警告候选人称，AI可能会被他国势力用于影响选举活动，不法者可能冒充候选人，传播有关投票方式和选举流程的错误信息。在5月南非大选到来之前，说唱歌手艾米纳姆为南非在野党背书的虚假视频得到了广泛传播。

面对美国国会的不作为，各州纷纷采取行动，监管部门也在呼吁企业签署自愿性承诺。上个月，威斯康星州州长签署了一项两党法案，对未能在政治广告中披露AI信息者进行罚款。密歇根州也通过法令，对选举期间传播深度伪造内容的人进行惩戒。但最高1000美元的罚款和最长90天的监禁，能否有效震慑不法者，我们尚不得而知。

侦破技术的匮乏和相关人员的短缺，使执法者很难快速甄别内容的真实性。多国政府都在积极寻求政客和科技企业的帮助，试图控制选举活动中AI内容的野蛮生长。

欧盟委员会副主席薇拉·尧罗娃称已向欧洲主要政党发出信件，“恳请”对方抵制操纵性技术。尧罗娃称，自己曾于2023年3月请求社交媒体平台对AI生成内容进行标记，但有些平台称其无法开发甄别AI内容的技术。

OpenAI全球事务副总裁安娜·马坎朱称，“这是一个社会性问题，技术如此发展并不符合我们的利益。有了以往大选的前车之鉴，我们所有人都很有干劲。”

贾多恩认为，政府无法独自阻止深度伪造内容的传播，民众也要参与进来，“那些煽动你情绪的内容，最好慎重想想再分享。”（作者普兰舒·维尔玛和凯特·扎克热夫斯基，华泽勋译）