·AI生成的歌手泰勒·斯威夫特的虚假露骨照片在社交媒体平台上疯传，惊动美国白宫。由于来不及删图，社交平台X一度封锁了对斯威夫特的相关搜索。

国外社交平台涌现大量以泰勒·斯威夫特为主角的“不雅照片”。图源：网络截图

美国知名女歌手泰勒·斯威夫特（Taylor Swift）再次成为AI深度造假（deepfake）技术的受害者。

近日，由AI生成的斯威夫特的虚假露骨照片在社交媒体平台上疯传，短时间内浏览量飙升至上千万，惊动美国白宫。白宫新闻发言人卡里娜·让-皮埃尔（Karine Jean-Pierre）警告AI生成照片的传播“令人担忧”，并敦促社交媒体公司防止此类错误信息的传播。由于来不及删除这些有害图片，社交平台X（前身Twitter）一度封锁了对斯威夫特的相关搜索。

如果普通人的AI虚假露骨照片被传播时，他们该如何维权？社交平台具有怎样的监管责任？对此，上海大邦律师事务所高级合伙人游云庭建议，按照中国法律，如果有人散布此类照片，受害人可以按照名誉侵权和肖像侵权罪名起诉。如果照片较为露骨，受害人还可以指控发布者犯有传播淫秽物品罪，由公安机关进行侦查，对其进行刑事打击。

AI深度造假技术多次瞄准斯威夫特

1月25日，一名X用户分享的斯威夫特的虚假露骨图片被浏览了4700万次，其账户随后被暂停。尽管X努力删除相关不雅照片，但这些内容仍在多个媒体平台上分享，并遭到疯狂传播。

随后，斯威夫特的粉丝们很快关注到此事，发布大量“保护泰勒·斯威夫特”的帖子，尝试淹没露骨图片。

据英国《每日邮报》1月25日报道，一位接近斯威夫特的消息人士表示，斯威夫特对网上流传的虚假图像感到“愤怒”，并正在考虑对传播这些图像的深度造假色情网站采取法律措施。

对此，X在1月26日发表声明称，严格禁止在该平台上发布未经同意的露骨内容，对此类内容采取零容忍政策，团队正在积极删除所有已识别的图像，并对发布这些图像的账户采取适当的行动。

此次事件引起了美国白宫的注意。1月26日，白宫新闻发言人让-皮埃尔表示：“网络上的执法不严对女性影响更大，她们是受到网络骚扰和欺凌的主要目标。”她还补充说，应该立法解决社交媒体上滥用人工智能技术的问题，平台也应该采取措施，在其网站上禁止此类内容。

作为斯威夫特虚假照片主要传播的平台之一，X在连续几天封锁了对她的相关搜索后，于1月29日晚结束封锁。X运营主管乔·贝纳罗奇（Joe Benarroch）对媒体表示：“搜索已重新启用，我们将继续对任何传播此内容的企图保持警惕，一旦发现，我们将立刻删除。”

这并不是斯威夫特第一次成为AI深度造假的受害者，不久前，她的声音经过深度造假技术被合成在虚假广告中。在该广告中，斯威夫特的克隆声音对她的粉丝说，她“很高兴”能免费分发炊具套装。当受害者被引导至虚假网站后，会被要求支付9.96美元的运费，但号称免费送的厨具不会真的送出去。

深度造假是英文“Deep learning”（深度学习）和“Fake”（伪造）的混成词，指利用深度学习技术生成人造图像、音频或视频的技术。无论是克隆声音还是合成图片，深度造假都展现出强大的制造虚假内容的能力。

在斯威夫特AI露骨照片事件后，1月29日，微软公司宣布，对旗下AI图片生成产品Designer引入更多“护栏”，以避免在未经同意的情况下生成名人的露骨图片。

1月30日，著名经纪公司WME宣布与科技公司Vermillio建立合作伙伴关系，希望能够保护其客户的肖像免遭人工智能技术滥用。Vermillio创建了一个名为Trace ID的平台，可使用人工智能技术跟踪图像，来保护WME客户的肖像和知识产权免遭盗窃。该合作还将寻求利用技术手段让客户能够通过自己的肖像和形象获利。

普通女性如果成为深度造假受害者，该如何维权？

不仅公众人物会成为AI造假技术的受害者，普通女性也有类似经历。

据美国有线电视新闻网（CNN）2023年11月4日报道，一名14岁的新泽西州高中生表示，她和其他30多名女同学的照片被篡改并在网上分享，她呼吁联邦机构立法解决人工智能生成的露骨图片问题。

自2023年以来，中国也已发生多起AI深度造假诈骗案件和多起利用AI造黄谣事件，令人防不胜防。普通人如果遇到此类事件该如何维权？

上海大邦律师事务所高级合伙人游云庭建议，按照中国法律，如果有人散布此类照片，首先受害人可以按照名誉侵权和肖像侵权为由到法院起诉，其次如果照片较为露骨，受害人还可以举报发布者犯有传播淫秽物品罪或者侮辱罪，由公安机关进行侦查，对其进行刑事打击。公安机关可以依职权立案侦查，如涉嫌犯罪可将嫌疑人移送检察机关进行起诉。受害人也可以就侮辱罪进行刑事自诉。

游云庭称，社交媒体平台应该压实责任，及时对平台内的侵权内容进行清查，并屏蔽相关关键词，以阻断侵权内容的传播。此外，如果用国内接受法律监管的公司的人工智能技术进行生成，那提供技术的公司也应有审查的责任。

北京德和衡（上海）律师事务所的魏屹威律师认为，类似事件若发生在中国，受害人不妨按照以下步骤进行维权。首先，受害人要注意侵权证据的搜集和保全，可以使用生成“时间戳”的证据搜集工具对侵权事实加以固定，以防侵权人毁灭证据；其次，在完成取证之时，可以以发送律师函等方式函告发布AI生成物的企业及网站运营企业，要求其对相关的AI生成物采取下架、断开链接等措施，并要求其公开道歉、赔偿损失、消除对受害人的不利影响；再次，如果其拒不整改，可以在已有证据的基础上选择行政投诉举报、名誉权侵权诉讼，或至刑事控告等途径进一步维权。