Put her in a bikini.

作者 I 薛星星

编辑 I 蒋浇

封面 I Gemini 生成

几天前，伊隆·马斯克在自己的 X 账号上转发了一条给吐司机穿上比基尼的帖子。他说，“不知道为什么，但我就是忍不住为这件事笑个不停。”

马斯克转发给吐司机穿上比基尼的照片

吐司机身着比基尼的照片是过去半个多月来 Grok 及 X 平台深陷色情争议的缩影。Grok 早在去年年中就推出了 AI 图像生成及编辑功能，也曾因更激进大胆的 Spicy（火辣）模式屡上报端。在 Spicy 模式下，Grok 限制更少，允许生成成人内容。

但那时这一模式尚未像如今引发巨大争议。去年底，X 平台逐渐将这一功能引入平台内的 Grok 机器人后，大量 X 用户开始评论区中随意艾特 Grok 来生成带有性暗示或色情意味的合成图片，并在短时间内迅速演变成一场波及全球的 AI 色情暴力风波。

就像马斯克转发的那条帖子写道，“Grok 能给任何东西穿上比基尼。”政客、明星、富豪（包括马斯克自己）乃至更多只是分享个人照片的普通人，只要照片一旦发布在 X 上，总有人在评论区中艾特 Grok，令其将照片人物修改成身着比基尼或其他带有性暗示的裸露照片，也就是所谓的“AI 脱衣”。

绝大部分受害者都是女性，甚至包括部分未成年人。“Put her in a bikini”已经成为 X 平台上最热门的风潮。起初，评论区中部分用户提出的修改，尚且局限在给女性穿上比基尼等简单需求上。但紧接着要求愈发大胆且极端，仅仅是要求 Grok 给女性穿上比基尼还不够，还要更小、更透明乃至露出私处、摆出性暗示姿势等。

截至 1 月 14 日，包括英国、法国、意大利、印度、巴西、澳大利亚及欧盟等国家及地区的监管机构都已对 Grok 发出警告或展开调查，印尼及马来西亚已先后宣布暂时封禁 Grok。

多国监管机构普遍认为，马斯克纵容 AI 工具随意生成未经他人同意的性暗示乃至儿童色情图像。“未经同意的、性化的深度伪造行为严重侵犯了公民在数字空间中的人权、尊严和安全。”印尼监管机构负责人表示。

马斯克似乎对此不屑一顾。除了转发吐司机身着比基尼的照片外，他甚至也加入风潮，要求 Grok 给自己穿上比基尼。“Perfect. ”他说。针对媒体们的问询，xAI 均以自动邮件回复称，“Legacy Media Lies（传统媒体的谎言）。”

Put her in a bikini

很难搞清楚 X 平台上的这股“Put her in a bikini”的风潮到底是何时兴起的，但媒体们开始普遍关注此事集中在新年前后，也就是圣诞及元旦假期期间。

英国《卫报》统计称，12 月中旬，X 平台上 Grok 收到的比基尼修改需求平均每天大概只有 10 到 20 个，但月底飙升至超 4 万个。《卫报》引述数字情报公司 Peryton Intelligence 分析称，相关趋势在新年期间蔓延至全球，1 月 2 日 Grok 共收到近 20 万个独立请求。

在新年前后，X 几乎已成为全球最大的 Deepfake 网站。彭博社引述社交媒体与深度伪造研究专家吉纳维芙·吴（Genevieve Oh）的说法称，1 月 5 日至 6 日的 24 小时中，X 上的 Grok 平均每小时会生成约 6700 张性暗示图片。

吉纳维芙·吴统计了同期市场排名前五的 Deepfake 类网站，称这些网站平均每小时生成的 AI 脱衣图片不过 79 张。也就是说，X 平台上的 Grok 每小时发布的性暗示图片是其他网站约 84 倍。

许多女性都深受其害。她们往往只是在 X 平台上分享了一张个人照片，就被人用 Grok 生成比基尼或者其他性暗示图片大肆传播。而一旦她们公开发表不满，随即就会引发更多报复。一些用户会变本加厉地要求 Grok 将照片修改成更色情、更裸露的图片。

比如美国网红、与马斯克育有一子的阿什莉·圣克莱尔（Ashley St.Clair）公开反对相关行为后，就有人开始用她幼年图片生成比基尼照片。前段时间，一名女性在美国明尼苏达州被移民及海关执法局枪杀，枪击现场照片在 X 平台传播后，甚至有人利用 Grok 生成遇害者身着比基尼的照片。

网络观察基金会对外表示，他们在一个暗网论坛上发现了未成年人的色情化图片，上传者声称这些图片都是用 Grok 制作的。网络观察基金会是一个专注于打击儿童色情类内容的非盈利组织，该组织负责人对外表示，像 Grok 这样的工具现在有可能将儿童 AI 色情图像带入主流。

欧洲非盈利组织 AI Forensics 分析了 Grok 生成的 2 万多张图片以及 12 月 25 日至 1 月 1 日期间的近 5 万个用户请求，指出 Grok 生成的人物图像中，超过一半的人物身着暴露，其中 81% 的图像为女性，且有 2% 的图像人物似乎未满 18 岁。

元旦假期之后，多个国家监管部门开始着手对 Grok 及 X 平台上的 AI 色情泛滥展开调查。欧盟委员会公开表示不满且谴责 X 平台，欧盟数字事务发言人托马斯·雷尼耶（Thomas Regnier）称，Grok 的 Spicy 模式根本不是什么刺激，而是违法且令人作呕的。

包括英国、法国、印度、巴西、澳大利亚等多国监管机构开始对 Grok 及 X 平台展开调查或计划采取相关限制措施，印尼及马来西亚分别于 1 月 10 日及 11 日暂时封禁 Grok。美国亦有部分参议员呼吁苹果及谷歌将 X 与 Grok 应用从应用商店下架。

马来西亚宣布封禁 Grok

仅供付费用户使用

马斯克最早对平台上的“Put her in a bikini”风潮不以为然，甚至主动玩梗。

除了转发吐司机及他自己身着比基尼的照片外，他也转发过微软创始人比尔·盖茨、英国首相基尔·斯塔默等名人身着比基尼的照片。一位 X 用户发帖吐槽说，自己的时间线仿佛变成了充斥着比基尼女郎的酒吧，马斯克用一个笑哭的表情回应。

但随着事态发展愈发严重，马斯克也不得不收起调侃口吻，开始正面回应平台争议。但他似乎并不认为平台应当承担责任，他对外强调，“任何使用 Grok 制作非法内容的人，都将面临与上传非法内容相同的后果。”

马斯克及 X 的对外回复

紧接着，X 也公开对外表示，他们将针对平台上的非法内容如儿童性虐待采取行动，包括删除相关内容、永久封禁账号及与当地政府和执法部门合作等，试图对外表明平台态度。此后，X 限制了平台内 Grok 的使用范围，只有付费订阅用户才可以在 X 中使用 Grok 的图像生成和编辑功能。

但这些回应和限制措施并未平息争议。批评者认为，马斯克试图将责任归咎于使用 Grok 制作“AI 脱衣”图像的用户，却回避了平台应承担的审核与治理责任。

X 此后将图像生成功能限制为仅向付费用户开放，更进一步引发外界质疑，好似这些功能更能刺激平台拉高订阅收入。此外，Grok 的图像生成功能虽不在 X 平台免费开放，但在 Grok 应用内仍可免费使用。

面对多国监管机构的批评和调查举措，马斯克的反应更为激烈，不止一次地批评其他国家对 Grok 和 X 的限制是在打压言论自由。尤其在英国首相斯塔默等人谴责 Grok 并要求 Ofcom 采取行动后，马斯克甚至直接称呼英国政府为“法西斯”，怒骂英国是“监狱岛”。

马斯克转发英国首相斯塔默身着比基尼照片，并称对方打压言论自由

他举出的佐证之一是 Gemini 及 ChatGPT 等 AI 应用也均能将人物图片修改为身着比基尼的照片，但只有 Grok 和 X 陷入争议，称“他们想方设法地寻找审查制度的借口。”

马斯克转发 Gemini 及 ChatGPT 均能生成身着比基尼照片

过去一周，除了转发各类支持者们的言论外，马斯克做的最多的就是不遗余力地对外转发 Grok 在多国应用商店下载榜登顶的帖子，“Grok 正在越来越多的国家排名第一。”

马斯克或许忽略了 Grok 与 Gemini 或者 ChatGPT 的不同。Grok 直接内置在 X 平台中—— X 至今仍然是全球最大的社交媒体之一，每天有数以万计的用户在 X 上分享照片，用户无需跳转就可以直接在评论区中利用 Grok 来生成图像，传播力度和便捷程度都要比后两者大得多，更遑论 Gemini 或 ChatGPT 在隐私保护和色情内容限制上都要比 Grok 更加严苛。

Grok 在色情内容上争议性似乎也是由马斯克一手造成的。他治下的 Grok 最早就是以毒舌、大胆著称，马斯克自己也不止一次地对外反对 AI 的政治正确。在此次的色情争议之前，Grok 也曾因反犹及法西斯言论引起争议。

CNN 此前报道称，在 X 平台上 “Put her in a bikini”大肆泛滥前几周，马斯克在一次 xAI 的内部会议上对团队表达不满，要求放松对 Grok 图像生成的内容限制。此后，三位 xAI 安全团队的核心人员辞职离开，包括产品安全主管和法务主管。

The Information 去年 11 月报道称，X 裁掉了半数负责信任和安全问题的工程团队员工。The Information 还报道称，X 员工担心 Grok 的图像生成功能“可能导致非法或其他有害图像的传播”。

AI 的责任与边界

此次 X 及 Grok 深陷的色情内容争议，或许可以被宽泛地归类于 DeepFake（深度伪造）类色情内容在 AI 时代下的大范围复苏。

在生成式 AI 崛起之前，DeepFake 类色情内容已经在社交网络和色情网站上大规模出现，典型形式是把女明星的脸嫁接到色情视频演员身上。

2019 年，一款名为 DeepNude 的 AI 工具进一步将这类技术简化为“一键 AI 脱衣”，用户上传女性照片就能生成裸体版本。但发布不久，DeepNude 就因巨大争议而不得不下线暂停运行。

此后，类似的 DeepFake 应用仍在部分黑灰产网站或 Telegram 群组中流传，但很少走进大众视野，也几乎无法触达类似于 Grok 在 X 平台中的造成的深伪色情泛滥程度。

某种程度上，AI 的技术进步或许进一步加剧了 DeepFake 色情内容的泛滥，甚至部分 AI 公司在模型训练时也会利用大量成人视频或色情小说数据，导致 AI 模型本身也会更容易生成色情化内容，比如 Meta 就因爬虫色情网站视频而遭到起诉。

AI 公司们或许也很难抵御色情内容带来的巨大流量和商业价值。姑且不提马斯克执著地要为 Grok 加入 Spicy 模式，将成人内容作为 Grok 的标签之一。此前一直对色情避而远之的 OpenAI 创始人萨姆·奥尔特曼，也曾对外松口要为成人用户开放情色内容。但截至目前，相关功能尚未真正上线。

曾在 2020 年至 2024 年间担任 OpenAI 产品安全主管的史蒂文·阿德勒（Steven Adler）公开反对奥尔特曼开放情色内容。在他看来，OpenAI 开放情色内容的做法是将利润与竞争放在安全之上。微软人工智能业务 CEO 穆斯塔法·苏莱曼（Mustafa Suleyman）也反对 AI 色情内容，称微软绝不会提供此类服务。

当前的主流 AI 应用均对色情内容做出了相关限制，比如谷歌禁止生成儿童性虐待或性剥削内容，也不得利用 AI 生成露骨色情内容。但在大公司之外，仍有大量初创团队主动介入 AI 色情领域。Meta 此前曾因违规投放广告而起诉一家总部位于香港的成人 AI 公司 CrushAI，该平台主打提供无过滤的成人 AI 聊天。

去年 9 月，“国内 AI 服务涉黄第一案”一审宣判，上海市徐汇区人民法院一审判决，两名被告人犯制作淫秽物品牟利罪，分别获刑四年、一年半。两名被告人不服判决，已提出上诉。

对于马斯克来说，这类 AI 色情内容或许正是提高 Grok 用户活跃度的有效手段。自去年年中 Grok 推出 Spicy 模式以来，Grok 下载量与付费用户数不断走高。

根据 Appfigures 的统计，Grok 的去年第三季度的移动端收入已达到 1850 万美元，较第一季度增长 400%，增长幅度遥遥领先一众 AI 应用。Appfigures 称图像生成功能助推显著。

过去半个月来 Grok 及 X 虽然屡陷争议，但相关下载量同样飙涨。据追踪移动应用趋势的 Apptopia 数据显示，自 1 月 2 日以来，Grok 的每日下载量增长了 54%，而 X 的每日下载量在三日内增长了 25%。

过去一周来，Grok 已先后登顶法国、英国、日本、芬兰、新西兰、泰国等地 App Store 总榜第一。Grok 在 Google Trends 的搜索热度也创下过去半年来新高。