Sora一键生成AI人的震撼还没褪去，网上的假人已经悄悄咪咪地大批出现了。

上个月，中国香港警方通报了一起香港史上最大的诈骗案，涉案金额高达2亿港币。受害人是一名跨国公司员工，他受邀参加一场线上会议，领导、同事、财务科科长都在。会议上，在“领导”的指挥下，他把2亿港元先后分15次转入了指定账户。

大公网

直到一周后，受害者才发现事情不对，整个线上会议中就他一个“真人”，其他人，全是用AI换脸的“假人”。

人工智能大模型浪潮席卷全球已经一年，很多行业被深刻地改变了，而AI数字人已经率先渗透进我们的生活。

低价、方便，一键生成

听起来离谱，但AI换脸和AI数字人确实是离我们最近的AI技术，甚至比ChatGPT还近。

不需要专业的设备，不需要复杂的操作，像剪映这样的视频制作软件，早已将数字人的门槛降到近乎为零，免费、简单、速度快。

从应用商店下载剪映之后，点击“开始创作”，随意从相册中选择一段视频或一张照片。之后，选择“新建文本”，在文本编辑选项中就可以看到AI数字人了。

剪映

目前，剪映提供了35款数字人，从邻家阿姨到拉丁美女，从爽朗校草到西装白男，各种不同的人种、年龄、声线、姿态随意选择。

数字人的口型会根据文案调整，讲话抑扬顿挫，头部和手部随讲解自然运动，如果不是左上角的“AI生成”水印，真的很难区分到底是专业主播还是数字人。

我自己也做了一个｜剪映

不妨大胆一点：用AI自动生成文案，之后用AI翻译成英文，最后再用外国AI数字人讲一遍，五分钟就做好了一个质量尚可的1080p广告大片。做视频根本不需要团队，文案、翻译、主播、剪辑，都可以是AI自己。

写得还挺像回事｜剪映

在商业赛道上，数字人的表现更是一骑绝尘。

京东早在2022年就上线了“言犀”数字人主播。这个数字人能阅读商品的介绍之后，自动生成卖点文案，并完成口播。它主打的是“闲时直播”，帮助店铺在深夜、清晨等时间段填补直播空白。

根据京东官方数据，2023年双11期间，超过4000家品牌的直播间用上了数字主播，闲时直播的转化率增长了 30%。

百度也推出了“慧播星”数字人方案，并打出了全栈口号，号称只需要三步，最快三分钟就能创建一个自己的数字人主播。此外还有腾讯智影、百度智能云曦灵平台、华为云盘古数字人等等产品可以选择。

就像你想的那样，骗子来了

从文案到视频都由AI生成，还真有人这么做了。

成本降低是数字人骗局能规模化的前提条件——当骗子自己一人五分钟就能做成一条质量尚可的视频，那些曾经归于真人出镜视频的可信度已经荡然无存了。

如果你经常刷短视频，时不时就能看到一些鸡汤营销号，“人生的八个真相”、“女人过了30岁要懂的七件事”，“如何做才能在五年后和同龄人拉开差距”，都是它们的热门话题。

最近，一些浓眉大眼的老外也加入了这个赛道。比如下面这个：

一个外国美女，站在镜头前面讲着英文，娓娓道来“低谷时牢记的七条原则”。什么“不要随意评价别人”“逢人只说三分话，不可全抛一片心”……

仔细一看，她讲的英语也是散装机翻英文。比如把“做人要有城府”翻译成“must have a city government”。

对不懂英文，也不常看科技新闻的用户来说，这类视频的迷惑性相当之大，他们很难分辨哪些内容是真人，哪些内容是AI。

微信视频号上有一支“GPT谈不生孩子如何养老”的视频广为流传，点赞转发都有上万条，评论区的叔叔阿姨们对AI的见地啧啧称奇。

但实际上，那个视频的原作者只是将一段网上流传很久的文案输入GPT，让GPT朗读出来而已。

一样的话从AI嘴里说出来似乎更有说服力了，流量就这么到手｜微信视频号

“老外数字人”也是一样。同样的文案，换成英文由老外来讲，似乎天然就自带了某种“外来和尚”式的正确性，更有利于传播。也有一些账号反其道行之，让数字人老外讲一口蹩脚的“洋味儿中文”。

去年十月，这类“假老外数字人账号”开始在短视频平台流行，有些账号仅仅发了三四十条视频就涨粉数十万，很多作品都有超过一万的点赞量。

至于他们变现的手段，最直接的就是卖货。比如某个育儿话题的账号，在粉丝增长之后，用老外的口吻介绍了各种育儿图书。不少家长都信以为真，还有人夸数字人“言语清晰，大方有力”。

各种肤色的“专家团队”｜微信视频号

把货买回去之后，才发现根本不是那回事儿。

微信视频号

是谁偷了我的脸？

看着这些生动活泼的假人，我不由好奇，AI数字人的脸是哪来的？

在《黑镜》第六季《Joan is Awful》一集里，大明星和流媒体签署了协议，之后的电视剧不用亲自参演，只要用AI把脸换到替身或者模型身上，钞票就不停滚滚来。至于流媒体用自己的脸演了些什么，明星毫不知情。

这张脸也可能是你｜Joan is Awful

《黑镜》还是想象力匮乏了，影片中的未来早已到来，而且用人的脸连钱都不给。

三月初，有媒体报道了乌克兰视频博主Olga Loiek的离奇遭遇：她原本只是一个YouTube上粉丝一万的小博主，她偶然发现，中国的很多网络平台上竟然出现了以自己的脸作为模板的AI数字人短视频。

这个数字人自称娜塔莎，31岁，住在俄罗斯。账号内容大都是以俄罗斯女性身份夸赞中国，并借机带货俄罗斯产品，粉丝数达到20多万。

2022年，一些短视频平台上出现过一个名为“俄罗斯娜娜”的账号，滤镜拉满把自己换脸成俄罗斯人，路线和“娜塔莎”如出一辙。粉丝数一度突破180多万，随后被平台封禁。但在那之前，她已经通过带货获利数十万元。

看起来都有点恐怖谷了｜俄罗斯娜娜

更麻烦的是，此类诈骗行为几乎是零风险的。受害者往往远在国外，无法直接追责。而它们带货的商品不是假冒伪劣产品，消费者也无法投诉。只有在被戳穿之后，由平台自行监督。但那时，骗子往往已经赚到盆满钵满，跑路开下一个号去了。

在过去，虽然也有相关特效软件可以实现人脸模仿，但所需的技术难度非一般人可为。而AI大模型，让这一操作的难度降到几乎为零。根据媒体报道，仿冒Loiek的运营团队使用的，是一款名为HeyGen的AI软件，月费只要几十美元，所需素材，不过是当事人的几段视频。

数字人诞生不到两年，已经搅浑了短视频和直播赛道，技术的进步和降价如此之快，连《黑镜》里预测的未来都显得落伍了，谁知道下一步AI会把我们带进怎样的世界里呢？我也不确定那是不是更好的世界。

作者：谷子，翻翻

编辑：翻翻

封面图来源：Netflix