今天,女性博主@Caro赖赖_发帖称自己被AI盗脸了,这背后好像已形成了一条完整的产业链。

以下为微博全文:


(相关资料图)

有人盗了我的脸大家好,我是赖赖。

大约在半年前,我的视频评论区突然涌来了很多人说看过我的“视频”。本着清者自清的原则,我没有对评论区的骚扰进行任何回应。原本以为事情就这样过去了,结果前几天朋友给我发来了一些截图和视频问我:“赖赖,这不是你吧?”

我疑惑地点开了视频,视频里的女生正做着一些难以描述的动作。我看着视频里那张跟我长得一模一样的脸,愤怒得说不出话来。我突然意识到可能我的脸被AI盗用了!我必须马上搞清楚视频跟照片到底是从哪里来的?究竟是谁在盗用我的脸?

首先,我发现在境外社交平台上有人冒充我注册了假账号。他们先是顶着“赖赖”的名义搬运我的日常内容,等到粉丝人数差不多的时候就以会员订阅的方式贩卖视频。为了吸引更多人的加入,新会员首月还是免费的。此后只需要花费21.6美元,就可以在未来的半年里源源不断地收到那些所谓的only fans的盗脸色情视频。

接着,我又去另一个社交网站搜索了一遍,发现了更多制作AI盗脸视频的账号!这些账号少则几百粉,多则几万粉丝。其中量级较大的账号一条新“作品”就可以获得1k点赞量。而这1k点赞量背后,我无法想象究竟有多少人在看过,又有多少人下载视频后在各个聊天群里传播。

随着我的深入了解,我发现“AI盗脸”背后好像已经形成了一条完整的产业链。产业链的这端是不法分子通过AI换脸技术赚钱。他们将明星、博主甚至素人的脸制作成假的色情照片与视频,明码标价地获取利益。我曾看到过一个网红名单,表里密密麻麻写满了我熟悉的名字。他们根据博主的粉丝量级进行分类,假视频价格在30-50元不等。但只要你花200元就可以进群,进群后不仅可以享受永久半价,甚至还能接“私人定制”。

所谓的私人定制,即提供“一键脱衣”的合成服务。只需要付费后给这些账号发送带人像生活照,他们就能通过AI合成的方式制成假的视频。那些收到视频的人除了满足自己龌龊的欲望外,还可以将这些非法内容在网上传播,上演一出造谣狂欢。

半年前的我发现这件事的时候,我安慰自己说“假的真不了”选择了忍气吞声,直到最近又遭遇类似的事情。我意识到我不能再沉默,不回应并不能让事情变好,只会让别人觉得你好欺负后然后变本加厉地霸凌你,更会让丑恶“隐形”!真正该反思的、该觉得羞耻的是那群不法分子。他们仅用几分钟的时间就可以把女性的脸和身体拆解拼接当作商品兜售。不管是为了满足自己的性幻想还是为了挣钱,我想说这本质上就是对女性的侮辱、是一次网络霸凌、是一场集体的性暴力!

事情发生之后,我试图去举报这些账号内容,结果发现在这些平台上涉黄并不违法。后来我想要通过法律途径进行维权,结果发现这些账号都是难以追踪的海外ip。而传到国内聊天群里的视频也已经过多次转手,难以找到找到源头。我看着这些像机器人一样的ID觉得很可怕,他们背后到底是谁?只要这种“私人定制”服务还在,只要有一张自拍或者一条露脸视频被传到互联网,任何女孩都有可能成为受害者。

当下造黄谣的成本已经低到难以想象,我作为一名博主,被造谣了我站出来发声还会有人听,如果是普通的女生被造谣了她们又能怎么办?近期类似事件频发,地铁女生被“一键脱衣”,利用AI模型生成女艺人虚假图片等等,我意识到我有必要站出来要让大家关注这件事情。如果有人看到这样的视频或图片,我也希望不要传播和攻击。

网络不是法外之地,希望不再有更多女孩成为受害者!

还有另一个博主称,就她身边人而言遇到这种事的就有两起,其中一起还是素人。

“共同点都是海外ip难以溯源,无法追踪。这完全是一个法律盲点,只要是在这个盲区范围内就能无法无天。请大家关注,我们不能和这种盲区共存。”

如果自己或身边女性遇到这类事情,该如何保护自己?

推荐内容