给色情视频换上明星脸 AI视频网上遭禁

141
娜塔莉·波特曼在视频中的面部是由计算机对数百张照片计算后生成的

社交媒体网站Reddit禁止了AI换脸色情视频——在未经允许的情况下,将色情电影角色的脸部修改为明星的面部。

随着人工智能技术的发展,用计算机生成明星脸部特征的视频片段变得容易得多。

网站Reddit已经成为分享和讨论此类视频最受欢迎的地方之一。

在推特、Gfycat等网站开始禁止这类视频后,Reddit面临的舆论压力越来越大。

然而,这可能会导致一些Reddit用户不安,因为在2017年关闭网站内两个另类右派论坛之后,外界已经担心该平台变得不那么“开放”。

明星换脸视频怎么来的?

在网站Reddit上,这类视频被称为Deepfakes。它使用人工智能软件来创建由计算机生成的人脸,然后与视频中本身的人脸进行替换。

视频所用的算法被认为是去年开发的。制作这样一个视频,需要有从不同角度拍摄的约500张人物脸部照片,以及一段视频,最终可生成效果较好的换脸视频。

。
多个换脸视频用女演员盖尔·加朵的面部特征进行替换

去年12月这种做法开始引起较广泛关注,一家新闻网站报道这种技术是如何被用来制作女演员盖尔·加朵的换脸影片。

但是1月网上流传一个名为FakeApp的软件,它使这一过程变得非常简单,只需按一个键就能实现。

并不是所有换脸视频都是色情的,其中很多都是关于美国总统特朗普的恶搞,一个用户则把自己妻子的脸放到好莱坞电影的场景中。

Reddit最新的政策禁止了换脸的视频和图片在该网站上的传播。这类视频在Reddit上的频道有超过91,000名用户,也是新政实施后第一个被删除的频道。

。
Reddit上的相关频道已被关闭

最近,Deepfakes群体里也有人担心,一些用户在使用这项技术来收集和替换16岁以下儿童的脸部特征,从而生成虐待儿童的影像。

Reddit表明了其在这类问题上的态度,“Reddit禁止任何涉及未成年人或看似未成年人的性内容。”

Reddit仍然允许发布由FakeApp软件创建的其他视频。

一些网友表达更深的忧虑——有用户声称他们在利用身边熟人或者社交网络上陌生人的照片制作这种换脸色情视频。这种视频制作技术门槛越来越低,普通人成为受害者的风险急剧上升。

BBC中文网

目前没有评论