大选来临,Facebook宣布禁止Deepfake

关注 2020-01-08 09:29:00 查看数 13311 ,评论数 0 资讯


随着2020年美国总统大选即将临近,Facebook于本周一宣布禁止其平台上的伪造视频和照片(即Deepfake)。Facebook表示将开始删除“以普通人不易察觉并可能误导某人的方式”编辑过的内容,或由人工智能或机器学习算法创建的内容。


Deepfake是“deep learning”(深度学习)和“fake”(伪造)的混合词,即利用深度学习算法,实现音频和视频的模拟和伪造。Deepfake技术生成的伪造图像和音视频可以模仿目标的面部表情、动作和语音的音调、色调、重音和节奏,这些伪造的方式使得伪造的图像和音视频与真实的图像和音视频之间很难区分和检测。


Deepfake最早获得关注是在2017年,有一个Reddit用户利用Deepfake技术将色情视频中的女主角换成了名人的脸。由于其娱乐性,Deepfake被网民广泛传播。


诞生之初,Deepfake是一项有趣的图像处理技术,仅仅带来搞笑和娱乐视频,但殊不知,潘多拉魔盒就此被打开,催生出 黑产、恶搞政客“操纵”民意,Deepfake正逐步进化为一种新型“病毒”,人类伦理道德的“遮羞布”也被无情揭开。


去年,美国民主党议员南希·佩洛西的一段演讲视频在Facebook上疯传。视频中佩洛西的语速被降到了原版的75%左右,同时音调也被人为调高,阴阳怪气,宛如醉酒一般,产生了很恶劣的影响。但由于其被定义为恶搞视频,当时Facebook拒绝将之下架。


在佩洛西的Deepfake视频视频之后,包括Facebook和Twitter在内的其他平台遭受了民众抨击。2019年11月,Twitter开始制定自己的Deepfake政策,并要求用户提供有关该平台未来规则的反馈。到了2020年,Facebook表示将禁止发布由人工智能深度操纵的视频,这是该公司为打击平台上假信息而做出的一系列调整中的最新一步。


这项政策变更是在定于今天举行的众议院能源和商业部关于伪造媒体内容的听证会之前进行的,但是周一的禁令似乎也没有涵盖佩洛西的视频,因为该视频不符合该政策的标准,“只有通过AI生成的,且是虚构的才会被删除”。


所以业内人士认为,这项政策对于控制假信息视频的传播效果有限,因为绝大多数此类视频是以传统方式来编辑的:手动删除背景信息或调整语序。


在2016年的美国大选中,假新闻在Facebook平台上疯狂传播,导致Facebook受到广泛批评。Facebook的新政策也是为了安抚议员、学者和政治竞选团队。然而对于Facebook处理政治类内容的方式,他们仍然感到失望。一些民主党政治人物认为,Facebook新政策的力度远远不够。


即使Deepfake代表着人物图像合成技术的进步——但在监管和审查尚不够给力的阶段,大家面对的仍然是泥沙俱下。技术的发展,应该让我们看得更远、更清,结果却将大众与真相的距离越拉越远。所以在走上正轨前,我们与Deepfake之间,恐怕还要经历几轮博弈。

交流评论(0)
Loading...
点击 ,就能发表评论哦~如果您还没有账号,请 一个吧
css.php
正在加载中...