您的位置:首页 > 智能设备

成长超过 330%,美英成重灾区!一文了解 Deepfake 2020 发展现状

发布时间:2021-01-12 13:33:00  来源:互联网     背景:



「Deepfake 兴起,让影片和音乐不再是记录历史的可靠证据!」近日一则电影片段在 YouTube 爆红,2 位主演分别是好莱坞顶级巨星席维斯·史特龙(Sylvester Stallone)和阿诺·史瓦辛格(Arnold Schwarzenegger)。

(Source:影片截图)

然而短片爆红的原因不是两位巨星,而是逼真的合成效果。这部名为《烂兄烂弟》的电影主演是另两位演员,短片创作者利用 Deepfake 将脸部替换成两位巨星。

短片中人脸自然、毫无痕迹的融合效果,让不少网友惊叹太恐怖。但更让人觉得恐怖的是短片背后,Deepfake 愈演愈烈的负面应用。自 2017 年,某 Reddit 用户首次用来伪造色情影片开始,Deepfake 造假逐渐渗透到政治、媒体等多领域,甚至还威胁到今年美国总统大选。

同时伪造品数量也逐年增长,特别是 2020 年再次创下历史新高,达 49,081 个。

那麽,快速增长的 Deepfake 有哪些特点,有哪些应对措施?

Deepfake 泛滥成灾,增长率逾 330%

近些年,电脑视觉技术开始飞速发展。尤其是 2014 年生成式对抗网络(GAN)提出,让图像和影片合成不断取得惊人效果。

2017 年,这项技术被不良分子用来伪造一支色情影片,自此人们称为「Deepfake」,后来 Deepfake 负面应用不断发酵,并逐渐涵盖图像、影片乃至音讯领域。

具体来说,Deepfake 主要是篡改和重新编辑人脸,包括表情修改,换脸、换嘴型、合成新脸 4 种模式。其中换脸和对嘴是 Deepfake 最主要的应用模式,破坏性和杀伤力也最强,如篡改政客演讲及伪造色情影片。

值得注意的是,造假者无需了解这些修改模式背后的技术原理,诸多开源软件已经可让人轻松制造假内容。如 DeepFaceLab 之类工具,任何人都可拍一张图片或影片,就替换或操纵人脸。

技术的普及和便捷性,让造假品数量成等比级数增长。根据安全分析公司 Sensity 最新结果显示:

自 2018 年 12 月以来,Deepfake 网络造假品数量约每 6 个月翻一倍。

2019 年 7 月 Deepfake 总数达 14,678 个,相比于 2018 年 12 月 7,964 部造假影片增加近 100%。截至今年 6 月,造假影片多达 49,081 支,比 2019 年 7 月增长 330% 以上。

色情影片占比最高,美英成重灾区

2019 年,14,678 个公开的 Deepfakes 作品,假色情影片就占 96%。

据 Sensity 调查分析显示,Deepfake 制作色情作品的目标对象超过 95% 来自影视娱乐业,只剩下一小部分来自商业、新闻媒体及政治领域。

今年影视娱乐仍是涵盖最广的行业,占 62.7%,加上时尚类别(21.7%)和运动类别(4.4%),总计占所有目标 88.9%。

其中娱乐行业 62.7% 占比,来自 Instagram、Twitch 及 YouTube 等社群媒体的目标数量显着增加。同时商业(4.1%)和政治(4%)背景的目标也有增加。

值得注意的是,上述 4% 政治背景的目标对象,主要集中于知名政客,如特朗普、欧巴马等。在资讯时代,利用这些政客身分伪造虚假政治言论,可能会造成灾难性成果。

尤其随着技术提升,伪造品越来越难以用肉眼分辨。去年,一名马来西亚政治家就因涉嫌从事同性恋活动的影片被判入狱(马来西亚同性恋是非法的),但后来证实影片是 Deepfake 伪造。

另外,比利时政治团体也曾利用 Deepfake 伪造一段特朗普关于巴黎气候协定的演讲影片,当时造成不小轰动。

总体来看,大部分有关政客的假作品多以讽刺为目的。

另外,这些虚假作品有明显的地区分别特点。从 Sensity 的统计结果来看,政客伪造品主要集中西方国家,尤其美国和英国;同时南韩和印度今年也成为主要目标。

美国和英国整体占据 61%,超过一半。南韩(9.6%)、印度(5.0)和日本(4.0)也构成很大一部分。总体来看,说明亚洲的政治造假活动持续增长。

反 Deepfake 技术有哪些?

Deepfake 的危害无需再多说。为了应对日益泛滥的伪造品,学、政界和各大企业也在联合发力,研发反 Deepfake 技术。

值得一提的是,Kaggle 和 Facebook 已经举办了多场 Deepfake 探测器研发竞赛,并收集大量用于训练的数据集。

Deepfake 检测器主要透过对大量图像和影片进行训练,从中查找不同的 Deepfake 标识符来监别内容真伪。目前最先进的监测手段,分为以下几种:

  • 人脸 X 射线( Face X-ray)检测:它是一种将假脸重新混入目标图像或影片,以从中寻找边界的方法。经过 FaceForensics 数据集上测试,精准度可达 99% 以上。
  • 背景差异检测:该方法透过将人脸区域与背景区域进行对比,从中寻找微小差异以辨别真假。
  • 情绪辨识网络(Emotion Recognition Network):该方法透过检测脸部情绪是否与场景上下文或音讯内容相匹配,来确定影片是真是伪。
  • 生物学信号:透过检测影片目标的心跳并分析该信号的残差确定真假,该方法的准确率已达到 97.29%,同时还可以检测背后所用的 Deepfake 模型。

以上大多数这些 Deepfake 检测方法都没有可用的开源程式码,不过,目前也有一些商业上可用的 API,例如 Sensity、Deepware,以及微软的 Video Authenticator。

此外,要说明的是,虽然人脸 X 射线检测法精准度已经达到 99%,但它仅限于 FaceForensics 数据集,对于「Wild」数据集可能并不适用,很多其他检测工具也是如此。

一位研究人员证实说,他上述某款模型用于《Step Brothers》和特朗普伪造影片检测,结果并不能证伪。尽管特朗普的伪造影片有明显的缺陷(嘴边周围有合成痕迹)。

因此,在特定 Deepfake 检测数据集上表现良好的模型,在现实世界中也不一定达到理想效果。

但庆幸的是,高品质的 Deepfake 造假品仍需要人工干预来完善输出,这会极大地减慢传播速度,并为改进 Deepfake 检测模型提供时间。

  • The State of Deepfakes in 2020
  • Deepfake Threat Intelligence: a statistics snapshot from June 2020
  • Spectacular The Irishman deepfake blows away the original

(本文由 雷锋网 授权转载;首图来源:世通科技资讯)


返回网站首页

本文评论
抢工业物联网商机,研华扩大布局四大应用领域
随着中国新基建、十四五计画纷纷启动,带动工业物联网商机,也驱动创新投资热潮。对此,研华科技工业物联网事业群总经理蔡淑妍表示,后疫情时...
日期:01-11
“能听会说”畅行全球 讯飞翻译机让沟通无国界
随着“十一”小长假的临近,出境游再次成为网友们茶余饭后的热门话题。如今,网友们向往......
日期:09-30
10月17日见?一加6T外形渲染图曝光:水滴全面屏
按照之前曝光的邀请函来看,一加极有可能在10月17日于印度发布他们的新机One Plus 6,你最期待它哪......
日期:09-27
新版OPPO Find X安兔兔跑分曝光 国产首款10GB手机!
日前,新版OPPO Find X通过工信部入网许可,其型号为PAFM00,该机配备了10GB内存+256GB存储,这是首......
日期:09-28
特立独行:华为公布Mate 20海报 10月16日见
(原标题:华为Mate 20海报出炉:前卫独特时尚自我) 华为Mate 20系列手机将于10月16日在英国伦敦发布,华为高级副总裁余承...
日期:09-28
不忘初心,砥砺前行,《中国新声代5》携手智伴儿童机器人为梦发声!
转眼间,作为2018年夏天最受瞩目的少儿节目之一《中国新声代5》已开播一个多月。9月22日,《中国新......
日期:09-26
小米两款重磅新机曝光:配备小爱同学物理按键
在不久前,小米官方透露了一款滑盖设计的全面屏新机,并放出了一张这款机器的图片。同时有消息称,......
日期:09-29
可怕!打过「马赛克」的图竟能以 AI 还原
美国时间 12 月 10 日晚上,GitHub 某 AI 项目冲上热门榜,截至目前获得 8.4k 颗星。此 AI 项目的主要功能就是...
日期:01-09
AI 影像去背有多强?无需「绿幕」,也可达专业级效果
最近某热门 AI 计画引起网友注目,因听说它能带你环游世界,还能让 AngelaBaby 多拍几部电视剧。深入了解后,发现原来是一款...
日期:01-11
《了不起的孩子》4岁萌娃拥有“最强大脑”,智伴儿童机器人陪娃挑战颜色墙
江苏卫视最新一期《了不起的孩子》携手智伴儿童机器人于9月23日晚21:20又双叒叕来啦。...
日期:09-26
更高屏占比:三星三摄新机将推国行版 并非P系列
(原标题:三星首款三摄新机A7将推国行版 正面有改动提升屏占比)...
日期:09-28
华为新款智能手表现身FCC,或为华为Watch 3
近日,一款型号为FTN-B19的华为智能手表出现在FCC列表。在此之前,有爆料显示华为正在研发两款名为H......
日期:09-28
5G 其实只是雏形?通讯专家眼中的 6G 网络到底是什麽
IEEE 全球通讯大会今年在台北召开,虽然由于疫情影响,国外学者无法到场,但仍透过远距视讯来共同探讨未来通讯的趋势,甚至对于 6G...
日期:01-09
Google 遭指内容审查论文,不得负面描述 AI 技术
大型科技企业都会有内部科学研究,科学家虽然获得公司预算做研究,但也有相当的学术自由。最近有消息指,Google 审查研究报告时,要求...
日期:01-09
官方已确认!联想可折叠手机曝光:屏幕可弯曲 10月正式亮相
最近几年,各大手机厂商都纷纷在储备折叠手机的专利。现在,现有的手机形态已经基本走到了尽头,全......
日期:09-27
直降300元还送200元礼包 360手机N7 Pro国庆超值优惠
距离2018年10月1日的国庆节没几天了,不少朋友们有些心浮气躁的工作不下去了,为这个小长假如何度过......
日期:09-29
小米小爱智能闹钟开卖:风格简约素雅 支持贪睡提醒 还有白噪音助眠
(原标题:149元 小米小爱智能闹钟开卖:白噪音助眠) 9月28日上午10点,小米小爱智能闹钟正式开卖,可设置30个闹钟,...
日期:09-28
马斯克又被玩坏了,这个「变脸」AI 比 StyleGAN 还溜
给人像「P」上浓密的胡须,需要多久?这个 AI 只需要一秒,而且效果逼真,看不出一点破绽。最近,一则马斯克的恶搞影片在 YouTub...
日期:01-16
开创 AI 智能科技新局,激出跨界商机
2020 年 12 月 18 日于元智大学有庠厅举行「2020 智能制造与智能金融论坛」,邀请到哈佛大学兼台湾人工智能学校校长孔祥重...
日期:01-08
可直接“掰弯”?联想确发可折叠手机 采用柔性屏
(原标题:官方已确认!联想可折叠手机曝光:屏幕可弯曲,10月正式亮相)...
日期:09-27