请选择 进入手机版 | 继续访问电脑版
手机版
 找回密码
 立即注册

技经观察|深度伪造技术的风险及治理

来源: zhoujingli 2020-2-24 21:54:34 显示全部楼层 |阅读模式
215546x79c9prfkdzd9pkg.jpg 215546rv3tisr0bdiag3tm.jpg


近两年来,人工智能自动天生内容的程度明显进步,深度伪造(Deepfake)技能即为一类典范技能,用于模拟、伪造人类举动特性,天生图片、视频、音频等。在娱乐应用以外,深度伪造技能所潜藏的风险不容小觑。


近两年来,随着以呆板学习为代表的人工智能技能的发展,人工智能自动天生内容的程度取得了明显的进步,深度伪造(Deepfake)技能即为一类典范技能,用于模拟、伪造人类举动特性,天生图片、视频、音频等。此中,AI换脸为深度伪造技能的典范代表。


借助AI换脸技能,可对照片和视频中的人脸举行更换,而保持原有视频中人物的动作、模样形状与心情。深度伪造技能的广泛传播,则得益于互联网的便利。只管视频换脸技能早已为在影视制作中得以运用,但深度伪造技能概念的鼓劈头于美国Reddit论坛中2017年出现的一个名为“deepfakes”的账号。2019年,ZAO软件风靡国内交际媒体,用户将个人照片录入体系后,即可将自己的面部与影视剧中的明星更换,“出演”影视片断。开源换脸框架和软件的广泛传播,使得深度伪造的运用门槛不停低沉,非专业用户也可轻松依附一张照片天生伪造视频。在娱乐应用以外,深度伪造技能所潜藏的风险不容小觑。


215546t2hhufcdffzwsb9c.jpg

一、深度伪造技能的原理



深度伪造技能的鼓起紧张归功于天生对抗网络(GAN)的出现和发展。GAN 算法上同时搭载着两个神经网络:天生器与辨认器。天生器可基于一个数据库自动天生模拟该数据库中数据的样本;而辨认器则可评估天生器天生数据的真伪。两者在相互博弈学习中产生大规模和高准确度的输出。研究职员使用大量人脸图像训练GAN网络,使其把握人脸图像中眼睛、鼻子、嘴巴及心情等特性。在新输入图像与视频后,GAN框架会对会对人脸特性举行捕捉,并完成面部图像的更换与利用。使用盘算机对视频中的多个单帧举行批量处置处罚即可天生深度伪造视频。


215547ve44rz6c454zo4or.jpg



当前深度伪造技能的应用方式紧张有四种范例:第一种是借助软件更换面部,也是如今为止用得最多的,比方已被我国禁用的换脸软件“ZAO”;第二种是利用人脸动作,重塑心情、口型和速率,让其发表非其真实意图的言论,如美国网民就使用深度伪造技能制作Facebook公司CEO扎克伯格的视频,已在网络上广泛传播;第三种是借助深度学习技能,创建在实际生存中并不存在的面部图像,如在职场交际平台领英(LinkedIn)中被称为“数字特工”的凯蒂·琼斯(Katie Jones),就是使用人工智能技能合成的捏造形象,被用于网络政府官员信息;第四种是将面部心情与声音联合,借助深度学习,创建声音模子,如2019年8月,犯罪分子创建德国某能源公司总裁的声音模子,乐成骗取该公司英国分部22万欧元。


早期,盘算机必要借助同一面貌的多张差别角度照片才华完成人脸的更换,且更换精确度有限、更换陈迹较为显着。随着技能的不停进步,深度伪造技能仅凭一张面貌照片即可举行更换利用,并能自动调治换脸后的对比度、亮度、颜色和更换边沿的差异,而不让人眼轻松发现。至此,深度伪造检测技能进入发展新阶段。


215547jh1wqcq4ra8jrq8q.jpg

二、深度伪造技能存在的风险



深度伪造技能一旦被滥用,其将对个人、社会和国家构成极大风险。相干风险按条理梳理如下:


1.个体肖像权、光荣与隐私权侵害

如有非法者使用深度伪造技能制作虚伪色情视频和虚伪言论视频,则有大概被用作诬陷、诽谤和“色谍抨击”的本事,将对个人肖像权、光荣权和隐私权造成严峻危害。


2.企业信誉及经济的丧失


深度伪造技能的不当使用,同样会对企业的筹谋活动造成不可估量的负面影响。若非法者使用深度伪造技能制作企业负责人的公开发言视频,窜改心情及发言内容,散播虚伪信息,将使社会公众发生错误熟悉,直接影响公司的信誉及经济长处。2019年6月,有网民使用深度伪造技能制作Facebook公司CEO扎克伯格发演出讲的视频。该视频在网络上广泛传播,即证明这种担心并非空穴来风。


215547zrn3ep1pp206baa2.jpg


3.消息媒体行业的社会信托阑珊


深度伪造技能同样大概被用于窜改消息报道中的图像和视频。若社会公众对记者和媒体持有不尽信托的态度,伪造视频更会加剧公众的不信托。深度伪造技能的存在证明眼见耳闻并不可靠,很大概会对消息媒体的公信力造成打击。


4.国家安全、公共安全受到威胁


差别于笔墨和图片,深度伪造技能制作的视频可以让虚伪的信息以“高度可信”的方式出现给社会公众,从而利用观众的感情反应,引发社会广泛的不信托。因而该技能很大概被敌对权势使用,作为诋毁国家机构、煽惑可怕和暴力活动、挑拨国家内部抵牾的工具。比方,美国政府官员就指出深度伪造技能对美国2020大选的匿伏威胁——若放任伪造视频扩散,则会对美国总统推举产生不良影响,挫伤选民的积极性。


从短期看,深度伪造还大概会对公共安全产生肯定影响。非法者大概使用虚伪视频煽惑暴力辩说,造成恶性结果。别的,深度伪造技能还大概成为造谣者摆脱质疑的工具。在深度伪造广泛运用的环境下,人们将不再容易信托自己亲眼所见,撒谎者恰好可以使用大众的这一生理散布大话。对于倒霉于自己的信息,只管其没有颠末任何加工,任何人都可以宣称是伪造的,从而到达肴杂公众视听的目标,为社会治安的管理增长难度。


215547w9ok63jadefabzde.jpg

三、深度伪造技能管理



面对深度伪造技能存在的风险,各国分别推出深度伪造检测本事并出台相干政策举行防范、核查和管理。


(一)深度伪造检测技能

美国国防部高级研究筹划局于2018年8月设立“媒体鉴证”项目,以寻求深度伪造辨认工具,并终极推出一款精确率高达99%的辨认工具;2019年9月,为引发业界对于深度伪造检测的创造,亚马逊AWS云服务部分、Facebook、微软、人工智能媒体诚信引导委员会团结发起深度伪造辨认寻衅赛,悬赏1000万美元寻求最高效的深度伪造辨认工具,以应对深度伪造视频大概对2020年美国大选所造成的影响,英国牛津大学、美国麻省理工学院、加州大学伯克利分校等高校亦到场此中。


对于伪造图像的检测紧张以边沿检测为主。盘算机对图像举行网格分别与瑕疵辨认后,可辨认出不符合通例的边沿特性,从而判定出图像是否颠末修改。


对伪造视频的检测方法可以分为两类:一是基于帧间时间特性的方法(Temporal features across frames),使用视频内人眨眼频率、嘴型等时间相干的特性举行判定,通常使用递归分类方法;二是基于帧内视觉结果的方法(Visual artifacts within frame),使用图像边沿的瑕疵以及五官位置、面部阴影等不自然的细节举行判定,通常提取特定特性后用深层或浅层的分类器完成检测。

215547ibobptbwcfco5t5t.jpg



别的,亦有研究职员提出使用可追溯、不可窜改的区块链技能对深度伪造视频举行追溯。2019年3月,阿拉伯团结酋长国哈利法大学电气与盘算机工程系研究职员发表名为《使用区块链和智能合约打击深度伪造视频》(Combating Deepfake Videos Using Blockchain and Smart Contracts)的论文,提出使用区块链的办理方案和通用框架,以追踪数字内容的泉源和汗青,纵然数字内容被多次复制也可对其举行溯源。该论文提供的办理方案框架具有普适性,亦可应用于任何其他情势的数字内容。


具体结果方面:2017年8月,新加坡信息通讯研究所网络安全小组发表名为《自动人脸互换及其检测》(Automated face swapping and its detection)的论文,第一次提出AI换脸检测框架,检测精确率到达92%。今后,业界对于人工智能换脸技能及检测技能的研究进入白热化阶段,企业、高校及个人开辟者纷纷投入对人工智能换脸检测工具的开辟。


2019年6月,美国加州大学伯克利分校和南加州大学研究职员通过已有的非伪造视频,网络视频中个人的特性,构建高度个人化的“软生物辨认指标”体系。辨认体系在把握个人的微心情和举动风俗后,鉴伪精确率可到达95%。美国Adobe公司也于2019年6月推出反向PS(Photoshop,环球使用最广泛的修图软件,此处意为“编辑图片”)工具。依托于AI算法,该工具可自动辨认出人像图片中颠末图像液化工具修改的部分,并将其还原成初始样貌,精确率高达99%。


为资助研究职员开辟深度伪造自动检测工具,谷歌公司于2019年9月公开辟布深度伪造视频辨认数据集,此中包罗3000多段视频,由多位真人演员在28个差别场景下拍摄。环球研究职员都可使用该完全开源的数据集对深度伪造检测工具举行训练。


215547ytfsqxx3jsq4qv3z.jpg


随着越来越多的深度伪造检测框架与训练数据集在网络上开源,国内对于深度伪造视频辨认的研究结果也徐徐显现。


清华大学人工智能研究院旗下初创企业RealAI于2019年12月发布深度伪造换脸检测工具,可在1秒钟时间内对凌驾10人同框的图像与视频举行深度伪造辨认,辨认率可到达99%。2020年1月,北京大学与微软亚洲研究院团结推出深度伪造辨认工具“Face X-Ray”,该工具不依靠于与特定图像修改技能相干的深度伪造知识,而且其算法可以在不天生假图像的环境下举行训练。研究结果表明,Face X-Ray能有用地辨认出未被发现的假图像,并能可靠地猜测图像混淆地区。


(二)深度伪造相干法规政策与步调


各国已经意识到深度伪造技能大概带来的匿伏风险,因此也开始在政策和立法层面举行积极应对。中国、美国、德国等国均出台相干法律法规,对深度伪造技能举行管控。相干的法律法规条款均对深度伪造内容的性子、责任主体、处罚尺度等方面举行规范,意在对个人权利和国家安全的掩护。此中,美国由于大选相近,相干立法更多留意于对2020年总统大选的掩护。(各国涉深度伪造的立法环境可参照《技经观察 | 各国涉Deepfake等人工智能造假技能立法概况》一文。)


为规避深度伪造视频大概带来的不良影响,交际媒体平台也纷纷出台管控步调。推特公司表现,将为全部深度伪造视频贴上显着的标签,以提示欣赏者;Facebook公司则表现将在2020年美国大选前删除模拟、讽刺内容以外的深度伪造视频,以限定错误信息的传播。


215547jwov9oozi9wo18ao.jpg

四、总结



一方面,深度伪造技能为文化和娱乐创造了更多大概,该技能有望能让汗青人物变得活机动现,也能资助创造更好的视频结果,使得演员的出演安排更加机动,以上是深度伪造技能对于娱乐、教诲等范畴的有益影响。而另一方面,若深度伪造技能被不当使用,用于制作有害的虚伪视频,则会对国家政治安全造成严峻影响、对个人和企业的合法权益形成威胁。

当下,深度伪造技能与检测技能正处于复杂且不分伯仲的博弈中,“猫和老鼠”的斗争仍将连续。视频发布平台大概存在的稽核疏漏以及舆论的阻力会给深度伪造视频的羁系带来倒霉影响,且由于互联网使用本钱低、网络作案具备肯定的潜伏性,深度伪造技能管理将会是一个恒久的斗争过程。怎样规范深度伪造技能的使用,除了法律规范的严格限定,也必要科研职员连续开辟“打假”工具,并联合有针对性的人工检察,形成完满可靠的管理体系。


作者唐乾琛



215547bug6avjqv83rkbva.jpg


研究所简介


国际技能经济研究所(IITE)建立于1985年11月,是从属于国务院发展研究中心的非营利性研究机构,紧张职能是研究我国经济、科技社会发展中的庞大政策性、战略性、前瞻性标题,跟踪和分析天下科技、经济发展态势,为中心和有关部委提供决议咨询服务。“环球技能舆图”为国际技能经济研究所官方微信账号,致力于向公众转达前沿技能资讯和科技创新洞见。



地点:北京市海淀区小南庄20号楼A座
电话:010-82635522
微信:iite_er


215547xrlr4odd2sdllzxl.jpg








本文来自极酷区配资门户--www.jikuqu.com收集于网络整理
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!
相关标签: 全球技术地图
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册