AI换脸视频鉴别:脸书联合微软和麻省理工,办大赛打击假视频

原题目:AI换脸视频辨别:脸书结合微软和麻省理工,办年夜赛冲击假视频

智工具(大众号:zhidxcom)

文 | 李水青

导语:前言情况的凌乱将可能造成人类真实世界的凌乱。除了隐私题目,AI视频换脸激发的信息误导题目同样值得存眷,甚至有过之而无不及。

智工具9月6日新闻,脸书(Facebook)的首席技巧官Mike Schroepfer宣布博客公布,脸书正和微软结合来自麻省理工、牛津等年夜学的研讨者,经由过程置办“Deepfakes辨别挑衅赛”,摸索若何经由过程数据集和基准测试检测Deepfake换脸视频。

Deepfakes技巧可以应用GAN(天生式抗衡收集)将视频中的人脸换失落,且十分真切。近期国内年夜火的“ZAO”App被就疑似应用了该技巧,用户只须要在App中上传一张照片,就能将本身的脸调换成视频中“小李子”“周润发”“白展堂”等人的脸,几乎可以以假乱真。

当ZAO很快地火起来后,人们灵敏地察觉到视频换脸中的隐私题目,尔后“ZAO”换脸App被责令整改。可是,除了隐私题目,此中的信息误导题目同样值得存眷,甚至有过之而无不及。

▲被AI换脸后的视频

“Deepfake”技巧可以或许应用AI将视频中的人脸真切地换失落,这使它很容意被用于捏造信息、误导舆论,甚至被犯警人士拿来制造色情短片、实行金融欺骗等违法犯法行动。然而,行业内还没有很好的数据集或基准来检测分辨它们。

此刻,美国科技巨子脸书盘算对AI视频换脸技巧下手了,打算出资1000多万美元,从数据集、经费、奖金等多方面支撑“Deepfake辨别挑衅赛”,以寻找可以或许正确辨别AI天生视频的东西。

一、扎克伯格也被换脸,结合产学界搞辨别研讨

实在,早在2017年12月,国外某ID名为“Deepfakes”的Reddit论坛用户初次将本身制造的AI换脸视频宣布在了收集上,后来,Deepfakes将这项技巧开源,并被大师定名为“Deepfakes”,立即风靡全球。

睁开全文

“Deepfakes”技巧背后的起源是一种名为GAN(天生式抗衡收集)的AI模子。在GAN中,G和D是两种彼此博弈的算法,一种天生图像,另一种比拟鉴定图像与源图像的差异。博弈的幻想成果是G成为了可以或许“以假乱真”的图像天生模子。

AI换脸真正在国内火起来还要说本年初,B站UP主“换脸哥”将一段94版射雕好汉传视频中的朱茵的脸换成了杨幂。AI换脸技巧已经蓬勃爆发,却也被几回再三恶意应用,AI换脸黑产甚至已经在国内形成了完全的财产链。(拜见智工具深度报道:AI换脸黑产:100元打包200部换脸情色片,5张照片就可定制视频)

▲朱茵的脸被换成了杨幂

本年6月,脸书首席履行官马克•扎克伯格的一段被改动过的视频被普遍传布,之后,扎克伯格向不雅众讲述了脸书正在斟酌制订应对Deepfakes的政策。

今天,脸书公布将在数据集和基准测试层面增进更多的研讨,以开辟出更好的开源东西来检测Deepfake。脸书将结合微软、麻省理工年夜学等业界和学界的伙伴配合置办“Deepfake检测挑衅赛”(DFDC)。

▲扎克伯格视频被改动

二、年夜赛目的:研发通用的AI换脸视频检测东西

数据集和基准测试已成为加快AI成长的相当有用的东西。今朝深度进修技巧的回复必定水平上得益于ImageNet基准;GLUE和SuperGLUE基准加快了天然说话处置的最新进展。

据称,“Deepfake辨别挑衅赛”的目的是,找到一款能检测视频是否被换过脸的东西,而且它能被每小我便捷操纵。

年夜赛旨在促使行业创立新的检测方式,以防止AI天生的视听内容误导民众,好比,在2020年年夜选之前找到更多的捏造视频,以免媒体误导选平易近。

“这是一场猫鼠游戏,假如我设计一个Deepfakes检测器,我就直接给了这些黑客一个新的模仿器进行反测试。”纽约年夜学Tendon学院盘算机工程助理传授Siddharth Garg表现。

三、将为参赛者供给数据集和经费,请第三方监视

在“Deepfake辨别挑衅赛”中,会务组会为参赛者供给一个数据集和经费,还会用排行榜展现参赛者的成就,并设奖金嘉奖。人工智能和媒体诚信新领导委员会(Partnership on AI’s new Steering Committee on AI and Media Integrity)将对挑衅赛进行全程监视和治理。

为此,脸书正在调试一个实际的数据集,该数据集来自脸书付费找来的介入者。参赛者可以免费应用大批数据,几乎没有应用限制。脸书夸大,此数据集中不会应用脸书的用户数据。

同时,脸书还会赞助研讨经费和奖项奖金,以激励更多人介入。据称,脸书会为此投进1000多万美元。

据懂得,相干数据集和挑衅参数将在本年10月的国际盘算机视觉会议上,以供专门的技巧工作委员会测试,进而确保其质量。完全的数据集和DFDC将于本年12月召开的神经信息处置体系会议(NeurIPS)上宣布。

结语:防止AI视频换脸滥用,还需用技巧反制

近日,我国企业公然宣布的“ZAO”换脸App被相干部分责令整改,这表现了监管对Deepfakes等AI换脸技巧的束缚感化。可是在暗处,Deepfakes作为被开源的技巧,仍然可能被拿来滥用,应用技巧进行反制就显得非分特别主要。

当Deepfakes被用于捏造信息,甚至被犯警人士拿来制造色情短片、实行金融欺骗等违法犯法行动时,我们假如能经由过程基准数据等东西进行检测分辨,可以年夜年夜的下降丧失。别的,除了算法技巧,区块链等技巧将来也可能被用于辨别捏造的视频。

视频、报道等前言内容营造的前言情况极年夜地影响着人们的主不雅世界,并经由过程对人们主不雅世界的感化影响客不雅情况。假如任由虚伪的视频信息舒展在收集世界,这种前言情况的凌乱将可能造成人类真实世界的凌乱。

“我们必需更好地域分真实与虚伪,嘉奖可托内容而不是不受信赖的内容。这须要财产、年夜学、非当局组织等配合合作,以开辟出可以或许快速正确地辨别真实内容的技巧。”加州年夜学伯克利分校的Hany Farid传授评价“Deepfake辨别挑衅赛”说。

义务编纂:

发表评论

电子邮件地址不会被公开。 必填项已用*标注