原標(biāo)題：換臉軟件美國(guó)進(jìn)化史：小扎，奧巴馬都中過(guò)招，國(guó)會(huì)開(kāi)過(guò)聽(tīng)證會(huì)

　　澎湃新聞?dòng)浾?承天蒙 綜合報(bào)道

　　一張自拍，就可以把短視頻中的人物換成用戶(hù)自己的臉。8月30日晚間以來(lái)，AI換臉應(yīng)用“ZAO”刷屏朋友圈。

　　從技術(shù)原理上來(lái)說(shuō)，“ZAO”采用的AI（人工智能）換臉技術(shù)，早在2017年12月就在海外出現(xiàn)。最初，這項(xiàng)名為“deepfakes”的技術(shù)，被少數(shù)懂技術(shù)的人用來(lái)?yè)Q臉色情片女主角。隨著一款桌面應(yīng)用程序FakeApp的出現(xiàn)，十豬九苦1983不懂技術(shù)的人也能簡(jiǎn)單制作換臉假視頻，互聯(lián)網(wǎng)上廣泛出現(xiàn)的假臉視頻早已廣泛流傳。

　　在美國(guó)，出于私人報(bào)復(fù)目的制作的換臉視頻，以及政黨攻擊的政客換臉視頻隨后出現(xiàn)，蒙騙了數(shù)百萬(wàn)人，花費(fèi)了很長(zhǎng)時(shí)間才得以辟謠。

　　2019年6月，一則以Facebook創(chuàng)始人兼首席執(zhí)行官馬克·扎克伯格為主角的的換臉視頻出現(xiàn)，引發(fā)媒體和輿論的廣泛關(guān)注。對(duì)此，F(xiàn)acebook決定不刪除這條視頻，而是根據(jù)平臺(tái)處理假新聞的一貫流程操作，最終給予了這條視頻限流處理。

　　同月，美國(guó)眾議員對(duì)deepfakes正式召開(kāi)聽(tīng)證會(huì)，敦促科技公司要在2020年美國(guó)總統(tǒng)大選之前制定出政策，“保?用戶(hù)免受假新聞的誤導(dǎo)�！�

　　換臉技術(shù)Deepfakes初亮相，用于換臉色情視頻

　　2017年12月，Deepfakes被媒體曝光后首次出現(xiàn)在大眾視野。一位網(wǎng)名為“deepfakes”的Reddit論壇用戶(hù)利用人工智能技術(shù)，將色情片女主角的臉換成了《神奇女俠》主演蓋爾·加朵。

　　“deepfakes”發(fā)布了一系列換臉女明星的色情片視頻，Deepfakes這個(gè)網(wǎng)名因此在媒體報(bào)道中，成為了這類(lèi)換臉假視頻的專(zhuān)有名詞。即把“深度學(xué)習(xí)（Deep learning）”一詞改寫(xiě)為“深度造假”。短短幾個(gè)月內(nèi)，deepfakes賬號(hào)已經(jīng)擁有了超過(guò)8萬(wàn)名關(guān)注者。

　　2018年2月，Reddit終于出手，封禁了deepfakes色情視頻，關(guān)閉了網(wǎng)站上的deepfakes內(nèi)容社區(qū)。

　　據(jù)華盛頓郵報(bào)當(dāng)時(shí)報(bào)道，這種換臉視頻制作簡(jiǎn)單，不需要專(zhuān)門(mén)的影視工作室，是這種視頻在網(wǎng)上迅速激增的主要原因。

　　據(jù)Vice旗下Motherboard解釋的技術(shù)原理，這種視頻采用現(xiàn)成的技術(shù)即可制作。首先，制作者利用開(kāi)源工具在社交網(wǎng)絡(luò)上下載受害者的大量照片，大約需要幾百?gòu)垺Ｒ坏┧麄儷@得足夠多的目標(biāo)名人面部照片之后，再尋找一個(gè)合適的色情片女演員的身體，就可以進(jìn)行嫁接。從這個(gè)意義上說(shuō)，色情片女演員也是受害者。

　　一些deepfakes視頻制造者已經(jīng)可以很熟練地應(yīng)用基于瀏覽器的應(yīng)用，使用面部識(shí)別軟件來(lái)尋找最適合匹配的臉和身體。把數(shù)據(jù)喂給給互聯(lián)網(wǎng)上免費(fèi)可得的機(jī)器學(xué)習(xí)算法，就能夠制造出十分逼真可信的假色情視頻。

　　桌面應(yīng)用FakeApp出現(xiàn)，不懂技術(shù)的人也能制作換臉視頻

　　2018年1月底，一款匿名開(kāi)發(fā)者根據(jù)deepfakes制作的，用戶(hù)友好的桌面應(yīng)用程序FakeApp正式面世，并開(kāi)放下載。這款應(yīng)用采用了和最初deepfakes一樣的谷歌開(kāi)源的TensorFlow框架，讓不懂技術(shù)的用戶(hù)可以相對(duì)簡(jiǎn)單地制作換臉色情視頻。

　　很快，Vice發(fā)表了一篇后續(xù)文章，報(bào)道了人們發(fā)現(xiàn)有的換臉色情視頻中是自己在高中或其他場(chǎng)合認(rèn)識(shí)的人，被AI換臉技術(shù)制作了報(bào)復(fù)色情片。在Reddit網(wǎng)站和聊天應(yīng)用Discord上，都出現(xiàn)了指認(rèn)人物的帖子，這才導(dǎo)致2018年2月起多家網(wǎng)站對(duì)這種換臉視頻的一系列封禁。

　　但全球互聯(lián)網(wǎng)上廣泛出現(xiàn)的作假視頻已經(jīng)泛濫。

　　2018年4月，美國(guó)娛樂(lè)網(wǎng)站Buzzfeed發(fā)布了一條極其逼真的視頻，視頻中，美國(guó)前總統(tǒng)奧巴馬用他的聲音和慣用動(dòng)作講了一段他從沒(méi)說(shuō)過(guò)的話(huà)。這條視頻是一個(gè)人采用FakeApp制作的，據(jù)說(shuō)花費(fèi)了56個(gè)小時(shí)來(lái)搜集和匯總奧巴馬的模型。該視頻明確表示就是用AI換臉技術(shù)制作，為了警告大家這種技術(shù)的危害性。

　　但這條視頻發(fā)布之后，各類(lèi)政經(jīng)大佬的換臉假視頻開(kāi)始病毒式傳播，騙過(guò)了數(shù)百萬(wàn)人。讓Deepfakes視頻的危險(xiǎn)性越發(fā)突出，迫使大型平臺(tái)采取技術(shù)手段對(duì)其封禁。

　　換臉扎克伯格視頻引發(fā)輿論爭(zhēng)議

　　除了多位美國(guó)政客講話(huà)的做假視頻掀起了輿論波瀾，花費(fèi)很長(zhǎng)時(shí)間才得以辟謠之外，2019年6月，一則Facebook創(chuàng)始人馬克·扎克伯格的假視頻也引發(fā)了廣泛關(guān)注。

　　這則扎克伯格的換臉視頻最初在Instagram上出現(xiàn)，打上了CBSN電視臺(tái)的角標(biāo)，偽裝成電視節(jié)目，但這則節(jié)目從未有過(guò)。視頻中的“扎克伯格”說(shuō)：“想象一下，一個(gè)人，完全掌握著數(shù)十億人的數(shù)據(jù)，他們的秘密，他們的生活，他們的未來(lái)。我將這一切都?xì)w功于Spectre。Spectre向我展示了誰(shuí)控制了數(shù)據(jù)，誰(shuí)就控制了未來(lái)。”

　　上述扎克伯格換臉視頻其實(shí)是一場(chǎng)營(yíng)銷(xiāo)。視頻中“扎克伯格”所說(shuō)的Spectre字面意思是幽靈，實(shí)際上是指一個(gè)藝術(shù)展。該展覽中展出了藝術(shù)家Bill Posters和一個(gè)廣告公司一起制作的一系列deepfakes假視頻。Posters稱(chēng)，視頻是對(duì)大型科技公司的批判。

　　這一換臉視頻引發(fā)了CBSN電視臺(tái)的商標(biāo)投訴，另外，F(xiàn)acebook拒絕撤下視頻。

　　Facebook對(duì)Vice表示：“我們會(huì)像處理所有的Instagram上面的假新聞一樣處理這個(gè)內(nèi)容。如果第三方核查者將它標(biāo)記為假，我們就會(huì)從Instagram的推薦頁(yè)上將其濾除，如發(fā)現(xiàn)頁(yè)面和hashtag頁(yè)面。”

　　隨后，多個(gè)Facebook的事實(shí)核查員標(biāo)記了這個(gè)視頻，并限流了這個(gè)視頻的傳播。制作了這個(gè)換臉視頻的藝術(shù)家對(duì)此表示批評(píng)，稱(chēng)“如果我們不能用藝術(shù)批判性地審問(wèn)科技巨頭，那我們要如何才能對(duì)這些極其重要的議題展開(kāi)嚴(yán)肅探討和辯論呢？”

　　美國(guó)眾議院召開(kāi)聽(tīng)證會(huì)，敦促科技公司大選前想法解決

　　2019年6月，十豬九苦1983deepfakes換臉技術(shù)出現(xiàn)一年半之后，美國(guó)眾議院終于對(duì)deepfakes展開(kāi)了一場(chǎng)聽(tīng)證會(huì)。

　　這場(chǎng)美國(guó)眾議院情報(bào)委員會(huì)聽(tīng)證會(huì)上，美國(guó)立法者終于聽(tīng)到了圍繞著deepfakes展開(kāi)的官方證詞，并承諾要審視“AI賦能的虛假內(nèi)容引發(fā)的國(guó)家安全的威脅，要采取哪些措施才能發(fā)現(xiàn)并進(jìn)行打擊。在這之中，公共部門(mén)，私營(yíng)部門(mén)和整個(gè)社會(huì)要怎么做才能應(yīng)對(duì)這種嚴(yán)峻的‘后真相’的未來(lái)。”

　　聽(tīng)證會(huì)上，共和黨眾議員Schiff敦促科技公司，要在2020年美國(guó)總統(tǒng)大選之前制定出政策，“保?用戶(hù)免受假新聞的誤導(dǎo)。”

　　如今，“ZAO”刷屏朋友圈，在中國(guó)引發(fā)了關(guān)于隱私安全的擔(dān)憂(yōu)。

　　有網(wǎng)友評(píng)論：“有手機(jī)號(hào)，有面部圖像，通過(guò)技術(shù)合成，犯罪分子可以替你和你家人通話(huà)了�！�

本文地址：http://www.kjdzwh.cn/info/2019/09/0109303636.html