智東西（公眾號：zhidxcom）
文 | 李水青
導(dǎo)語：媒介環(huán)境的混亂將可能造成人類真實(shí)世界的混亂。除了隱私問題，AI視頻換臉引發(fā)的信息誤導(dǎo)問題同樣值得關(guān)注，甚至有過之而無不及。
智東西9月6日消息，臉書（Facebook）的首席技術(shù)官M(fèi)ike Schroepfer發(fā)布博客宣布，臉書正和微軟聯(lián)合來自麻省理工、牛津等大學(xué)的研究者，通過置辦“Deepfakes鑒別挑戰(zhàn)賽”，探索如何通過數(shù)據(jù)集和基準(zhǔn)測試檢測Deepfake換臉視頻。
Deepfakes技術(shù)可以利用GAN（生成式對抗網(wǎng)絡(luò)）將視頻中的人臉換掉，且十分逼真。近期國內(nèi)大火的“ZAO”App被就疑似使用了該技術(shù)，用戶只需要在App中上傳一張照片，就能將自己的臉替換成視頻中“小李子”“周潤發(fā)”“白展堂”等人的臉，幾乎可以以假亂真。
當(dāng)ZAO很快地火起來后，人們敏銳地察覺到視頻換臉中的隱私問題，而后“ZAO”換臉App被責(zé)令整改。但是，除了隱私問題，其中的信息誤導(dǎo)問題同樣值得關(guān)注，甚至有過之而無不及。
▲被AI換臉后的視頻
“Deepfake”技術(shù)能夠利用AI將視頻中的人臉逼真地?fù)Q掉，這使它很容意被用于偽造信息、誤導(dǎo)輿論，甚至被不法人士拿來制作色情短片、實(shí)施金融詐騙等違法犯罪行為。然而，行業(yè)內(nèi)還沒有很好的數(shù)據(jù)集或基準(zhǔn)來檢測辨別它們。
現(xiàn)在，美國科技巨頭臉書打算對AI視頻換臉技術(shù)下手了，計劃出資1000多萬美元，從數(shù)據(jù)集、經(jīng)費(fèi)、獎金等多方面支持“Deepfake鑒別挑戰(zhàn)賽”，以尋找能夠準(zhǔn)確鑒別AI生成視頻的工具。
一、扎克伯格也被換臉，聯(lián)合產(chǎn)學(xué)界搞鑒別研究
其實(shí)，早在2017年12月，國外某ID名為“Deepfakes”的Reddit論壇用戶首次將自己制作的AI換臉視頻發(fā)布在了網(wǎng)絡(luò)上，后來，Deepfakes將這項技術(shù)開源，并被大家命名為“Deepfakes”，立刻風(fēng)靡全球。
“Deepfakes”技術(shù)背后的來源是一種名為GAN（生成式對抗網(wǎng)絡(luò)）的AI模型。在GAN中，G和D是兩種相互博弈的算法，一種生成圖像，另一種比較判定圖像與源圖像的差別。博弈的理想結(jié)果是G成為了能夠“以假亂真”的圖像生成模型。
AI換臉真正在國內(nèi)火起來還要說今年初，B站UP主“換臉哥”將一段94版射雕英雄傳視頻中的朱茵的臉換成了楊冪。AI換臉技術(shù)已經(jīng)蓬勃爆發(fā)，卻也被一再惡意使用，AI換臉黑產(chǎn)甚至已經(jīng)在國內(nèi)形成了完整的產(chǎn)業(yè)鏈。（參見智東西深度報道：AI換臉黑產(chǎn)：100元打包200部換臉情色片，5張照片就可定制視頻）
▲朱茵的臉被換成了楊冪
今年6月，臉書首席執(zhí)行官馬克?扎克伯格的一段被篡改過的視頻被廣泛傳播，之后，扎克伯格向觀眾講述了臉書正在考慮制定應(yīng)對Deepfakes的政策。
今天，臉書宣布將在數(shù)據(jù)集和基準(zhǔn)測試層面促進(jìn)更多的研究，以開發(fā)出更好的開源工具來檢測Deepfake。臉書將聯(lián)合微軟、麻省理工大學(xué)等業(yè)界和學(xué)界的伙伴共同置辦“Deepfake檢測挑戰(zhàn)賽”（DFDC）。
▲扎克伯格視頻被篡改
二、大賽目標(biāo)：研發(fā)通用的AI換臉視頻檢測工具
數(shù)據(jù)集和基準(zhǔn)測試已成為加速AI發(fā)展的相當(dāng)有效的工具。目前深度學(xué)習(xí)技術(shù)的復(fù)興一定程度上得益于ImageNet基準(zhǔn)；GLUE和SuperGLUE基準(zhǔn)加速了自然語言處理的最新進(jìn)展。
據(jù)稱，“Deepfake鑒別挑戰(zhàn)賽”的目標(biāo)是，找到一款能檢測視頻是否被換過臉的工具，并且它能被每個人便捷操作。
大賽旨在促使行業(yè)創(chuàng)建新的檢測方法，以防止AI生成的視聽內(nèi)容誤導(dǎo)大眾，比如，在2020年大選之前找到更多的偽造視頻，以免媒體誤導(dǎo)選民。
“這是一場貓鼠游戲，如果我設(shè)計一個Deepfakes檢測器，我就直接給了這些黑客一個新的模擬器進(jìn)行反測試?！奔~約大學(xué)Tendon學(xué)院計算機(jī)工程助理教授Siddharth Garg表示。
三、將為參賽者提供數(shù)據(jù)集和經(jīng)費(fèi)，請第三方監(jiān)督
在“Deepfake鑒別挑戰(zhàn)賽”中，會務(wù)組會為參賽者提供一個數(shù)據(jù)集和經(jīng)費(fèi)，還會用排行榜展示參賽者的成績，并設(shè)獎金獎勵。人工智能和媒體誠信新指導(dǎo)委員會（Partnership on AI’s new Steering Committee on AI and Media Integrity）將對挑戰(zhàn)賽進(jìn)行全程監(jiān)督和管理。
為此，臉書正在調(diào)試一個現(xiàn)實(shí)的數(shù)據(jù)集，該數(shù)據(jù)集來自臉書付費(fèi)找來的參與者。參賽者可以免費(fèi)使用大量數(shù)據(jù)，幾乎沒有使用限制。臉書強(qiáng)調(diào)，此數(shù)據(jù)集中不會使用臉書的用戶數(shù)據(jù)。
同時，臉書還會資助研究經(jīng)費(fèi)和獎項獎金，以鼓勵更多人參與。據(jù)稱，臉書會為此投入1000多萬美元。
據(jù)了解，相關(guān)數(shù)據(jù)集和挑戰(zhàn)參數(shù)將在今年10月的國際計算機(jī)視覺會議上，以供專門的技術(shù)工作委員會測試，進(jìn)而確保其質(zhì)量。完整的數(shù)據(jù)集和DFDC將于今年12月召開的神經(jīng)信息處理系統(tǒng)會議（NeurIPS）上發(fā)布。
結(jié)語：防止AI視頻換臉濫用，還需用技術(shù)反制
近日，我國企業(yè)公開發(fā)布的“ZAO”換臉App被相關(guān)部門責(zé)令整改，這體現(xiàn)了監(jiān)管對Deepfakes等AI換臉技術(shù)的約束作用。但是在暗處，Deepfakes作為被開源的技術(shù)，仍然可能被拿來濫用，利用技術(shù)進(jìn)行反制就顯得格外重要。
當(dāng)Deepfakes被用于偽造信息，甚至被不法人士拿來制作色情短片、實(shí)施金融詐騙等違法犯罪行為時，我們?nèi)绻芡ㄟ^基準(zhǔn)數(shù)據(jù)等工具進(jìn)行檢測辨別，可以大大的降低損失。另外，除了算法技術(shù)，區(qū)塊鏈等技術(shù)未來也可能被用于鑒別偽造的視頻。
視頻、報道等媒介內(nèi)容營造的媒介環(huán)境極大地影響著人們的主觀世界，并通過對人們主觀世界的作用影響客觀環(huán)境。如果任由虛假的視頻信息蔓延在網(wǎng)絡(luò)世界，這種媒介環(huán)境的混亂將可能造成人類真實(shí)世界的混亂。
“我們必須更好地區(qū)分真實(shí)與虛假，獎勵可信內(nèi)容而不是不受信任的內(nèi)容。這需要產(chǎn)業(yè)、大學(xué)、非政府組織等共同合作，以開發(fā)出能夠快速準(zhǔn)確地鑒別真實(shí)內(nèi)容的技術(shù)?！奔又荽髮W(xué)伯克利分校的Hany Farid教授評價“Deepfake鑒別挑戰(zhàn)賽”說。
