此前DeepFake換臉在全球引發(fā)軒然大波。從生成足以以假亂真的名人不雅視頻開(kāi)始，很多使用者將這個(gè)“換臉神器”當(dāng)成了視頻造假工具，并通過(guò)社交網(wǎng)絡(luò)將虛假信息傳播到全世界。DeepFake等技術(shù)出現(xiàn)不僅提升了換臉的真實(shí)性，其開(kāi)放源代碼的方式更是降低了將該等技術(shù)濫用于虛假信息制作和傳播門(mén)檻。

　　事實(shí)上，大約30%經(jīng)過(guò)AI換臉的合成照片、合成視頻是人類(lèi)僅憑肉眼無(wú)法識(shí)別的，很容易被當(dāng)作真實(shí)信息進(jìn)行再次傳播。這已成為一個(gè)亟待解決的社會(huì)性問(wèn)題，面對(duì)這個(gè)問(wèn)題，我們應(yīng)該以及可以做些什么?微軟亞洲研究院給出了解決方案。

　　除了DeepFake，市場(chǎng)上存在多種換臉技術(shù)，不同算法生成的圖像結(jié)果千差萬(wàn)別，難以使用同一個(gè)換臉鑒別模型解決所有換臉技術(shù)的進(jìn)攻。與此同時(shí)，換臉鑒別模型還需要對(duì)目前不存在、但未來(lái)可能出現(xiàn)的換臉技術(shù)也具有判別力，如何去預(yù)測(cè)未來(lái)?yè)Q臉技術(shù)的發(fā)展方向，提前布防，也是重要課題。

　　目前，最常被使用的AI換臉?biāo)惴ㄓ腥N：DeepFake、FaceSwap和Face2Face。其中，DeepFake基于大家所熟知的GAN技術(shù)，對(duì)于它所生成的臉，人類(lèi)的識(shí)別率大約為75%*。FaceSwap是一個(gè)學(xué)習(xí)重建臉部特征的深度學(xué)習(xí)算法，可以對(duì)給出的圖片進(jìn)行模型替換，人類(lèi)對(duì)于此類(lèi)換臉的識(shí)別率也是75%左右*。Face2Face則是用其他真實(shí)的人臉去替換原本的人臉，不涉及人臉的生成，對(duì)于它制造的臉，人類(lèi)的識(shí)別率只有41%*。作為目前學(xué)術(shù)界最大的合成視頻數(shù)據(jù)庫(kù)之一，由慕尼黑技術(shù)大學(xué)創(chuàng)建的FaceForensics數(shù)據(jù)庫(kù)涵蓋了經(jīng)過(guò)以上三種換臉?biāo)惴ň庉嫷墓_(kāi)視頻，以供學(xué)術(shù)研究使用。

　　多年來(lái)，微軟亞洲研究院在人臉識(shí)別、圖像生成等方向都擁有業(yè)界領(lǐng)先的算法和模型。在CVPR 2018上，微軟亞洲研究院視覺(jué)計(jì)算組發(fā)表了論文“Towards Open-Set Identity Preserving Face Synthesis”，其中的技術(shù)能夠利用開(kāi)放數(shù)據(jù)集中的數(shù)據(jù)，逼真地合成保留圖中人臉身份信息的圖像。深厚的技術(shù)積累讓研究員們對(duì)“進(jìn)攻方”的技術(shù)原理有著更深刻的理解，進(jìn)而能夠更有針對(duì)性地研發(fā)換臉鑒別算法。

　　圖1：微軟亞洲研究院開(kāi)發(fā)的模型分別提取蒙娜麗莎和赫本圖片中的身份信息和屬性信息進(jìn)行合成

　　因此，微軟亞洲研究院研發(fā)的換臉鑒別算法，基于FaceForensics數(shù)據(jù)庫(kù)的測(cè)試結(jié)果均超越了人類(lèi)肉眼的識(shí)別率以及此前業(yè)界的最好水平*：對(duì)于DeepFake的識(shí)別率達(dá)到了99.87%，對(duì)于FaceSwap的識(shí)別率為99.66%，對(duì)于Face2Face的識(shí)別率為99.67%。

　　表1：微軟亞洲研究院開(kāi)發(fā)的模型分別提取蒙娜麗莎和赫本圖片中的身份信息和屬性信息進(jìn)行合成

　　在微軟看來(lái)，要構(gòu)建可信賴(lài)的AI，必須遵循以下六大原則：公平、可靠和安全、隱私、包容、透明、責(zé)任。微軟內(nèi)部還成立了人工智能倫理道德委員會(huì)(AETHER)，幫助微軟應(yīng)對(duì)AI帶來(lái)的倫理和社會(huì)影響。