...2月26日，「將朱茵的黃蓉換成楊冪的臉」視頻在網絡竄紅。
該視頻將朱茵版的黃蓉，換成楊冪的臉。
先看朱茵版「黃蓉」的原圖：
...
再看經過AI換臉後的楊冪版「黃蓉」：
...
網友看完後，紛紛覺得毫無違和感。
別誤會，這裡的「換臉」並不是整容，而是B 站 UP 主「換臉哥」用AI技術將楊冪的臉替換掉了94 版《射鵰英雄傳》朱茵的臉。
「換臉哥」製作的視頻無論從人臉的輪廓還是人物的表情根本看不出來移花接木的痕跡。因為太逼真，一經上傳就在網上引起了軒然大波。
...
網友都被這樣的操作驚呆了，微博話題閱讀量瞬間飆到1.1億。
...
不過，這一新技術國內主播早已掌握精髓：
這個AI換臉技術，不禁讓人興奮但又毛骨悚然。
因為這技術實在太牛逼，簡直可以以假亂真。如果運用不當，可能會造成諸多問題，比如色情製作。
「AI」對抗「AI」
既然利用AI技術換臉如此容易，那麼用「AI」對抗「AI」來檢測，結果會如何？
瑞士Idiap研究所兩位科學家對「人臉識別方法檢測DeepFake」進行了較為全面的測評 ，並發表了論文。
...
兩位科學家先後測試了兩套前沿且先進的人臉識別系統：一個是性能最優的圖像分類模型 VGG，另一個是基於 Facenet 的算法。
結果顯示：AI分辨真假視頻錯誤率高達 95%！
理論上而言，只要你給 Deepfake自動生成的對抗網絡(GAN) 我們當前掌握的所有鑑證技術，它就能繞過所有這些技術。
在這場「假臉生成」和「真臉識別」算法的對抗賽中，Deepfake 無疑贏了。
2019年1月，荷蘭DeepTrace實驗室發布了一份DeepFake發展報告，數據顯示2018年「deepfake」關鍵詞的谷歌搜索次數比2017年增長了1000倍。
...
要知道Deepfakes在2017年11月前每月搜索次數僅100左右，到了2018年7月每月搜索次數已經上升到100萬次-1000萬次。
實際上，這並非deepfakes第一次在網上引發爭議。在這之前，曾有人用deepfakes將「神奇女俠」蓋爾·加朵的臉被貼在了一個成人電影女主的臉上，當時新聞一出在網絡上引起了轟動。
deepfakes是如何做到換臉的？
deepfakes背後的技術並非高深難懂，簡單來說，它是一個通過機器學習技術搭建的系統：可以讓機器學習女明星的面部特徵，最後合成到了影片的面部。
...
deepfakes搭建的系統可以通過谷歌圖片搜索、網絡圖庫、Youtube視頻等途徑獲取的素材，利用這些素材通過TensorFlow等多個開源庫，訓練深度學習網絡，經過反覆訓練後，系統就會自動替換臉部信息。學習樣本越多，生成臉譜圖的還原度就會越高。
最初，在Reddit網站上，一位用戶名為「deepfakes」的網友發布了自己製作的換臉視頻，將成人影片的女主角換成了神奇女俠，短時間吸引了大量的人氣，廣大網友順理成章地把他的網名作為這項技術的命名。
沒過多久，同名算法在GitHub開源，由deepfakes技術製作的視頻在網上也越來越多。傑西卡·阿爾芭、艾瑪·沃特森等好萊塢明星紛紛被「換臉」。
...
好萊塢影星紛紛「中招」
除了Reddit上的討論外，在2018年1月，還有人推出了Windows程序的FakeApp，這大大降低了deepfake的使用門檻，它允許用戶很輕鬆地自製換臉視頻，即使你沒有任何人工智慧方面的知識。
但是由於許多用戶將deepfakes技術用於製作虛假視頻，例如偽造政治家公開演講，製作著名女星色情內容等，導致這項技術聲名狼藉。
之後，deepfakes便被全網封禁：Reddit討論版被刪除，GitHub開原始碼也被清除。成人視頻網站上也刪掉了用deepfakes算法做的視頻。FakeApp的官網目前也已無法使用。
對這個事情的討論，網友雖然是皮一下，但是後果確實……。
...
很多人擔心，如果技術被用在普通女性身上，將會造成更大的傷害：
如果有一天，你的臉被用在小電影上大肆傳播，你怎麼想。
...
有人認為這是對原演員的不尊重，甚至會導致部分流量明星可以不用擔心演技問題，瘋狂軋戲。只要先用替身完成拍攝，最後再用AI技術進行換臉，省時又省力。還有不少人認為這嚴重侵犯了隱私和肖像權。
所以上傳換臉視頻的UP主「換臉哥」帳號中的視頻也不見了，目前視頻在B站已經看不到了。
「換臉哥」也回應，這些作品沒有惡意，新技術應該讓大家都知道，以後不會被假新聞欺騙。否則將來有人偽造明星負面內容視頻時，將會給公眾人物帶來更大的損失。
...
在這種前沿技術面前，每個人都可能成為潛在的受害者。
一旦被人濫用，真實照片與語音模擬器或語音合成系統相結合，就可以生成任意「假新聞」，任何人可以變成任何人。
那些由於技術濫用對當事人造成的傷害，對整個社會造成的反噬，是人類對新技術缺乏敬畏必須付出的代價。
AI面前，人類必須保持敬畏之心。