8月的最後一天，一款名叫“ZAO”的AI換臉App刷屏了，你只需要將照片上傳到App上，就可以和張柏芝、秦嵐等一眾明星換臉。這款App的背後推手是大眾熟悉的移動社交App陌陌，據官方透露，700萬元租來的伺服器一晚上花掉近1/3。

投中網在體驗的時候，也經常被提示“伺服器繁忙”，一位社交軟體創業者對投中網稱，“（這款App）有一定的魔性，有比較大眾的可玩性和娛樂性，尤其適用在社交媒體場景，一夜刷屏是自然現象。”

在ZAO火爆的同時，關於版權和隱私安全問題的質疑也隨之而來。App上的素材是否有版權方授權、如何保證使用者的隱私不被濫用等問題引發了大量的爭議。

更令人擔憂的是，AI換臉技術正在挑戰我們身處的“眼見為實”的世界，因為這些視訊足夠以假亂真。ZAO背後的AI換臉技術其實不是一個新鮮的詞彙，此前，Deepfakes、Face2Face都曾有著類似的功能——將一張臉替換成另一張臉。

ZAO們究竟會給我們帶來多大的麻煩？

卡內基國際和平基金會曾釋出文章稱，Deepfakes正在給政府與企業帶來破壞性的影響，比如煽動政治暴力，破壞選舉和擾亂外交關係。

據《華爾街日報》報道，部分初創企業、美國政府機構和學術界都在與“deepfakes”作鬥爭，通過新聞事實稽核、影象驗證技術等手段來對抗這項讓人憂心忡忡的技術。

換臉，怎麼玩？

ZAO這款App的玩法非常簡單。App分為“造視訊”、“造表情”、“好友”和“我的功能”四個部分。在“造視訊”區域，有豐富的“換臉”視訊素材可供選擇。你點選其中一個就可以開始換臉之旅了。

不僅如此，ZAO還添加了“好友”功能，你可以通過微信和QQ來邀請你熟悉的人一起“變臉”，官方在微博上透露，這才是ZAO的精髓。投中網選中了一個瑪麗蓮夢露的演唱視訊，進入視訊播放頁面後，在視訊下方，有一個“替換”按鈕，這時你可以選擇用手機拍照，也可以從相簿中選擇照片上傳，成功上傳後就可以一鍵生成視訊了——你的臉也就此和瑪麗蓮夢露的身體融合在一起了。

一位社交軟體創始人對投中網稱，有一定的魔性，有比較大眾的可玩性和娛樂性，尤其適用在社交媒體場景，一夜刷屏是自然現象。此類軟體技術門檻並不高，豐富多彩的視訊素材是關鍵。

資本和模仿者也開始行動。金沙江創投董事總經理朱嘯虎在朋友圈表示，一夜刷屏之後，十餘家VC開始約見團隊，有抄襲者在今日凌晨就提交了稽核。

“以假亂真”會帶來多大的麻煩？

伴隨著海量的換臉視訊一起刷屏的，還有對於AI換臉所帶來的版權和隱私安全問題的質疑。

ZAO的版權說明稱，ZAO產品上存在的短視訊和表情等素材，除了特別宣告是ZAO跟合作方進行版權合作的之外，均來源於ZAO使用者自發的上傳，ZAO不享有素材的商業版權。

北京同清律師事務所合夥人何磊對投中網表示，“AI換臉”如未獲得相關權利人的許可，可能侵犯視訊作品版權人享有的修改權、保持作品完整權等著作權權利，同時，還涉嫌侵犯原視訊中明星、演員的肖像權等權利。視訊和表情等素材，除了特別宣告是ZAO跟合作方進行版權合作的之外，均來源於ZAO使用者自發的上傳，ZAO不享有素材的商業版權。

知名法律博主法山叔稱，“ZAO”app涉嫌過度攫取使用者授權；ZAO並未獲得換臉明星們的肖像權授權，使用者變臉涉嫌侵權，並且當明星認為自己的權利受到侵害時，“ZAO”app將完全有可能將法律責任推卸給使用者。

比如，ZAO使用者協議第6條第1款規定：“在您上傳及/或釋出使用者內容以前，您同意或者確保實際權利人同意授予ZAO及其關聯公司以及ZAO使用者全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於可以對使用者內容進行全部或部分的修改與編輯，以及對修改前後的使用者內容進行資訊網路傳播以及著作權人享有的全部著作財產權利及鄰接權利。”

何磊認為這種格式條款是典型的霸王條款，屬於明顯的單方強加對方責任義務，而逃避或減免自身責任義務的格式條款，違反了合同雙方平等原則，並且條款內容寬泛，指定不明確，比如所謂授權的範圍、時間等都不明確，屬於可撤銷甚至無效的條款。

一名網友稱，**視訊換臉、視訊欺詐很快會成為最為流行的犯罪玩法，對騙術識別能力差的老人有極高的殺傷力。保護自己的聲紋和麵部影象，儘量不要給任何App做此類精細化採集。也建議加快相關隱私資料法律法規建設。

其實早在ZAO問世之前，它的“前輩”Deepfakes已經給大洋彼岸的使用者造成了很大的麻煩。

比如，通過Deepfakes，你的臉可以被隨意嫁接到**視訊上。此前斯嘉麗等明星受到過被移花接木的苦惱。斯嘉麗在接受《華盛頓郵報》採訪時稱，對於充斥網路的換臉**片“很憤怒”，但她和她的團隊卻無能為力。

Deepfakes這個“殺傷力”極強的功能，甚至驚動了美國國防部。美國國防部研究機構為了應對換臉軟體存在的問題，特地研製出了首款“反變臉”的AI刑偵檢測工具——DARPA Media Forensics，研究人員發現，用AI技術生成的假臉，由於是使用靜態的照片進行訓練的，所以極少或者不會眨眼。在這種方法之下，準確率達到99%。

除了會造成上述這些已知的麻煩，換臉技術還可能帶來更多不確定影響。一些國內網友就開了這樣的腦洞:是不是我們的肖像資訊會被濫用到“刷臉支付”上？這會讓直接侵犯到我們的財產安全。

對此，支付寶下午迴應稱：目前，網上各類軟體有很多，但不管換的有多逼真，都無法突破刷臉支付的。“刷臉支付”採用的是3D人臉識別技術、在進行人臉識別前，也會通過軟硬體結合的方式進行檢測，來判斷採集到的人臉是否是照片、視訊或者軟體模擬生成的、能有效地避免各種人臉偽造帶來的身份冒用情況。

除了這些問題本身，ZAO們帶來的麻煩背後是一個需要我們警惕的現實：人類正身處一個技術爆炸的時代，諸如腦機介面、AI換臉這樣以商業化為目的科技發展迅猛且不可逆，你並非不能抵擋它，但代價可能太高了。

也許你可以完全忽視他們，拒絕使用任何可能侵犯隱私權的產品，但這樣的同時，也失去了科技帶來的便利和樂趣。

或者，你願意花費大量時間，仔細研究每一個條款，盡最大可能避開這些“陷阱”。但這首先要求具備強大的法務知識儲備和自我隱私保護能力，光是辨別這些魚龍混雜的資訊，就很有可能讓你精疲力盡。

但更接近現實的情況是，我們不會永遠活在過去，也不可能把很多精力消耗在與AI技術“鬥智鬥勇”上。

技術本身是中性的，但前提是保證技術不被濫用，這就要求商業化的科技公司們更為主動地去守住自己的責任邊界，並且用更為先進的技術手段和規範的制度來甄別這些虛假的資訊。就像英國創業公司Serelay建立了應用於照片和視訊的驗證系統，並正在開發標記真實圖片的方法。可Serelay這樣的公司畢竟不是多數。

接受科技生活是否意味著要放棄隱私？在這樣的隱患下，大資料和使用者隱私如何平衡？這或許是ZAO們，以及每個致力於商業化的科技公司都需要思考的核心問題。