科技改變生活 · 科技引領未來
科技改變生活 · 科技引領未來
智東西（公眾號：zhidxcom）文|年年導語：隨著AI換臉技術的日漸普及，AI換臉黑產規模越來越龐大，許多人開始叫賣AI換臉成品情色視頻、定制視頻以及AI換臉軟件及教程。智東西7月24日消息，隨著AI換臉技術的不斷發展，圍繞AI換臉已經形
智東西（公眾號：zhidxcom）文 | 年年
導語：隨著AI換臉技術的日漸普及，AI換臉黑產規模越來越龐大，許多人開始叫賣AI換臉成品情色視頻、定制視頻以及AI換臉軟件及教程。
智東西7月24日消息，隨著AI換臉技術的不斷發展，圍繞AI換臉已經形成了一條完整的黑色產業鏈。100元打包200部換臉情色片，囊括國內一二線女明星，5張照片就可以幫你定制換臉視頻，400元就可以購買換臉軟件及教程并包教包會……
AI換臉是基于一套簡單的深度學習算法，只需要照片或是視頻，通過這套算法就可以把其中的人臉替換成你想要替換的人臉，操作相對簡單，而且替換之后的視頻或是照片十分逼真。
許多人看到了這里面的“商機”，所以大量的AI換臉視頻或照片開始出現，其中很多被應用到了情色片換臉，通過這項技術，你可以把情色片中的人臉替換成你想要看的人臉，而這也是引爆這一技術的話題點。
記者調查發現，目前AI換臉黑產已經形成了完整的產業鏈，從下游成品情色視頻、中游定制視頻到上游軟件及教程都有提供，有的賣家甚至提供全產業鏈產品和售后服務，據部分賣家透露，現在定制視頻要排隊，因為前面有很多人也有這個需求，可見AI換臉黑產已經發展到一定程度。
一、100元能干啥？打包200部換臉情色片
為了調查傳聞中的AI換臉地下產業鏈，我也是煞費苦心，在瀏覽了各個論壇的公開信息之后，我鎖定了三個主要的AI換臉黑產平臺：淘寶、咸魚、貼吧。
我分別在淘寶、咸魚、貼吧這三個AI換臉比較活躍的平臺進行了調查，發現這三個平臺目前對于AI換臉都已經加強了審核力度，不再像前一段時間搜AI換臉出現很多結果，且三個平臺側重點并不相同。
▲淘寶搜索“AI換臉’結果
例如在淘寶輸入“AI換臉”，前10個返回的店鋪只有一家是做AI換臉的，而且只提供教程并不提供成品視頻售賣，在返回的所有店鋪中只發現了7家經營AI換臉的店鋪，大部分都只提供軟件及教程并不提供成品視頻。
▲咸魚搜索“換臉”結果
在咸魚搜索AI換臉干脆沒有任何搜索結果，于是我機智的把AI去掉只搜索換臉（去掉換臉只搜AI也沒有相關結果），這時咸魚搜索結果的第一條就是AI換臉的店鋪，在所有返回結果中，大部分都只做圖片換臉，也有一小部分標注不太明確的售賣換臉軟件和成品視頻。
▲AI換臉吧、deepfake吧和fakeapp吧截圖
貼吧算是三個里面AI換臉最容易找到的地方，我先后潛入了AI換臉吧、deepfake吧和fakeapp吧，這三個是目前涉及AI換臉比較活躍的吧。AI換臉吧比較直接，發帖內容多是售賣成品視頻或是軟件教程，有的人也發帖收徒不過都是收費的；deepfake吧發的帖子有售賣視頻、教程的，也有利用AI換臉制作一些搞笑視頻或圖片分享的；fakeapp吧則相對單純的多，內容多是以技術交流為主，例如軟件使用過程中的問題等，不過用軟件做什么遇到了問題就不得而知了。
▲被調查的10個賣家資料整理
三個平臺大多并不直接交易，大部分都是通過這三個平臺最后引流到QQ和微信。記者從三個平臺成功聯系到10個賣家，其中2個來自于咸魚、4個來自于淘寶、4個來自于貼吧。在和賣家溝通并取得信任后，我都會問基本相同的問題，例如售賣內容、價格、是否可定制、用的是什么軟件等。
經過記者的調查，AI換臉黑產目前還主要停留在三個階段，即售賣成品情色視頻、售賣定制視頻和售賣軟件及教程。
▲不同賣家對于成品視頻定價
綜合多個賣家的信息，成品情色視頻價格從2元1部到30元46部、100元150部和100元200部不等，一般都是打包售賣。據賣家說，成品視頻以國內一、二線女明星為主。
▲部分賣家發給我的成品視頻案例
有意思的是，也許是為了證明換臉效果，一般加上一個賣家的QQ或微信后，部分賣家會給我先發一段成品羞恥小視頻，也有的賣家比較謹慎只給我發了拍攝的截圖等。一開始我是拒絕的，不過一想為了工作，我也就抱著犧牲自我的精神義無反顧的都看了一遍，從視頻和截圖看，換臉效果確實都還不錯。
▲賣家對于定制視頻和教程收費
定制視頻的價格相對貴上一些，據部分賣家透露，定制視頻一般1小時200-300元，低于1小時一律100元，也有的賣家按分鐘計價，1分鐘20-80元。不過定制視頻流程很簡單，只需要你提供5張左右照片就可以，據賣家說收費這么貴主要是一部定制視頻需要渲染很長時間，一般10分鐘的定制視頻需要2小時左右，而一部長片至少需要十幾個小時才能出成片。
▲進行AI換臉需要的電腦硬件配置
軟件和教程相對于成品視頻和定制視頻價格上就要貴不少，從多個賣家的報價看，教程一般的售價在300-400元左右，大部分賣家教程標價都是400元，而且保證1-3天學會，大多附帶后續的指導。不過對于想要自己學習制作視頻的人，賣家一般都會提醒說至少需要游戲級的配置，最低2G顯存，GPU最好為4GHZ。
不過這些賣家都只能稱為普通賣家，在接觸到的賣家中，有兩個微信賣家路子比較野。
▲微信賣家A發給我的產品介紹截圖
一個來源于淘寶，這個賣家提供云處理功能，沒錯確實是云處理，利用它的軟件進行視頻處理時在他們的服務器上運行，不要求你的電腦性能。相關軟件和教程也分為三種，分別是128元本地軟件無需聯網、298元服務器15G空間版本和368元無限空間版本，其中368元版本包括月租38元的VPN、月租450元的谷歌服務器和無限期售后服務。
▲微信賣家B發給我的兩個可選擇套餐
還有一個賣家來自咸魚，這個賣家除了成片羞恥視頻還售賣國外APP下載鏈接和邀請碼，據他所說，網站經常被封，這種方式比較安全。從他提供的視頻看，這款APP專門有一個換臉專區，里面有大量的成品視頻，不過應該并不都是他們自己制作的，因為有的視頻和別的賣家提供給我的是一樣的。
有意思的是，通過觀察這兩個賣家的朋友圈我發現，他們經常會發一些“AI換臉是為了技術交流，絕對不涉黃、違法等”的內容。嗯，怎么說呢，你前一分鐘剛和我聊完AI換臉羞恥小視頻賣多少錢，后一分鐘就發這個，只能說此刻我的內心是復雜的。
從我調查的這10個AI換臉賣家來看，他們的經營范圍和段位各不相同。
低端玩家只賣一些成品小視頻，而且還不一定是他自己做的，可能就是買的多了也想自己撈回點本。中端玩家增加了定制小視頻功能，需要你提供一定的照片素材，能夠幫助你實現“女神演毛片”。高端玩家除此之外還提供軟件及教程，收徒教學，全程售后服務，體貼細致。骨灰級玩家只提供教程，而且操作在云端，甚至自己開發軟件，可以說是處于產業鏈的上游了。
從調查來看，目前AI換臉黑產還主要是在地下發展生存，具體規模不好估計，主要通過淘寶、咸魚、貼吧進行引流。不過據一位淘寶店主透露，如果我想要定制視頻那么就需要排隊，而且短期內很難排到，這也在一定程度上說明了問題。
二、好萊塢女星“被下海”，朱茵變楊冪
AI換臉技術的核心是一個“自動編碼器”，這個“自動編碼器”實際上是一個深度神經網絡，它能夠接收數據輸入，并將其壓縮成一個小的編碼，然后從這個編碼中重新生成原始的輸入數據。
舉個例子，如果你想把視頻A中的人物b換成人物c，那么首先需要對視頻A進行逐幀切片，并把沒有人物b的幀刪掉，然后還需要提供人物c的大量圖片或視頻，方法同上。之后深度學習算法會提取人物b每幀的特征，我們將之命名為feature b，找到人物b變換成feature b所需的光照、扭曲等條件。之后對人物c進行基于feature b的轉換，形成feature c，然后用feature c替換feature b即可。
▲換臉+動作捕捉幫助保羅·沃克回歸
換臉技術并不是一種新技術，在影視劇制作中早已有之，例如《速度與激情7》里為了讓保羅·沃克回歸就用了視頻換臉技術。不過早期影視劇制作中的換臉需要剪輯師和CGI（電腦三維動畫）專家長時間的復雜工作，所以并不具有推廣普及的基礎。
但是AI換臉出現的時間卻并不長，這一切都要從2017年12月一位叫deepfakes的哥們說起。當時他把情色電影里的女主角換成了好萊塢明星蓋爾·加朵，這也是人們第一次見識公開見識到AI換臉這項技術。
▲deepfakes在Reddit上上傳的部分換臉視頻
這位哥們致力于在Reddit（知名在線論壇）上分享其利用AI技術制作的明星換臉小視頻，被他用AI換臉搞過的明星和名人數不勝數，既包括大部分的好萊塢明星，也包括川普這樣的政治人物。
之后由于大量“受害者”的投訴，Reddit迫于壓力封殺了deepfakes的賬號，不過這次封殺卻讓deepfakes直接開源了其AI換臉項目的代碼。
根據他的分享，制作一個明星換臉視頻非常簡單。首先需要在谷歌等網絡圖集中收集你想要替換的人物各個角度的視頻和圖片，組成一個能滿足深度學習任務進行臉部替換的素材庫。
然后通過TensorFlow或Github上提供的機器視覺相關模型，學習和理解原版羞恥小電影中女主角的面部特征、輪廓、動作和嘴型等等。繼而讓模型在素材庫中尋找各種角度、各種表情下AI認為合適的圖片與視頻，對原本視頻進行替換。
據部分用戶用deepfakes的方法制作之后反應，AI換臉其實非常簡單，只要具備基礎的電腦知識同時電腦本身配置滿足要求，那么即使只是一個新人也能在幾個小時內做出一部換臉視頻，不過這時候的AI換臉還比較粗糙且主要做國外流行。
之后人們為了紀念這位老哥的貢獻，也用他的名字命名了AI換臉技術，稱之為“deepfakes”。
AI換臉真正在國內火起來還要說今年年初，B站UP主“換臉哥”發布的一段94版射雕英雄傳視頻。視頻中，原本飾演黃蓉的演員朱茵的臉被替換成了楊冪的臉，從流出的視頻和動圖看，雖然是用AI合成的，但是整體效果十分逼真。
▲飾演黃蓉的朱茵的臉被替換成楊冪
這件事在國內最大的影響就是讓AI換臉被普通人所熟知，也正是這件事，促進了國內的AI換臉黑產逐漸發展壯大。
三、小鮮肉尷尬演技的“解藥”
自AI換臉出現之后，相關的爭議就沒有停止過。AI換臉技術的“始祖”deepfakes正是因為其作品涉及相關人物的名譽及相關作品版權問題而被封禁。
“受害者”之一好萊塢女星斯嘉麗·約翰遜在接受《華盛頓郵報》采訪時，發表了自己對于deepfakes的憤怒看法。她表示，“每個國家都有自己的法律，即使你擁有自己形象圖片的版權，在別的國家也不一行適用，面對充斥網絡的AI換臉情色片，她和她的團隊無能為力。”
▲斯嘉麗·約翰遜
在國內，“換臉哥”發布楊冪版射雕英雄傳之后，迅速在網上發酵并引起了軒然大波，B站視頻截止刪除前點擊量超出20萬，微博話題閱讀量更是達到了1.3億。
▲微博話題：將朱茵的臉換成楊冪的臉
不過隨著話題逐漸變熱，批評和指責也隨之而來，以微博楊冪官方粉絲團為代表的博主認為AI換臉侵犯了公民個人肖像權，而且如果任由這項技術發展，那么在當今這個AI人臉設別技術越來越先進的情況下，普通人尤其是普通女孩子的個人隱私也就受到威脅。
也有一些微博用戶認為，把電視劇中朱茵的臉換成楊冪的臉只是為了技術交流，也是為了表達對偶像的喜愛，只要這項技術不用在一些涉黃、違法的事情上，那么就沒有什么大不了的。
還有一些人觀點獨特，認為小鮮肉終有有救了，希望這種技術能推廣一下，可以不用再看到僵硬、面無表情的表演了……
記者也就這個問題采訪了幾位“吃瓜群眾”。有人認為AI換臉是一個技術上的進步，但是目前來看用錯了地方，還需要政府部門立法和監管；也有人認為AI換臉挺可怕的，想想也許有一天你的臉也被AI換掉了就讓人不寒而栗，但是技術本身可能并沒有問題。
視頻制作者肖先生也在第一時間撤下了該條視頻并回應了此事。肖先生（換臉哥）說自己只是出于愛好，并未利用此視頻進行營利，主要還是想讓更多人認識這項技術。
▲肖先生（換臉哥）微博回應
監管部門也已經注意到AI換臉、AI脫衣等應用的危害性。今年4月提交十三屆全國人大常委會第十次會議審議的民法典人格權分編擬規定，任何組織或個人不得以利用信息技術手段偽造的方式侵害他人的肖像權。
5月底，國家網信辦會同有關部門發布《數據安全管理辦法（征求意見稿）》，其中要求，網絡運營者利用大數據、人工智能等技術自動合成新聞、博文、帖子、評論等信息，應以明顯方式標明“合成”字樣；不得以謀取利益或損害他人利益為目的自動合成信息。
政府部門的這兩個動作也表明，關于AI換臉等的法律文件或將出臺，未來如果再利用AI換臉、AI脫衣等應用進行相關操作損害了他人利益的或涉及侵權違法。
四、換臉黑產已成完整產業鏈
在AI換臉剛剛出現的時候，更多的是給某個電視劇或者電影的主角臉換成自己喜歡的明星或者自己想看的人的臉，不過隨著AI換臉技術的不斷發展，基于deepfakes的應用也越來越多，知名的例如fakeapp、deepnude、faceswap等，這些應用的出現也降低了使用者的門檻，許多電腦小白也能在短期內學會如何進行AI換臉。
門檻降低帶來的也就是魚龍混雜，有一些人專注于研究、分享自己的換臉作品，出于愛好或是出于玩樂。也有一些人看到了這里面的“商機”，于是對情色片進行換臉并打包售賣，最受歡迎的當然就是女明星，據有的賣家透露，其換臉作品幾乎囊括國內所有一二線女明星。
在國內,AI換臉儼然已經形成了一個黑產產業鏈，上游提供軟件及技術、中游提供視頻、照片定制、下游售賣成品視頻，也有的商家做全產業鏈的生意。從我調查來看，部分賣家供不應求，求之者眾，黑產規模可見一斑。
不過也不能因此就否認AI換臉，AI換臉的出現可以說是影視劇行業的一個驚喜，這項技術有助于幫助解決影視劇行業傳統換臉技術成本高、工作復雜、換臉時間長等問題。
同時，AI換臉的出現還普及了這項在許多人看來高大上的技術，畢竟換臉技術由來已久，AI換臉只是以用一種更簡單、更易推廣的方式出現，這件事本身對于AI技術的發展是一個推動作用。
例如之前有一部電視劇《封神演義》，這部電視劇其實早在2015年就已經拍攝完成但直到2019年才播出，其中一個原因就是“限韓令”導致不得不為飾演費仲的演員韓國人金江日換臉，如果使用AI換臉，那么效率相信會高出不少。
從以上所有的案例我們可以看出，目前AI換臉還處于一種“薛定諤的貓”的狀態，在你完全了解這項技術之前，你不知道它會帶來什么，不過有一點可以肯定，那就是技術本身是無罪的，有罪的只是那些心懷不軌的人。
結語：技術無罪，但要加強監管
也許當初deepfakes自己都沒有想到，他的一個換臉視頻能帶來這么大的影響。從美國到中國，AI換臉的受眾越來越多，受害者也越來越多，美國好萊塢明星和中國一二線女明顯都難幸免。
AI換臉技術做為一種深度學習算法，簡單地說就只是代碼和數字，通過這個算法可以把視頻或照片中的人臉替換成另一張人臉，其本身并不涉及違法或是侵犯隱私等問題。
不過許多人卻在利用這項技術進行非正常牟利，他們利用這項技術的入門門檻低和一些人心中的小心思大量生產情色換臉視頻，進行兜售，更有甚者直接出售軟件和教程。
面對這種亂象，也許只有政府層面的監管和約束才能有效遏制AI換臉黑產的持續蔓延。技術的發展總是伴隨著各種問題，不急于否定、采優去劣或許才是一種正確的態度。
正如上面的吃瓜群眾所說：“技術本身沒問題，只是用錯了地方。”
高夕華