早在2019年，一款名為“ZAO”的AI換臉軟件曾風靡網絡，只要提供一張照片就能成為影視劇的男女主角，讓眾多網友趨之若鶩。然而，因侵犯版權、侵害隱私、危害數據安全等問題，“ZAO”很快被下架處理。
然而，隨著技術發展和使用門檻降低，“AI換臉”的應用場景越來越多，背后的黑灰產業鏈也逐漸浮出水面。記者調查發現，目前在網絡平臺上，售賣明星換臉的淫穢視頻、提供視頻定制換臉服務、教授換臉技術等已經成為一門生意。
技術本無善惡，但技術應用需要規制。4月11日，國家網信辦發布的《生成式人工智能服務管理辦法（征求意見稿）》，在產品安全評估、數據合法性等方面作出具體規定。業內人士認為，這一規定實施后，將對包括“AI換臉”在內的生成式人工智能技術發展起到很好的規范和指導作用。
“AI換臉”的法律邊界何在？“AI換臉”服務的提供者和使用者存在哪些法律風險？如何規制和防范“AI換臉”對個人和社會造成的嚴重后果？
明星換臉視頻打包出售，定制只需兩三小時
近年來，“AI換臉”等深度合成技術快速發展，在服務用戶需求、改進用戶體驗的同時，也被一些不法人員利用，生成惡搞視頻、色情視頻在網上傳播、出售。記者注意到，在有關部門和網絡平臺不斷加強監管的背景下，一些“換臉軟件”和“定制換臉服務”轉向更隱秘的角落，形成地下黑灰產業鏈。
換臉應用“FacePlay"采取會員制的方式，為用戶提供視頻和照片換臉服務（應用頁面截圖）
記者在百度搜索關鍵詞“AI換臉”，查詢到一些標注為“廣告”的網站，仍在出售“明星換臉視頻”。根據網頁留下的QQ號，記者聯系到一個名為“深藍”的賣家，其隨后發來“百位明星合成視頻合集”的列表截圖，文件名上標注出多位大眾熟知的女明星。
“100部，打包價108元。”深藍表示，視頻文件將通過QQ文件發送，支持微信、支付寶、QQ紅包等支付方式。為了證明視頻的質量，深藍隨后發來幾張動圖，內容是幾位女明星被換臉后的淫穢視頻截圖。
另一個賣家則向記者發送了網盤鏈接。對方稱，視頻時長有幾分鐘到十幾分鐘不等，可以保證視頻質量。“如果你有特別喜歡的明星，我們可以為你提供定制服務，收費比較貴。”對方表示，一段時長約5分鐘的定制視頻要價188元，“兩三個小時就能給你”。
上述兩位賣家都聲稱，出售的明星換臉視頻是團隊自己制作的，深藍更是夸口稱“獨家發售，絕無僅有，質量有保證”。兩名賣家提供的明星換臉合成視頻流暢度極高，幾乎達到了真假難辨的程度。
實際上，演藝明星、社會名人更容易成為“AI換臉視頻”的受害者。近期，一名男性特效師將自己的臉替換到影視片段中，生成跟女星迪麗熱巴親吻視頻，引發粉絲抗議。
因不堪其擾，一些明星選擇維權。2021年8月，劉昊然工作室發布聲明稱，有人利用“AI換臉”技術傳播對劉昊然帶有侮辱性的視頻、截圖，同時含有誹謗言論的聊天記錄。該工作室表示已向警方報案。2021年9月，林俊杰因個人肖像被短視頻博主用“AI換臉”技術制作了大量的鬼畜視頻，起訴了平臺及該博主，要求其賠禮道歉并索賠27．5萬元。
相關應用仍可下載，賣家教授“AI換臉”技術
不僅有出售明星換臉成品視頻的賣家，各類提供“AI換臉”服務的App和小程序，仍在網絡中存在。更甚者，一些賣家要提供換臉技術教學服務，進一步降低這類技術的應用門檻，易造成對他人權益和社會公共安全的危害。
在手機應用商城，記者搜索“AI換臉”等關鍵詞，就有不少相關App推薦，如“AI換臉”“FacePlay”等。在某社交平臺上搜索“換臉”，也能看到不少“AI換臉”的小程序，如“AI換臉變裝”等。
記者下載了熱度最高的“FacePlay”App。該App有多款換臉模板可供選擇，包括AI繪畫、影視劇、氣質美女、男士專屬等，一鍵上傳照片便可生成換臉視頻。
要想在這些App和小程序上使用“AI換臉”功能，有些需要付費，以“FacePlay”為例，周會員17元、年會員398元。也有免費適用的App，一般用戶每日可享受一次免費“AI換臉”的機會，用完免費次數后可通過瀏覽視頻廣告獲取權限。
而在電商平臺，“AI換臉”“換臉”等關鍵詞已被屏蔽，但通過“明星視頻”“定制視頻”等更隱蔽的關鍵詞，仍能找到出售換臉軟件、定制明星換臉視頻及教授換臉技術的賣家。