“大約在半年前，我的視頻評論區，突然湧來了很多人說看過我的‘視頻’……”
近日，一名女網紅關於“AI換臉”的曝光引發公眾關注！
該網紅稱，“疑惑地點開了視頻，視頻裡的女生正做著一些難以描述的動作。看著視頻裡那張跟我長得一模一樣的臉，憤怒得說不出話來。我突然意識到可能我的臉被AI盜用了……”
橙柿互動注意到，該網紅在視頻賬號裡有數百萬的粉絲。
今天（4月27日），記者聯繫了這名女網紅小菲（化名），暫時未獲得回覆。
類似事件也曾在浙江發生過：杭州檢察機關曝光了一個“女神群”，群裡發送的淫穢視頻有不少是犯罪嫌疑人使用“AI換臉”技術合成的，還可以根據顧客需要“私人定製”。
和明星“擁吻”、長得和特朗普“一模一樣”、馬斯克出現在“平民窟”……
關於“AI換臉”的事件，多次引發社會關注和擔憂。
“究竟是誰在盜用我的臉？”
女網紅小菲發文稱，“必須馬上搞清楚，究竟是誰在盜用我的臉？”
她發現，在境外社交平臺上有人冒充她註冊了假賬號。對方先是頂著她的名義搬運她的日常內容，等到粉絲人數差不多的時候，就以會員訂閱的方式販賣視頻。
為了吸引更多人的加入，新會員首月還是免費的。
此後只需要花費21.6美元，就可以在未來的半年裡源源不斷地收到那些所謂的only fans的盜臉色情視頻。
接著，小菲又去另一個社交網站搜索了一遍，發現了更多製作AI盜臉視頻的賬號！
這些賬號少則幾百粉，多則幾萬粉絲。其中量級較大的賬號一條新“作品”就可以獲得1k點贊量。
隨著小菲的深入瞭解，發現“AI盜臉”背後好像已經形成了一條完整的產業鏈：不法分子通過AI換臉技術賺錢。
他們將明星、博主甚至素人的臉製作成假的色情照片與視頻，明碼標價地獲取利益。
“我曾看到過一個網紅名單，表裡密密麻麻寫滿了我熟悉的名字。“他們根據博主的粉絲量級進行分類，假視頻價格在30-50元不等。但只要你花200元就可以進群，進群后不僅可以享受永久半價，甚至還能接‘私人定製’。”
“所謂的私人定製，即提供“一鍵脫衣”的合成服務。”
“只需要付費後給這些賬號發送帶人像生活照，他們就能通過AI合成的方式製成假的視頻。那些收到視頻的人除了滿足自己齷齪的慾望外，還可以將這些非法內容在網上傳播，上演一出造謠狂歡。”
“希望不再有更多女孩成受害者”
小菲稱，半年前，自己發現這件事的時候，安慰自己說“假的真不了”選擇了忍氣吞聲，直到最近又遭遇類似的事情。
她怒斥這種行為，“他們僅用幾分鐘的時間，就可以把女性的臉和身體拆解拼接當作商品兜售。”
“不管是為了滿足自己的性幻想還是為了掙錢，我想說這本質上就是對女性的侮辱、是一次網絡霸凌、是一場集體的性暴力。事情發生之後，我試圖去舉報這些賬號內容。後來想要通過法律途徑進行維權，結果發現這些賬號都是難以追蹤的海外ip。而傳到國內聊天群裡的視頻也已經過多次轉手，難以找到找到源頭。”
小菲稱，只要這種“私人定製”服務還在，只要有一張自拍或者一條露臉視頻被傳到互聯網，任何女孩都有可能成為受害者。
近期類似事件頻發，地鐵女生被“一鍵脫衣”，利用AI模型生成女藝人虛假圖片等等。
小菲稱，“我有必要站出來要讓大家關注這件事情。如果有人看到這樣的視頻或圖片，也希望不要傳播和攻擊。網絡不是法外之地，希望不再有更多女孩成為受害者。”
換臉軟件背後 暗藏法律風險和侵權糾紛
在網購網站，橙柿互動輸入“換臉”的關鍵詞，立刻彈出大量售賣頁面。
記者發現，這些換臉商品多屬於虛擬物品，有開發的APP，有技術售賣。
一家出售換臉軟件的商家宣稱：可用於視頻換臉和實時直播換臉；可自行訓練模型，隨意換臉成自己想要的人物。
不過，店家巧妙地提醒：注意不要侵犯別人肖像權，切記不要拿去做灰產。
還有售賣AI智能換臉技術的腳本和詳細教程，宣稱效果牛逼功，支持視頻換視頻，還支持3D卡通換臉。
那麼，什麼是AI換臉技術？
AI換臉，是指通過AI人工智能技術，把別人的臉換成自己的臉。
目前，AI換臉的技術發展飛速，變換出來的臉部表情自然，效果逼真。
整個過程只需要通過一張照片，用AI技術在軟件上使用自己的照片替視劇或者小視頻中的人物，從而生成以自己為主角的視頻。
橙柿互動發現，在購物網站上，有人把《神奇女俠》蓋爾·加朵的臉，完美替換成明星迪麗熱巴的。
還可以把國際科技大腕埃隆·馬斯克，植入自己生活的街頭小巷。
4月7日，浙江杭州蕭山區檢察院曝光的一個“女神群”，引發關注。
名為“女神群”，群成員卻都是一群大老爺們。每天都不停地有人入群，但除了群主虞某外，很少有人發言。
早在2020年，“AI換臉”剛剛在國外興起的時候，80後安徽小夥虞某就對它產生了興趣，自學掌握了這門技術。
後來隨著“AI換臉”技術的走紅，讓虞某嗅到了商機。
虞某先是將原本建的“換臉軟件資源群”的群名更改為“女神試看群”，後又通過互聯網下載了部分淫穢視頻，截取片段後發佈在該公開群中，吸引、招攬觀看者加入。
當觀看者達到一定人數後，虞某會發布群消息稱，繳納198元-498元不等的“會費”，進入“內部群”可以收看完整版。
除此之外，虞某表示，“內部群”裡發送的淫穢視頻有不少是由其本人使用“AI換臉技術”合成的，根據顧客的需要還可以使用不同的女明星的形象，進行“私人定製”。
其中，經警方查實，幾位人氣女明星成了虞某“AI換臉”淫穢視頻的“重災區”。
蕭山區檢察院依法以製作、傳播淫穢物品牟利罪對虞某提起公訴。案件目前正在法院審理中。
有法律界人士認為：近年來，“AI換臉”走紅網絡，一些“AI換臉”的App使用明星的圖片製作換臉視頻進行推廣，其趣味性背後暗藏不少法律風險和侵權糾紛。
橙柿互動了解到， 4月11日，國家網信辦起草了《生成式人工智能服務管理辦法（徵求意見稿）》，向社會公開徵求意見，意見反饋截止時間為2023年5月10日。
《徵求意見稿》共21條，從生成式人工智能服務商的准入，到算法設計、訓練數據選擇、模型、內容，以及用戶個人隱私、商業秘密等方面提出了相關要求。
要求尊重他人合法利益，防止傷害他人身心健康、損害肖像權、名譽權和個人隱私，侵犯知識產權的行為發生，禁止非法獲取、披露、利用個人信息和隱私、商業秘密。
AI換臉技術實行侮辱誹謗可構成侵權
浙江金道律師事務所的夏文忠律師認為，為了應對AI換臉技術對公民的侵犯，《民法典》第一千零一十九條規定：
任何組織或者個人不得以醜化、汙損，或者利用信息技術手段偽造等方式侵害他人的肖像權。
未經肖像權人同意，不得製作、使用、公開肖像權人的肖像，但是法律另有規定的除外。
未經肖像權人同意，肖像作品權利人不得以發表、複製、發行、出租、展覽等方式使用或者公開肖像權人的肖像。
夏文忠律師指出，AI換臉技術利用人工智能技術對圖片或視頻中的目標人臉進行針對性置換，自然涉及到上述條款對肖像權的規定。
需要特別注意的是，該條款不以營利目的為前提。
此外，《民法典》第一千零二十四條規定：
民事主體享有名譽權。任何組織或者個人不得以侮辱、誹謗等方式侵害他人的名譽權。
名譽是對民事主體的品德、聲望、才能、信用等的社會評價。
因此，如果通過AI換臉技術實行侮辱、誹謗之行為，給他人的社會評價造成負面影響，則可能構成對他人名譽權的侵犯。
如果捏造事實誹謗他人，情節達到嚴重的情況下，則可能構成誹謗罪。《刑法》第二百四十六條規定：
以暴力或者其他方法公然侮辱他人或者捏造事實誹謗他人，情節嚴重的，處三年以下有期徒刑、拘役、管制或者剝奪政治權利。
前款罪，告訴（被害人自己起訴到法院）的才處理，但是嚴重危害社會秩序和國家利益的除外。
通過信息網絡實施第一款規定的行為，需要被害人向人民法院告訴，但提供證據確有困難的，人民法院可以要求公安機關提供協助。
例如餘杭取快遞女子被造謠事件，法院經審理認為：
被告人郎某某、何某某出於尋求刺激、博取關注等目的，捏造損害他人名譽的事實，在信息網絡上散佈，造成該信息被大量閱讀、轉發，嚴重侵害了被害人谷某某的人格權，影響其正常工作生活，使其遭受一定經濟損失，社會評價也受到一定貶損，屬於捏造事實通過信息網絡誹謗他人且情節嚴重，二被告人的行為均已構成誹謗罪，公訴機關指控的罪名成立。
需要說明的是，本罪是自訴罪名，需要被害人自己前往人民法院提起自訴，除非是情節惡劣至已嚴重危害社會秩序和國家利益。
同樣是快遞女子被造謠案件，法院經審理認為：
鑑於二被告人的犯罪行為，已並非僅僅對被害人谷某某造成影響，其對象選擇的隨機性，造成不特定公眾恐慌和社會安全感、秩序感下降。
誹謗信息在網絡上大範圍流傳，引發大量淫穢、低俗評論，雖經公安機關闢謠，仍對網絡公共秩序造成很大沖擊，嚴重危害社會秩序，公訴機關以誹謗罪對二被告人提起公訴，符合法律規定。
夏文忠律師指出，類似女網紅小菲所遭遇的事件，故意去傳播明知道是AI換臉的視頻的話，除涉嫌侵犯前述肖像權、名譽權，需要承擔民事責任外，還可能因涉嫌傳播、組織製作不雅視頻的行為受到行政處罰。
如罰款、沒收違法所得、沒收非法財物、責令停業整頓、吊銷執照等。以及因涉嫌製作、販賣、傳播淫穢物品罪，而需承擔相應的刑事責任。
橙柿互動·都市快報記者 程瀟龍