AI換臉擬聲 規範迫在眉睫

　　最近一段時間，“AI”成為網路熱詞。從德國媒體用AI生成“舒馬赫專訪”內容併發表引發巨大爭議，到“AI孫燕姿”一夜爆紅，再到利用“AI換臉”10分鐘詐騙400萬元……隨著人工智慧進一步發展，原本用在影視和廣告領域的“AI換臉擬聲技術”被一些不法分子用來實施電信網路詐騙，網上甚至還有人專門出售“AI換臉擬聲”軟體和教程。規範“AI換臉擬聲技術”，迫在眉睫。

　　現狀

　　技術門檻變低

　　被濫用頻現

　　近來，網路上一些熱度較高的新聞似乎都與“AI換臉擬聲”有關。一名男性特效師將自己的臉替換到影視片段中，生成跟女星親吻視頻；一名網路博主在地鐵拍的日常生活照，遭不懷好意之人使用AI技術“一鍵脫衣”……因“AI換臉擬聲”引發的侵權事件年來屢屢發生：去年年底，杭州網際網路法院審理了一起因“AI換臉”App利用深度合成演算法侵害他人肖像權的案件；歌手林俊傑曾因個人肖像被用“AI換臉”技術製作了大量“鬼畜”視頻起訴短視頻博主；有人利用“AI換臉”技術傳播對演員劉昊然帶有侮辱性的視頻、截圖。

　　除了引發侵權問題，“AI換臉擬聲技術”還被一些不法分子用來實施電信網路詐騙，福州的郭先生10分鐘被騙走430萬元，安徽的何先生被騙245萬元……我市尚未對外公佈有利用“AI換臉擬聲技術”詐騙的案例，但警方一直對外進行相關防騙提示。

　　“AI換臉擬聲技術”究竟是一項什麼樣的技術？其適用領域是哪？“在人工智慧領域，AI換臉不算什麼新鮮事。”天津科技大學人工智慧學院副院長張賢坤告訴記者。這項技術最早可以追溯到2016年，當時一家名為DeepFake的網站發佈了一款“DeepFakeLab”的軟體，可以實現逼真的換臉效果。“AI換臉指應用人工智慧(AI)技術，通過人臉特徵建模，用深度學習的方法把人臉的部分特徵複製到另外一個人的臉上，並使得後者看起來更像，相當於把一個人的臉換成另外一個人的臉。”張賢坤説，這項技術原來主要用於電影、電視和廣告等領域，讓其中的特效更加逼真，提高觀眾的觀看體驗。如有高難度動作需要替身時，可以先讓替身實際參與拍攝後，再用“AI換臉技術”進行後期合成，這樣一來，不僅簡單方便，還能獲得很好的拍攝效果。

　　張賢坤認為，隨著人工智慧技術的不斷發展和完善，特別是電腦算力的提升，現在的“換臉”效果更加逼真，在電影、電視、廣告和遊戲領域得到了廣泛的應用。近年來，隨著深度學習等人工智慧技術的快速發展，特別是生成式對抗網路GAN(一種深度學習模型)的廣泛應用，AI合成的産品和服務越來越多，除了利用“AI換臉”外，還可以“換聲”。技術門檻變低，便出現被濫用的情況。

　　調查

　　網售軟體

　　就可輕易實現

　　記者在調查中發現，有不少可供免費下載的軟體，這類軟體一般都是有固定的視頻或者圖片模板，只要上傳人臉照片便可輕鬆實現“換臉”。記者嘗試在手機軟體下載程式中搜索“AI換臉”，一下子搜索出四五十款。記者選擇了一款有24萬人下載的軟體，從自己手機裏隨意選取了一張正面照，上傳到軟體給出的視頻模板中，不到一分鐘就自動生成換臉視頻，毫無違和感，並且可以保存在自己的手機裏、分享到社交平臺上。如果還想體驗高級功能，比如更多的模板、更快更好的效果，可以每個月花費10多元錢，解鎖會員功能。

　　AI還可以合成或克隆聲音。記者在電商平臺上搜索“AI擬聲”，有多家店舖提供服務。其中一家店舖寫著“AI孫燕姿、周傑倫、林俊傑，AI克隆自己”。記者從店舖客服處了解到，花28元就能購買一款軟體，安裝在手機、電腦等電子設備上，再按照教程操作，就可以輕鬆將自己唱歌的聲音AI合成歌手的聲音，相似度達到98%，“非常簡單，一學就會。”客服人員説。

　　在電商平臺，還有人專門做起教人“AI換臉”的生意。商家宣傳“影視面部追蹤特效，換頭變臉換裝AI程式插件”。記者以買家身份諮詢，商家介紹，買家支付368元後，他就可以提供一個電腦程式插件，把插件安裝在電腦上，可以隨意“AI換臉”，這個插件月銷量有50多單，買家評價“操作簡單還好用”。商家提供教程，半小時包會。如果實在不會，可提供線上指導或者遠端安裝。相對現成的“AI換臉”軟體多適用於已經給出的拍照場景、影視劇片段的替換合成，這樣用於“換臉”的照片不受限制，可合成的視頻片段也不局限于影視作品，像新聞、私人視頻等都可被“換臉”。商家給記者提供了幾段通過這款插件製作的“AI換臉”視頻，動畫片《冰雪奇緣》中艾莎的臉換成了《熊出沒》裏的光頭強；電影《喜劇之王》裏周星馳的臉被換成了動畫人物……“效果很逼真，可以隨意換臉。”商家説。

　　市民小劉告訴記者，她之前很喜歡看一些“AI換臉”的視頻，覺得好奇、好玩，還下載了一些軟體，經常玩“換臉”，並把照片和視頻分享到社交平臺上。但後來她意外發現自己的照片被人“AI換臉”成一段搞笑視頻，她便警惕起來，刪除了所有在社交平臺上發佈的照片和個人資訊。與小劉一樣，現在越來越多人意識到，“AI換臉”是一把雙刃劍，這項技術在一些領域得到了很好的運用，但目前也出現被濫用的情況，亟待規範這項技術的使用。

　　出路

　　專家呼籲

　　首要加大預防監管

　　天津師範大學法學院焦艷玲教授介紹，2019年，一款手機應用程式“ZAO”發佈後一時風靡全網，用戶只要將自己的照片上傳至應用程式，就可以對影視劇中人物換臉，引發了是否侵權的爭議。然而由於當時《中華人民共和國民法典》和《中華人民共和國個人資訊保護法》均未出臺，該應用程式是否構成侵權、違法的問題並沒有定論，只是基於該程式存在保護用戶隱私協議不規範、數據洩露風險的安全問題，被工業和資訊化部約談並要求整改。

　　而近期比較火的“AI孫燕姿”與應用程式“ZAO”的情況相似，都是借助人工智慧生成新作品，只不過前者的目的是“換聲”，後者的目的是“換臉”。兩者都需要對人工智慧模型進行資訊“投喂”和訓練，這就需要取得訓練的素材，比如大量的人臉圖像和個人語音。

　　“人臉圖像和語音看似普通，卻蘊含一個人獨一無二的生物特質──人臉特徵資訊和聲紋資訊，這些都屬於生物識別資訊，可以永久和唯一地識別個人身份。”焦艷玲説，我國于2020年和2021年分別頒布實施《中華人民共和國民法典》和《中華人民共和國個人資訊保護法》，兩部法律都對使用生物識別資訊進行了詳細規定。後者明確規定生物識別資訊為敏感個人資訊，對此類資訊的收集、存儲、使用、加工等限定了嚴格的條件──只有具有特定的目的和充分的必要性，並採取嚴格保護措施的情形下才能處理此類資訊，且處理時必須取得資訊主體單獨以及明示的同意。2021年，最高人民法院發佈了《關於審理使用人臉識別技術處理個人資訊相關民事案件適用法律若干問題的規定》，對資訊處理者違反法律、行政法規的規定或者雙方的約定使用人臉識別技術，處理人臉資訊、基於人臉識別技術生成的人臉資訊所引起民事案件的審判進行了全面規定。對自然人聲音的保護，依據《中華人民共和國民法典》第1023條，可以參照適用肖像權保護的相關規定。未經同意使用他人圖像和聲音進行AI創作，其行為已經構成了對個人生物識別資訊的侵權，可以依據上述法律規範要求行為人承擔侵權責任，這一點是沒有爭議的。如果在特定場景下實施“AI換臉擬聲”，例如對不雅視頻中的人物進行換臉，造成個人社會評價降低，還會構成名譽權的侵權。

　　另外，2022年12月，國家多部門聯合發佈的《網際網路資訊服務深度合成管理規定》，對我國境內應用深度合成技術提供網際網路資訊服務做出了全面規範。第六條規定：“任何組織和個人不得利用深度合成服務製作、複製、發佈、傳播法律和行政法規禁止的資訊，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律和行政法規禁止的活動。深度合成服務提供者和使用者不得利用深度合成服務製作、複製、發佈、傳播虛假新聞資訊。轉載基於深度合成服務製作發佈新聞資訊的，應當依法轉載網際網路新聞資訊稿源單位發佈的新聞資訊。”

　　近日，包頭警方公佈“和好友語音聊天10分鐘被騙430萬元”的案件，正是利用深度合成技術侵害他人合法權益的真實寫照。根據《中華人民共和國刑法》規定，利用“AI換臉擬聲”騙取他人財産的行為還構成了侵犯公民個人資訊罪。2022年12月26日，最高人民法院發佈指導性案例192號，明確使用人臉識別技術處理的人臉資訊以及基於人臉識別技術生成的人臉資訊屬於《中華人民共和國刑法》所規定的“公民個人資訊”。竊取或者以其他方法非法獲取上述人臉識別資訊，情節嚴重的，構成侵犯公民個人資訊罪。

　　“在如此全面的法律規定面前，利用‘AI換臉擬聲’實施違法行為的情況仍然屢屢發生，反映出核心問題並不在立法層面，而在於法律的執行層面以及公民的意識層面。”焦艷玲認為，加大對違法行為的預防和監管是目前首要的任務。同時，網路服務平臺應盡責審查，通過提升技術手段，加大對違法視頻的審查力度。公眾則應注意對個人圖像和語音的保存和保護，並加強對“AI換臉擬聲”危害的認識，多渠道辨別視頻人物的真實性。

　　人工智慧專家：

　　“AI換臉”識別軟體

　　將很快出現

　　那麼該如何辨別“AI換臉擬聲”視頻中人物的真實性呢？張賢坤認為，“AI換臉擬聲”技術被濫用，涉及人工智慧技術的倫理問題。雖然“AI換臉擬聲”如今可以做到以假亂真，但假的就是假的，通過電腦很容易就能辨別出來。例如，一般情況下視頻是每秒24幀以上，這是人眼分辨的極限，高清視頻可能達到每秒60幀，數值越高，視頻流暢度就越高。“AI換臉”是在每一幀不同的位置切入人臉，由於速度快，人眼難以識別，電腦卻可以進行圖片比對，未來應該很快會出現多種識別“AI換臉”圖片或者視頻的應用軟體。

　　在目前尚無相關軟體可用的情況下，人們也可以靠關注細節來辨別真人和“AI換臉”假人。“我們都知道外人很難區分雙胞胎，但是其家人是很容易認出他(她)們的，也就是説即使是雙胞胎，如果仔細觀察也有細微差別。至於‘AI換臉’的假人，我們可以通過對比原照片和換臉照片尋找是否有明顯差異，也可以觀察人臉的眼睛、嘴、鼻子等細節，例如，‘AI換臉’的假人臉部線條不夠柔和、眼眶和嘴巴太大或太小、整體臉部比例不協調。另外，也可以通過慢進拉長視頻間隔，發現不同時間點上畫面間是否存在瑕疵來辨別真偽。”在張賢坤看來，“AI換臉”技術更加關注的是人臉位置，還可以通過視頻前後背景等其他位置破綻識別真假。

　　提醒：

　　■ 如何防騙？

　　張賢坤特別指出，一般來説“AI換臉”的假人牙齒邊緣過於整齊，眼睛瞳孔顏色不一樣，反射光源不一致；正常人一般2到10秒眨一次眼，每次眨眼用時0.1至0.4秒，但假人眨眼頻率不正常；假人在視頻通話時，視頻會有跳動、閃爍的畫面，通話不順暢。

　　■ 如何避免被冒用身份資訊

　　去詐騙身邊人？

　　焦艷玲介紹，首要就是保護好個人資訊。不輕易提供人臉、指紋等生物資訊，儘量不在社交平臺發佈正面照片或者視頻；不要把身份證、銀行卡的照片存在手機裏，不要輕易在社交軟體上透露年齡、工作、個人所在地等資訊，及時卸載和登出不常用的手機App。