首頁社會—正文
網上AI換臉軟件可輕松找到 有商家稱“100%逼真”
2025年03月14日 09:24 來源:大皖新聞客戶端

  連日來,知名模特葉凱薇被人利用AI換臉制作淫穢視頻傳播一事持續(xù)引發(fā)熱議,也再次讓AI換臉濫用引發(fā)的違法侵權行為受到關注。大皖新聞記者探訪體驗發(fā)現(xiàn),網上能輕松找到相關應用軟件,制作AI換臉視頻,電商平臺也有商家售賣此類軟件,甚至宣稱能做到“100%逼真”。對此,專家表示,防范此類風險,需法律、應用工具、視頻平臺多方齊發(fā)力。

  網上AI換臉軟件和教程可輕松找到

  一鍵生成視頻

  3月13日,大皖新聞記者體驗發(fā)現(xiàn),在多個社交平臺搜索關鍵詞“AI換臉”,均會出現(xiàn)“溫馨提示”,諸如“該內容僅供娛樂,切勿輕信,謹防詐騙”“道具使用需依法依規(guī),也請注意識別他人是否借此營造虛假人設,不當獲利”等。在某社交平臺,溫馨提示下方即是各種推薦AI換臉軟件、網站的帖子,其中不少都以女明星的照片作為封面圖,甚至打出了“一鍵換臉,秒變明星臉”“換臉就這么簡單”“AI換臉最強插件”等頗具吸引力的標語,在評論區(qū),還有不少網民留言追問如何獲取、使用。

  在某短視頻平臺,記者看到,搜索“AI換臉”出來的內容更為豐富,不僅有自帶使用工具鏈接的AI換臉教程,還有各種小程序、特效、免費軟件供選擇。在一些教程視頻中,直接選取影視片段,將明星演員臉部替換,契合程度不一,有的較為粗糙,有的則較為自然,乍一看難以輕易區(qū)分。

  點開其中一款工具,記者看到,有各種場景視頻供選擇,多以影視片段為主,選定場景后,可以選擇人臉照片。記者隨機上傳了一張人臉照片后,跳出付費頁面,單次付費視頻換臉為2.88元,周會員為15元,月會員為30元,標注可無限次免費制作。付費后,沒多久視頻就制作完成,原本視頻中明星演員的臉部已經成功替換,雖然面部表情有些生硬,但整體已較為契合。

  單次2.88元即可生成換臉視頻
單次2.88元即可生成換臉視頻

  電商平臺售賣AI換臉軟件,有商家宣稱“100%逼真”

  而在電商平臺,大皖新聞記者同樣搜索“AI視頻換臉”,要么顯示暫無相關商品,要么直接跳出法律提醒。記者轉而搜索“AI換”,則顯示有不少可以提供AI技術轉換的商家,人物圖片、視頻可一鍵轉換,收費標準從10元到50元不等。記者以購買者的身份咨詢,一名客服介紹,付費后,會提供一款軟件用于視頻換臉,上傳后一鍵轉換,操作簡單。另一名客服更是介紹,他們的軟件不僅可以換臉,還可以克隆聲音,只需提供一張照片或者一個視頻直接一鍵生成,高清導出,還沒有次數(shù)限制,“不用擔心不會使用,我們老師一對一進行指導,并且做到100%逼真!痹摽头f道。

  多個商家客服均表示,可以用明星照片實現(xiàn)視頻換臉,當記者詢問此舉是否有風險時,得到的答復則是“娛樂使用即可”“不會的,放心”。記者進一步追問是否可以給裸體視頻換臉時,一名客服回答:“拍下即可,測試過的,放心親!绷硪幻头⻊t表示,其不知曉,下載后自己操作即可。

  電商平臺有商家售賣相關換臉軟件
電商平臺有商家售賣相關換臉軟件

  而在另一家電商平臺,記者看到,直接搜索“AI視頻換臉”顯示無相關商品,搜索“AI換”同樣會出現(xiàn)可提供換臉、換裝服務的商家。記者再次以購買者的身份聯(lián)系多個商家,對方均表示無法進行明星視頻換臉。問及原因,一位客服稱是因為肖像權的原因不做,另一位客服則回答:“這個不行了,沒了!

  在探訪過程中,記者還發(fā)現(xiàn),有的應用程序還會在操作中,彈出溫馨提示,禁止上傳涉黃違規(guī)內容,一經發(fā)現(xiàn)將永久禁止。

  應用程序彈出溫馨提示,禁止上傳涉黃內容
應用程序彈出溫馨提示,禁止上傳涉黃內容

  專家:防范風險,需法律、應用工具、視頻平臺多方發(fā)力

  對此,大皖新聞記者采訪了安慶師范大學傳媒學院副教授(復旦大學傳播學博士)劉志遠,其表示,隨著AI技術的發(fā)展,聲音克隆和換臉技術越來越普及,門檻也越來越低。市面上提供了很多易于使用的工具,比如手機APP、小程序等,使得普通用戶也能方便使用人工智能工具,但風險也隨之而來。

  面對AI使用過程中存在的風險,又該如何防范呢?劉志遠認為,一方面,在工具源頭(尤其是涉及到AI換臉和克隆聲音功能的)加入水印功能,即這類工具生成的內容自動加入顯式和隱式水印,顯式水印明確表示這是AI生成的,隱式水印便于追蹤和回溯。同時,工具自身也需要提供AI生成內容所可能帶來后果的警示信息,提醒用戶。另一方面,各大視頻平臺也需要加強AI生成內容的檢測力度,對可能是AI生成的內容予以醒目提示,比如“該內容可能是AI生成的”等。

  “當然,最重要的,我覺得還是從法律法規(guī)層面加強管理,制定AI使用相關的法律法規(guī),規(guī)定AI使用和適用場景等,明確換臉和克隆技術可能帶來的風險和法律后果!眲⒅具h說道。

  大皖新聞記者 韓喻 實習生 章雅婷

編輯:孫婷婷