深偽技術氾濫!女性受害者換臉裸照普及 研究:色情網站瀏覽爆增

▲「深度偽造」(deepfake)合成的影像氾濫,美國一家社群媒體研究公司發現,這類色情網站短短一個月內就超過2400萬人瀏覽。(圖/美聯社)
▲「深度偽造」(deepfake)合成的影像氾濫,美國一家社群媒體研究公司發現,這類色情網站短短一個月內就超過2400萬人瀏覽。(圖/美聯社)

國際中心楊智傑/綜合報導

近年以「深度偽造」(deepfake)進行犯罪的手法,隨著生成式AI等技術發展而更加普及,從戰爭現場畫面、抹黑政治人物到數位性別暴力,這類經合成變造過的影像愈來愈容易被人們在網路上看見。美國一家社群媒體研究公司發現,利用深偽技術製造女性換臉裸體影像的網站,短短一個月內就超過2400萬人瀏覽。

我是廣告 請繼續往下閱讀
《彭博社》報導指出,AI發展飛快的同時,經由深偽製造的換臉裸照、私密影片也被廣為轉發分享,包含網路論壇Reddit、社群平台X(前稱推特)與臉書社團等出現的換臉裸體照片清晰度與擬真程度也日益臻至完善,許多受害者-大部分都是女性-的色情影像內容往往會在當事人完全不知情的情況下被製造出來。

致力於維護網路上公民權益的電子前哨基金會(Electronic Frontier Foundation)高階主管加爾佩琳(Eva Galperin)就指出,深偽技術的受害者如高中生、大學生等普通民眾,他們往往無從察覺自己張貼在社群媒體的照片與自己的樣貌被移植到其他女性的裸體照片上,就算發現了也很難透過現有的法律資源與資金採取行動或調查。

美國社群媒體帳戶分析公司「Graphika」更發現,這種提供深偽變臉移植裸體照服務的網站,在今年9月短短一個月內就有超過2400萬人瀏覽,使用者甚至可以自行將照片內的女性修改變造成裸身狀態。Graphika分析師拉卡托斯(Santiago Lakatos)指出,過去那些看起來相對很模糊的深偽作品,隨著技術發展已經慢慢被淘汰,「如今你可以自己創造出那些看起來很逼真的影像」

報導提到,Graphika發現這類色情網站多半因為開發者使用了免費模型,網站架設成本低廉,再加上成功在社群媒體的廣告上曝光,誘導社群媒體使用者下載應用程式或點擊網站,暗示用戶可以將簡單的把網站上的女性裸體與被害人的臉部特徵合成,並上傳至相關社群或受害者,而這種只要付費投放就能出現在應用程式商店或社群媒體的廣告,進而帶動更多人使用。

我是廣告 請繼續往下閱讀
AI倪珍報新聞