拜登戀童假影片遭廣傳!Meta拍板IG、臉書「AI生成」標籤五月上路

▲Meta表示, Facebook、Instagram和Threads 5月起將開始標記人工智慧(AI)生成內容,從此也將不會刪除這些內容。(圖/meta)
▲Meta表示, Facebook、Instagram和Threads 5月起將開始標記人工智慧(AI)生成內容,從此也將不會刪除這些內容。(圖/meta)

國際中心楊智傑/綜合報導

美國總統大選將於今年11月登場,近期臉書上卻廣傳一段不實暗示美國總統拜登(Joe Biden)有戀童癖的影片且遲遲未下架,這讓Meta監察委員會啟動調查並做出第一個針對Meta有關變造影音內容政策的裁決,而作為社群媒體巨擘的Meta為此也宣布,將於5月起開始標記人工智慧(AI)生成的內容,且將適用於臉書、Instagram和Threads等社群平台。

我是廣告 請繼續往下閱讀
綜合《路透社》、《法新社》等外媒報導,由Meta出資但獨立運作的Meta監察委員會(Oversight Board)接獲用戶投訴,稱臉書(Facebook)出現一段暗示美國總統拜登具有戀童傾向、經過修改的7秒鐘影片,但該影片未被Meta下架,且被判定未違反公司現行規定。

Meta監察委員會去年10月對此案展開審查,並在報告中批評Meta在「變造影音內容」政策上過於狹隘,尤其是在人工智慧(AI)生成內容方面。這是第一起針對該公司相關政策作出的裁決,此類政策往往禁止用戶上傳特定類型經過竄改的後製影片;Meta監察委員會也提到,AI生成內容的進步已經使得深偽(Deepfake)合成影像變得越來越逼真,而人們也愈來愈難以分辨真假,提高透明度並標記AI生成內容,有助於減少誤導和混淆。

為此,Meta公司宣布,將從今年5月開始標記AI生成或修改的內容,包含在臉書、Instagram和Threads等旗下社群平台上,所有的影片、聲音內容以及圖片等等,這個作法將會在影音內容上標誌有「AI製作」(Made with AI)的標籤,協助用戶清楚識別這些影音內容的來源並藉此識別。

Meta也表示,為了避免過度刪除內容、保障言論自由,在7月後將停止過去相關規定當中「移除後製影片」的處理方式,這代表這些經過AI後製的內容,只要沒有違反其他如仇恨言論、干預選民等規定,就可以保留在這些社群平台上。

在2024年這個「超級選舉年」上,Meta的行動被認為是回應社會對於AI生成內容可能影響大選的擔憂,此前美國總統拜登、前總統川普都曾有不少遭深偽技術合成出來的影像,在初選期間還有選民接獲假造拜登聲音的來電,要求他們不要出門投票。

我是廣告 請繼續往下閱讀
鞋槓人生