我是廣告 請繼續往下閱讀
他表示,自己知道製作川普的圖片相當有趣,自己也曾這麼做過,「不過在大選期間最好還是暫停一下」。
《彭博社》指出,Midjourney可能採取的禁止方式取決於軟體版本,例如先前版本或許能製作一張川普被義大利麵全身覆蓋的圖片,但未來較新的版本將無法提供這種生成功能。霍爾茲表示,公司會「無聲無息地」禁止AI生成政治圖像,屆時用戶可能根本不會察覺。
美國總統大選在11月舉行,先前已經傳出多起靠AI技術產生的內容誤導或操控選舉結果之事,例如網路上曾流傳川普遭執法單位戴上手銬的影像,就是來自於Midjourney的繪圖,其餘還有川普在白宮與教宗方濟各(Pope Francis)會面、準備擁抱或親吻前COVID-19防疫官員佛奇醫生等圖,近期則傳出拜登的聲音被AI造假合成,呼籲民主黨選民「不要出門投票」。
該服務本身已有不少保障措施,用戶社群標準也明文規定禁止生成具缺德、有害、誤導成分的公眾人物或活動、或可能引起誤導的圖片,去年就曾因為一張「五角大廈遭轟炸」的假照片引發金融市場恐慌,導致美股短暫閃崩,白宮發言人尚皮耶(Karine Jean-Pierre)也表示,對新興技術如深偽(Deepfake)的潛在威脅表達擔憂,尤其是對11月總統選舉明顯造成的影響。