中國利用生成式AI控制社群 「模仿美國選民」操弄政治色彩內容

▲中國的社群媒體假帳號網絡,利用生成式人工智慧(AI)技術操弄一系列具有政治色彩的內容,企圖擾亂2024年美國總統大選。(圖/翻攝自Boxmining)
▲中國的社群媒體假帳號網絡,利用生成式人工智慧(AI)技術操弄一系列具有政治色彩的內容,企圖擾亂2024年美國總統大選。(圖/翻攝自Boxmining)

國際中心楊雅婷/綜合報導

微軟(Microsoft)研究人員近期發表的最新研究報告中指出,今年三月以來,中國官方控制的社群媒體假帳號網絡,正在大量利用生成式人工智慧(AI)技術操弄一系列具有政治色彩的內容,企圖煽動美國選民的情緒,藉此擾亂2024年美國總統大選,報告顯示,這些社群媒體帳號疑似都是中國資訊戰行動的一部份,和美國司法部所指「(中國)公安部內的精英小組」的活動高度相似。

我是廣告 請繼續往下閱讀
微軟表示,中國在社群平台利用假帳號活動,今年三月起使用生成AI技術,用英語製造出大量帶有政治色彩的內容,並且還會「模仿美國選民」。微軟並未具體指出哪個社群媒體平台受到影響,但從報告的截圖看來,是截取自自臉書和推特(現為X)的貼文。

微軟研究人員表示,中國透過生成式AI創造的新內容「更引人注目」,因為生成式AI可以從頭創造出影像、文本和其他媒體;過去中國的視覺效果依賴數位繪圖、庫存照片拼貼和其他手工圖形設計,顯得相當粗糙、笨拙。

研究報告以一張中國帳號張貼的AI生成影像作為範例,這個影像描繪自由女神手持突擊步槍,旁邊附上字幕:「一切都被扔掉了。暴力女神。」

這些被識破的中國假帳號將位置設在美國境內、張貼美國政治口號,同時分享各式各樣國內政治議題的標籤,透過模仿讓自己看起來更像是美國人。

報導指出,這份報告看到社群媒體環境令人極度擔憂,美國即將進入準備2024年總統大選的階段,2016年俄羅斯曾透過操弄社群媒體干預二大選,這些「客製化」製造假消息的網路戰,若不加以遏止,將會成為民主的毒瘤。

我是廣告 請繼續往下閱讀
AI倪珍報新聞