利用AI編造「火車撞死人」假新聞 中國首例ChatGPT犯罪遭逮

▲廣東一名男子涉嫌使用ChatGPT等生成式AI製造假新聞。(圖/翻攝自微信公眾號@甘肅公安)
▲廣東一名男子涉嫌使用ChatGPT等生成式AI製造假新聞。(圖/翻攝自微信公眾號@甘肅公安)

國際中心楊智傑/綜合報導

生成式AI如ChatGPT等寫作能力可以應用在許多創作上,然而資訊的真偽卻更需要經過查核。近日中國甘肅省警方逮捕了一名靠 ChatGPT製作「火車失事」假新聞的男子,這是中國頒布AI相關法律後的首起執法案例,目前該男遭控涉嫌尋釁滋事罪,案件正在進一步偵辦之中。

我是廣告 請繼續往下閱讀
甘肅省平涼市警方於4月25日發現,網路上流傳一篇新聞文章,內容提及「今晨甘肅一輛火車撞上修路工人致9人死亡」。根據初步調查,警方判斷該文章是則訊息不實的假新聞,經追查後發現該文章在同一時段由21個百度帳號同時發布,文章內容地點除了平涼市崆峒區外,還涉及蘭州、隴南、定西、慶陽等地,文章點閱量超過達1.5萬餘次。

根據中國公安局網安大隊調查,這些帳號皆屬於廣東深圳一間自媒體公司所註冊使用,警方在5月5日前往廣東該名嫌疑人住處進行取證,審訊後發現洪姓男子先是搜尋近年來中國討論度廣泛的社會新聞,並利用ChatGPT將特定元素例如時間、地點、日期或性別等進行修改,重新撰成一篇假新聞,藉由上傳這些文章讓帳號賺取流量再加以變現。

中國警方表示,該名洪姓負責人編造假新聞並散佈在網路上供人大量瀏覽的行為,已涉嫌尋釁滋事罪,因此對其採取刑事強制措施,最高可判處五年有期徒刑。

此外,這也是中國因應人工智慧發展,於今年1月起頒布《互聯網信息服務深度合成管理規定》後偵破的第一起事件。該規定要求任何使用人工智慧技術生成圖像、影像等內容,都必須特別標註為AI生產。

我是廣告 請繼續往下閱讀
AI倪珍報新聞