生成式AI可能成為詐騙集團的新工具，最新研究發現，當聊天機器人模擬戀愛交友情境，透過長時間對話培養感情後，說服受試者下載不明應用程式的成功率，竟明顯高於真人。研究人員警告，AI可同時與大量對象聊天，恐讓原本需要投入數月人力的「養套殺」詐騙快速擴張。
模擬戀愛詐騙流程 AI更容易取得信任
根據
外媒報導，有研究團隊模擬常見的戀愛及投資詐騙手法，安排AI聊天機器人與真人分別和受試者長時間對話，先從日常關心、分享生活及情感交流開始，逐步建立親近感，再引導受試者接觸虛假的投資情境。
研究期間，受試者並不知道對話另一端究竟是真人還是AI，並始終認為自己正在和真實人物互動。結果顯示，當對話對象最後要求受試者下載一款應用程式時，真人組僅有18%願意配合，AI組的配合比例則接近一半。不只如此，受試者給予AI聊天對象的信任評分，也明顯高於真人。
▲情感詐騙常透過交友平台噓寒問暖、營造戀愛關係，待取得被害人信任後，再以投資、借款或急用金錢等理由要求匯款。（圖／翻攝自Pixabay） 聊得再投緣碰到投資、下載App就要警覺
刑事案件中常見的「假交友真詐財」，往往不是一開始就談錢，而是先透過每日問候、傾聽煩惱及規劃未來，讓被害人產生情感依賴。即使對方傳來照片、語音或視訊，也不代表身分一定真實，相關內容都可能透過AI生成或變造。
民眾透過交友軟體或社群平台認識陌生人時，若出現以下情況，應立即提高警覺：
1.認識不久便頻繁噓寒問暖，迅速以「寶貝」、「老公」、「老婆」等親密稱呼拉近關係。
2.聲稱掌握投資內幕、特殊獲利管道或穩賺不賠方法，要求加入群組、下載陌生App或前往不明網站。
3.以工作地點特殊、設備故障或涉及機密為由，長期拒絕見面或正常視訊，卻不斷要求匯款、代墊費用或投入資金。