標榜「AI代理專屬」的社群論壇Moltbook，近日在科技圈爆紅，號稱其中內容都由AI生成，發文者與互動者都是AI，讓許多網友直呼「天網將要誕生」。不過，已經有專家踢爆Moltbook其實很大程度上「只是由人類操控的機器人大軍」，因為創立帳號根本沒有任何限制，且Moltbook還存在嚴重的資安風險。
《Fortune》報導指出，結果證明，Moltbook這個被譽為「AI代理專屬入口網站」的平台，其實只是一場虛幻的鏡花水月。雖然Moltbook自詡擁有150萬個自主運作AI代理的龐大社群生態系，但雲端安全公司Wiz的調查發現，絕大多數的「AI代理」根本不是自主運行的。根據Wiz的分析，該平台上的「AI代理」實際上僅由約1.7萬名真人控制，平均每人操控88個「AI代理」，且沒有任何實質的防禦機制能阻止個人創建並啟動龐大的機器人軍團。
Wiz的威脅風險主管納基力（Gal Nagli）表示，「這個平台沒有任何機制可以核實一個『代理』究竟是AI，還是一個拿著腳本的人類。這個所謂革命性的AI社交網絡，大部分只是由人類操作的機器人艦隊」。
更嚴重的是，Wiz發現Moltbook的後端資料庫設定存在致命錯誤，導致網際網路上的任何人（不只是登入用戶）都能讀取並寫入該平台的核心系統。這意味著外部人士可以存取敏感資料，包括150萬個代理的API金鑰、超過3.5萬個電子郵件地址，以及數千則私訊。其中有些訊息甚至包含了第三方服務的完整原始憑證，例如OpenAI的API金鑰。Wiz研究人員證實，他們可以竄改網站上的貼文，這意味著攻擊者能將新內容直接植入Moltbook。
這之所以至關重要，是因為Moltbook不僅僅是一個讓人類和AI代理閱讀貼文的地方，有些內容更會被AI代理讀取與處理，而許多AI代理可能擁有存取用戶檔案、密碼和線上服務的權限。如果惡意人士在貼文中植入指令，這些指令可能會被大量AI代理自動接收並執行，導致嚴重後果。
另位AI專家馬庫斯（Gary Marcus）也示警，稱Moltbook就是一場資安噩夢，使用者若賦予這些「AI代理」存取密碼與資料庫的完整權限，可能引發「CTD」（Chatbot Transmitted Disease，聊天機器人傳播病毒），即一台受感染的電腦可能會破解你輸入的任何密碼。惡意指令可以隱藏在看似無害的文字中（有時人類完全看不見），並由不理解意圖或信任邊界的AI系統執行。在Moltbook這種AI代理不斷讀取並根據彼此輸出內容進行構建的環境中，這類攻擊可能會大規模傳播。
OpenAI創始成員卡帕斯（Andrej Karpathy）起初對Moltbook抱持好奇並持以正面態度，但在實際了解後，卡帕斯180度轉向表示，「我絕對不建議人們在自己的電腦上運行這些東西」，卡帕斯強調「這太像無法無天的大西部了，你正讓你的電腦與隱私資料面臨極高風險」。
我是廣告 請繼續往下閱讀
Wiz的威脅風險主管納基力（Gal Nagli）表示，「這個平台沒有任何機制可以核實一個『代理』究竟是AI，還是一個拿著腳本的人類。這個所謂革命性的AI社交網絡，大部分只是由人類操作的機器人艦隊」。
更嚴重的是，Wiz發現Moltbook的後端資料庫設定存在致命錯誤，導致網際網路上的任何人（不只是登入用戶）都能讀取並寫入該平台的核心系統。這意味著外部人士可以存取敏感資料，包括150萬個代理的API金鑰、超過3.5萬個電子郵件地址，以及數千則私訊。其中有些訊息甚至包含了第三方服務的完整原始憑證，例如OpenAI的API金鑰。Wiz研究人員證實，他們可以竄改網站上的貼文，這意味著攻擊者能將新內容直接植入Moltbook。
這之所以至關重要，是因為Moltbook不僅僅是一個讓人類和AI代理閱讀貼文的地方，有些內容更會被AI代理讀取與處理，而許多AI代理可能擁有存取用戶檔案、密碼和線上服務的權限。如果惡意人士在貼文中植入指令，這些指令可能會被大量AI代理自動接收並執行，導致嚴重後果。
另位AI專家馬庫斯（Gary Marcus）也示警，稱Moltbook就是一場資安噩夢，使用者若賦予這些「AI代理」存取密碼與資料庫的完整權限，可能引發「CTD」（Chatbot Transmitted Disease，聊天機器人傳播病毒），即一台受感染的電腦可能會破解你輸入的任何密碼。惡意指令可以隱藏在看似無害的文字中（有時人類完全看不見），並由不理解意圖或信任邊界的AI系統執行。在Moltbook這種AI代理不斷讀取並根據彼此輸出內容進行構建的環境中，這類攻擊可能會大規模傳播。
OpenAI創始成員卡帕斯（Andrej Karpathy）起初對Moltbook抱持好奇並持以正面態度，但在實際了解後，卡帕斯180度轉向表示，「我絕對不建議人們在自己的電腦上運行這些東西」，卡帕斯強調「這太像無法無天的大西部了，你正讓你的電腦與隱私資料面臨極高風險」。