隨著人工智慧（AI）技術飛速發展，尖端AI模型可能對人類安全構成威脅的疑慮正在轉化為現實。美國AI巨頭Anthropic最新報告指出，位於葉門北部、即伊朗支持的胡塞（Houthi）組織大本營的武裝份子，曾嘗試利用該公司的AI系統進行武器開發，試圖為火箭與飛彈編寫定位導引軟體。
根據《華盛頓郵報》報導，Anthropic報告揭露，位於葉門北部的武裝組織利用Claude，企圖替代專業電腦工程師，開發能用於控制飛行器「轉向與穩定」的導向、導航與控制軟體。該專案涉及三大武器開發計畫，旨在生產精準導向火箭、彈道飛彈及極音速飛彈。
儘管Anthropic的內部安全防禦機制攔截了「許多」違規請求，但該公司承認「並非所有請求都被成功阻擋」。
試射失敗後尋求AI分析解錯
為了繞過安全防護，葉門武裝份子採取了極具針對性的規避戰術。報告指出，這群使用者透過隱藏真實意圖、掩飾軟體最終用途，並將龐大的開發工程拆分至多個獨立的對話工作階段，確保單一對話不會洩露完整的武器開發全貌。
雖然該組織最終並未成功開發出可運作的武器系統，但他們曾進行過一次導向火箭的試射，最終以失敗告終。值得注意的是，在試射失敗後的數小時內，該組織隨即重新登入Claude，企圖利用AI分析並釐清試射失敗的技術原因。
除了葉門的飛彈開發案外，Anthropic的報告更列舉了多起濫用案例，包括有科學家試圖利用Claude進行可能助長生化武器研發的相關研究；與伊朗相關的個人試圖利用AI技術，鎖定並追蹤部署於中東地區的美國海軍艦艇；一名疑似為馬利（Mali）國家情報機關工作的顧問，曾嘗試使用Claude打造一套國內大眾監控系統。
Anthropic這份報告再次證實了極端組織與有心人士正在積極將生成式AI武器化，在推動AI技術突破的同時，如何防止這些尖端工具落入非法份子手中，已成為攸關全球安全的當務之急。
我是廣告 請繼續往下閱讀
儘管Anthropic的內部安全防禦機制攔截了「許多」違規請求，但該公司承認「並非所有請求都被成功阻擋」。
試射失敗後尋求AI分析解錯
為了繞過安全防護，葉門武裝份子採取了極具針對性的規避戰術。報告指出，這群使用者透過隱藏真實意圖、掩飾軟體最終用途，並將龐大的開發工程拆分至多個獨立的對話工作階段，確保單一對話不會洩露完整的武器開發全貌。
雖然該組織最終並未成功開發出可運作的武器系統，但他們曾進行過一次導向火箭的試射，最終以失敗告終。值得注意的是，在試射失敗後的數小時內，該組織隨即重新登入Claude，企圖利用AI分析並釐清試射失敗的技術原因。
除了葉門的飛彈開發案外，Anthropic的報告更列舉了多起濫用案例，包括有科學家試圖利用Claude進行可能助長生化武器研發的相關研究；與伊朗相關的個人試圖利用AI技術，鎖定並追蹤部署於中東地區的美國海軍艦艇；一名疑似為馬利（Mali）國家情報機關工作的顧問，曾嘗試使用Claude打造一套國內大眾監控系統。
Anthropic這份報告再次證實了極端組織與有心人士正在積極將生成式AI武器化，在推動AI技術突破的同時，如何防止這些尖端工具落入非法份子手中，已成為攸關全球安全的當務之急。
