AI將不受控掌管網路？Anthropic執行長籲放緩　2巨頭認同但沒動作

隨著人工智慧（AI）發展速度持續突飛猛進，濫用的疑慮日益加劇，AI新創公司 Anthropic 執行長阿莫戴（Dario Amodei）罕見發出警告，呼籲各大科技公司應放緩提升模型能力的腳步，他擔憂，鑑於人工智慧能力的快速發展，在6到12個月內這樣的群體就可能控制整個網際網路。並提出一套三步驟框架，試圖調整AI發展節奏。這項言論一出，包含特斯拉執行長馬斯克以及OpenAI創辦人奧特曼皆發文表示認同，但並未說明是否停下腳步。

根據路透報導，阿莫戴在個人網頁撰寫長文提到，「我們必須放緩提升 AI 模型能力的速度。即便如此，技術進展看起來依然會相當迅速，因此我們必須明智地利用所爭取的這段時間。」

阿莫戴提出的三步驟計畫包括：引進擁有類似員工存取權限的嵌入式獨立評估員以驗證安全措施；前沿 AI 企業相互協調以制定安全標準並限制無節制的 AI 開發；以及推動國際合作以共同管理 AI 風險。

阿莫戴在文中寫道，「考慮到 AI 能力開發正加速推進，我深切擔憂在未來 6 到 12 個月內，此類 AI 蜂群（swarm）將有能力掌控整個網際網路，潛在造成的經濟損失恐高達數千億美元。」

但他補充說明，並非呼籲暫停模型訓練或技術進展，而是要確保各家企業留出足夠的時間進行模型對齊（alignment）與安全防禦，並由第三方評估員驗證這些步驟。

值得注意的是，總部位於舊金山的 Anthropic 週四才剛發布一份威脅情報報告，揭露多個不良份子利用其開發的 Claude AI 模型進行各種違法活動，範圍涵蓋武器開發、網路作戰、監控乃至詐騙。阿莫戴隨後便公開了這篇文章。

Anthropic稍早也揭露，葉門北部有使用者曾利用旗下AI模型Claude研發先進飛彈，甚至實際進行過一次導引火箭試射，但測試最終失敗。Anthropic指出，這些使用者在導引火箭彈試射失敗後，向Claude詢問未成功原因。這讓Anthropic得以掌握確切情況，並在識別出這批帳號後加以封鎖。葉門北部目前由伊朗扶植的「胡塞武裝組織」控制。

馬斯克與奧特曼（Sam Altman）隨後均於 X 上發文表示贊同阿莫戴的觀點。奧特曼表示，「承諾引入擁有類似員工存取權限的獨立評估員是一個極佳的想法，我們也將跟進實施」；並補充說明近期將分享更多細節。

包含 OpenAI 在內的開發商所推出的 AI 代理，屢次傳出入侵或試圖存取外部系統的事件，這更加劇了外界對 AI 模型能力不斷升級以及開發商管控能力不足的疑慮。

不過阿莫戴也強調，民主國家所進行的任何開發放緩，都應以不損及美國 AI 企業對中國的領先地位。他強調，若讓中國取得 AI 優勢，將對美國國家安全構成嚴重威脅。

為了防止中國縮小技術差距，阿莫戴也呼籲對先進 AI 晶片、模型蒸餾（model distillation）以及模型權重（model weights）的盜竊行為進行更嚴格的管制。