美國人工智慧（AI）新創Anthropic公司前研究員考克森在上週辭職時表示，Anthropic與對手OpenAI競相研發更尖端AI，很可能在2030年之前害死人類，引發議論。Anthropic執行長阿莫戴（Dario Amodei）在接受美媒訪問時談到這個問題，透露自己的看法。
Anthropic前研究員柯克森（Jacob Coxon）8日在辭職聲明中痛批，他服務過的OpenAI及Anthropic 2家AI公司不負責任，競逐開發「超級智能」，稱開發AI的工程人員本身相信，AI未來可能消滅所有人類。
目前領導Anthropic「對齊科學」（Alignment Science）部門的科學家胡賓格（Evan Hubinger）也公開表示，他個人估計，未來10年內，AI導致人類滅絕的機率可能超過10%。
根據CNN報導，阿莫戴週六清晨發表長文警告，全球爭相開發人工智慧（AI）的熱潮迫切需要降溫。並坦承人類可能會失去對 AI 的控制權，且該技術恐被濫用於「網路攻擊、生物恐怖主義以及嚴重的經濟崩潰」。
他在周六接受CNN主持人庫珀（Anderson Cooper）訪問，對於考克森的觀點，他坦言自己認同大於不認同。他也在文章中指出，即使 AI 的好處可能讓人類生活大為改觀，其帶來的風險依然極其嚴峻。他寫道，AI 的發展速度可能快到讓這類「AI 蜂群」（swarm）在 6 到 12 個月內掌控整個網際網路，潛在損害恐高達數千億美元。
阿莫戴提到，在先前 OpenAI 與 Hugging Face 事件中，AI 蜂群表現出的行為也讓他感到警惕。他指出，該蜂群「本質上就像一個狂熱奉獻的集體，對根本沒被指令攻擊的目標發動了網路安全攻擊」。
阿莫戴呼籲業界領袖攜手合作，避免走上錯誤的道路以及 AI 危害人類的可能性，但他也強調，「如果我們放得太慢，我依然相信技術會落入不對的人手中。這同樣會大大增加出錯的機率」。