AI失控怎麼辦？Anthropic共同創辦人呼籲設置「緊急關閉機制」

人工智慧（AI）快速發展之際，有關AI是否終將失控、對人類造成威脅的討論也越演越烈。Anthropic共同創辦人克拉克（Jack Clark）近日接受《BBC》專訪時建議，未來社會可能需要透過法律，要求AI公司設置可以完全關閉AI軟體的「緊急關閉機制」（kill switch），而且這套機制是否真的有效，還應該交由第三方驗證。

AI實驗室都有「拔插頭」方法　未來可能得強制

克拉克表示，目前包括Anthropic在內，大多數的AI實驗室，都有不同的方法，可以將AI系統關閉。不過，隨著AI能力持續提升，他認為問題已經不只是「企業自己有沒有準備這項機制」，而是未來是否應由政府制定規則，要求所有AI公司都必須具備。

此外，克拉克也指出，這套機制也需要考量能夠經過第三方驗證，換句話說，企業不能只是宣稱「我們關得掉AI」，而也要讓外部機構確認，在AI真的出現危險時，這道最後防線能夠切實發揮作用。

克拉克不預測AI滅絕機率　但反對「完全不管」

這番談話正值AI安全風險引發激烈討論之際。近期，Anthropic內部以及AI產業，陸續出現AI可能造成「極端後果」的警告，不過，當《BBC》詢問他認為AI滅絕人類的機率有多高時，克拉克並沒有給出具體數字，但他對AI監管的立場相當明確。

克拉克認為，讓AI成為一個「完全不受監管的產業」，並不是一件好事，形容目前人類正在「對一個巨大風險進行押注」，因此必須改變AI產業目前的發展方向。

Anthropic執行長也呼籲放緩　監管、競爭成兩難

克拉克接受《BBC》訪問前，Anthropic執行長達阿莫迪（Dario Amodei）就已公開呼籲，AI發展速度應該放慢，並接受更密切的監督。

不過，阿莫迪同時強調，任何限制AI發展的措施，都不應犧牲企業的商業競爭優勢，這也凸顯目前AI產業面臨的兩難：如果發展速度過快，可能增加安全風險；但若監管過於嚴格，則可能讓企業在全球AI競爭中落後。

美國已提出「Kill Switch Act」　英國態度不同

事實上，AI「緊急關閉機制」已經進入美國政策討論，由國會議員提出所謂的「Kill Switch Act」法案，要求AI公司具備關閉問題AI工具的能力；然而，美國總統川普（Donald Trump）對放慢AI發展持反對態度，甚至公開抨擊說AI可能接管世界、摧毀人類是「騙局」，任何限制AI與資料中心發展的行動，都可能讓中國取得優勢。

英國政府的立場也與克拉克不太一樣，它拒絕建立強制性的AI「緊急關閉機制」，理由是即使要求企業設置，也無法阻止這些技術在其他國家被開發或遭到濫用。

因此，克拉克此次接受《BBC》專訪，真正拋出的問題，並不是「AI是否一定會毀滅人類」，而是另一個更加實際的面向：倘若有一天，AI真的變危險，人類手上究竟有沒有一個經過驗證、能夠真正把它關掉的最後開關。