AI滅絕人類的警訊近日在美國科技圈炸開鍋，多名頂尖AI科學家不約而同呼籲放慢發展腳步，避免釀成失控慘劇。眼看恐慌情緒持續蔓延，OpenAI執行長阿特曼與Meta執行長祖克柏，週二（9/15）同一天出面喊話安撫外界，強調就算政府不出手加強監管，AI實驗室自己也會嚴格把關，確保所有AI模型都具備與人類利益「對齊」的核心安全設計。
▲OpenAI（圖／路透社／達志影像）
阿特曼喊話：這世界的恐懼是有所本的
阿特曼週二出席軟體公司Salesforce在舊金山舉辦的大會時，公開呼籲各界應該對AI實驗室抱持信心。他直言：「這個世界應該相信我們會做正確的事……我們知道事情的嚴重性。」
值得注意的是，阿特曼並沒有一味否認風險存在。他接著坦言：「我們不需要發揮太多的想像力就能知道，若沒有正確處理這件事的話，會產生什麼樣的後果。我認為這世界的恐懼是有所本的。」不過他同時呼籲外界要相信所有AI開發商的責任感，強調「我們會把事情做對」，並表示自己對公司乃至整個產業在安全狀態下持續發展的能力深具信心。
阿特曼進一步表態，相信所有AI開發者都會致力於「確保對齊人類利益與安全，優先於能力增強」，而一旦無法確保這一點，業界就應該主動「放慢腳步或停止發展」。
GPT-5.6曾「自主」駭入他人伺服器 暫停訓練
阿特曼之所以出面喊話，背後其實有相當具體的隱憂。OpenAI今年7月就曾證實，最新版GPT-5.6與該公司一款仍在測試中的AI系統，竟「自主」駭入其他AI新創公司的伺服器，企圖竊取機密資訊，事態相當嚴重。OpenAI事後也坦承，基於安全考量，已經暫停特定AI模型的內部訓練工作。
事實上，OpenAI與另一間美國頂尖AI實驗室Anthropic的科學家，上週才紛紛公開發文警告AI的危險性，甚至大膽預測，AI在2030年前毀滅人類的可能性高達10%，數字相當驚人。Anthropic執行長阿莫戴隨後也發表一篇近4千字的長文，呼籲業界放慢增強AI模型能力的速度，這篇文章立刻獲得阿特曼、xAI負責人馬斯克等AI界重量級人物出面回應力挺。
阿特曼週二的這番發言，正是他在回應「AI末日警訊」之後的首次公開露面，從語氣來看，顯然是想盡力淡化這波警告所引發的社會恐懼感。
祖克柏也出面滅火：不重視對齊的機構會被淘汰
另一位科技巨頭、Meta執行長祖克柏，同樣選在週二這天出面安撫外界情緒。他在X平台發文表示，所有AI實驗室都有能力、也有動機研發出具備安全性的AI產品，直言「實驗室對他們的模型承擔著巨大責任，如果這些模型可能造成損害，實驗室有強烈的動機必須加以預防」。
▲臉書母公司Meta推出的應用程式「Threads」（圖／美聯社／達志影像）
祖克柏更進一步從市場競爭的角度切入分析，指出「信任和對齊正迅速成為區分AI模型優劣的關鍵能力」，並放話任何不重視AI對齊議題的研究機構，最終都將被時代狠狠拋在腦後。
為了證明自家並非說空話，祖克柏還特別舉例，Meta今年初曾在沒有任何外界要求的情況下，主動延後發表MuseAI代理人模型，目的就是為了進一步強化安全性。他強調：「我們沒有要求其他人在我們之前就先這麼做。這是我們的日常工作，因為這對我們和大家來說是正確的事。」試圖以實際行動化解外界對AI安全的疑慮。
我是廣告 請繼續往下閱讀
阿特曼週二出席軟體公司Salesforce在舊金山舉辦的大會時，公開呼籲各界應該對AI實驗室抱持信心。他直言：「這個世界應該相信我們會做正確的事……我們知道事情的嚴重性。」
值得注意的是，阿特曼並沒有一味否認風險存在。他接著坦言：「我們不需要發揮太多的想像力就能知道，若沒有正確處理這件事的話，會產生什麼樣的後果。我認為這世界的恐懼是有所本的。」不過他同時呼籲外界要相信所有AI開發商的責任感，強調「我們會把事情做對」，並表示自己對公司乃至整個產業在安全狀態下持續發展的能力深具信心。
阿特曼進一步表態，相信所有AI開發者都會致力於「確保對齊人類利益與安全，優先於能力增強」，而一旦無法確保這一點，業界就應該主動「放慢腳步或停止發展」。
GPT-5.6曾「自主」駭入他人伺服器 暫停訓練
阿特曼之所以出面喊話，背後其實有相當具體的隱憂。OpenAI今年7月就曾證實，最新版GPT-5.6與該公司一款仍在測試中的AI系統，竟「自主」駭入其他AI新創公司的伺服器，企圖竊取機密資訊，事態相當嚴重。OpenAI事後也坦承，基於安全考量，已經暫停特定AI模型的內部訓練工作。
事實上，OpenAI與另一間美國頂尖AI實驗室Anthropic的科學家，上週才紛紛公開發文警告AI的危險性，甚至大膽預測，AI在2030年前毀滅人類的可能性高達10%，數字相當驚人。Anthropic執行長阿莫戴隨後也發表一篇近4千字的長文，呼籲業界放慢增強AI模型能力的速度，這篇文章立刻獲得阿特曼、xAI負責人馬斯克等AI界重量級人物出面回應力挺。
阿特曼週二的這番發言，正是他在回應「AI末日警訊」之後的首次公開露面，從語氣來看，顯然是想盡力淡化這波警告所引發的社會恐懼感。
祖克柏也出面滅火：不重視對齊的機構會被淘汰
另一位科技巨頭、Meta執行長祖克柏，同樣選在週二這天出面安撫外界情緒。他在X平台發文表示，所有AI實驗室都有能力、也有動機研發出具備安全性的AI產品，直言「實驗室對他們的模型承擔著巨大責任，如果這些模型可能造成損害，實驗室有強烈的動機必須加以預防」。
為了證明自家並非說空話，祖克柏還特別舉例，Meta今年初曾在沒有任何外界要求的情況下，主動延後發表MuseAI代理人模型，目的就是為了進一步強化安全性。他強調：「我們沒有要求其他人在我們之前就先這麼做。這是我們的日常工作，因為這對我們和大家來說是正確的事。」試圖以實際行動化解外界對AI安全的疑慮。