人工智慧新創巨頭Anthropic執行長阿莫戴(Dario Amodei)上週六(12日)發文呼籲業界放慢最先進模型開發，並引入獨立第三方評估等額外安全措施，並獲得OpenAI執行長奧特曼與xAI創辦人馬斯克等人口頭支持。為何AI三巨頭要突然喊話降速？外媒分析背後潛藏的市場詭計。
先後任職於 OpenAI 與 Anthropic 的 AI 研究員考克森（Jacob Coxon）在離職後發文表示，專注打造 AI 的人真心相信，它可以在這10年內殺死我們所有人。並強調這並非行銷噱頭，他還強調，按照目前的發展軌跡，到明年年底，一些最激進的失控場景可能發生。一旦模型能夠持續改進自身，其能力增長可能超過人類控制機制，最終發展到拒絕執行命令。考克森的貼文得到同樣在Anthropic工作的首席科學家胡賓格（Evan Hubinger）回應，他估計人類未來10年內滅絕機率超過10%，兩人的言論讓「AI末日論」在近一周掀起輿論。
根據BBC報導，過去這一週，在暢談AI成長與潛在回報的空檔，科技巨頭們發現自己不得不回應 Anthropic 研究人員考克森突如其來的辭職事件。但矽谷部分高層與投資人，對近期包含考克森在內等內部人士接連發出的警訊，抱持懷疑態度。
BBC指出，Anthropic 與 OpenAI 正準備進行可能創紀錄的首次公開募股（IPO），報導引述科技界人士說法，這些針對 AI 危險性的言論，或許目的在透過暗示產品的強大威力來製造炒作話題。
BBC提到，輝達執行長黃仁勳先前曾表示，認為 AI將導致人類滅絕的想法純粹是胡說八道，每年九月，矽谷高層巨擘皆會齊聚舊金山皇宮飯店（Palace Hotel），出席由投資銀行高盛（Goldman Sachs）主辦的會議，BBC引述與會者說法，黃仁勳也在會議現場談及考克森的言論，並當場反駁其內容不實。
部分評論者直指 Anthropic 製造恐慌，意圖藉此推動監管，進而排除競爭對手，讓自身與 OpenAI 壟斷市場。
投資公司 Altimeter Capital 負責人葛斯特納（Brad Gerstner）在網路上張貼黃仁勳在會議上的照片，並指責考克森的言論是「荒謬的誇大其詞」。
AI 平台 Hugging Face 執行長德朗格（Clement Delangue）也發表了看法，輝達上週宣布將收購 Hugging Face，而該平台今年稍早曾遭到 OpenAI 代理人的駭客攻擊，引發對 AI 安全的強烈抗議。他在 X 上寫道：「抱歉，但向雅各（考克森）詢問 AI 滅絕風險，就像向冷氣維修工詢問氣候變遷一樣。並非說這不重要或絕對錯誤，但我們該保持客觀視角。」
福斯新聞則點出，一些批評人士認為，Anthropic 和 OpenAI 尋求政府監管，是為了凍結它們相對於其他公司已經擁有的巨大優勢。 白宮前AI事務主管薩克斯（David Sacks）發文質疑兩家公司，「別再假裝需要獲得別人的許可了，也別再假裝放慢腳步的動機完全是出於利他。如果你們的產品導致了真正具破壞性的網路攻擊，你們將面臨巨大的產品責任風險。」
我是廣告 請繼續往下閱讀
根據BBC報導，過去這一週，在暢談AI成長與潛在回報的空檔，科技巨頭們發現自己不得不回應 Anthropic 研究人員考克森突如其來的辭職事件。但矽谷部分高層與投資人，對近期包含考克森在內等內部人士接連發出的警訊，抱持懷疑態度。
BBC指出，Anthropic 與 OpenAI 正準備進行可能創紀錄的首次公開募股（IPO），報導引述科技界人士說法，這些針對 AI 危險性的言論，或許目的在透過暗示產品的強大威力來製造炒作話題。
BBC提到，輝達執行長黃仁勳先前曾表示，認為 AI將導致人類滅絕的想法純粹是胡說八道，每年九月，矽谷高層巨擘皆會齊聚舊金山皇宮飯店（Palace Hotel），出席由投資銀行高盛（Goldman Sachs）主辦的會議，BBC引述與會者說法，黃仁勳也在會議現場談及考克森的言論，並當場反駁其內容不實。
部分評論者直指 Anthropic 製造恐慌，意圖藉此推動監管，進而排除競爭對手，讓自身與 OpenAI 壟斷市場。
投資公司 Altimeter Capital 負責人葛斯特納（Brad Gerstner）在網路上張貼黃仁勳在會議上的照片，並指責考克森的言論是「荒謬的誇大其詞」。
AI 平台 Hugging Face 執行長德朗格（Clement Delangue）也發表了看法，輝達上週宣布將收購 Hugging Face，而該平台今年稍早曾遭到 OpenAI 代理人的駭客攻擊，引發對 AI 安全的強烈抗議。他在 X 上寫道：「抱歉，但向雅各（考克森）詢問 AI 滅絕風險，就像向冷氣維修工詢問氣候變遷一樣。並非說這不重要或絕對錯誤，但我們該保持客觀視角。」
福斯新聞則點出，一些批評人士認為，Anthropic 和 OpenAI 尋求政府監管，是為了凍結它們相對於其他公司已經擁有的巨大優勢。 白宮前AI事務主管薩克斯（David Sacks）發文質疑兩家公司，「別再假裝需要獲得別人的許可了，也別再假裝放慢腳步的動機完全是出於利他。如果你們的產品導致了真正具破壞性的網路攻擊，你們將面臨巨大的產品責任風險。」
