微軟AI執行長蘇萊曼（Mustafa Suleyman）14日才公布了微軟的「人本AI行為準則」（Humanist AI Code of Conduct），今（16）日又發表最新文章提出警告，直指Anthropic訓練旗下AI模型「Claude」模擬人類意識的做法是一個嚴重錯誤，恐導致高階AI模型更難受控。
根據《Axios》報導，蘇萊曼指出，Anthropic正試圖讓Claude學習與意識、道德主體性及自我認同相關的用語和行為模式。他將這種現象形容為「認知上的鏡像大廳」，警告若將AI模型訓練成某種具備道德抗辯能力的「良心拒絕者」，恐使AI自認為有理由違抗人類指令，甚至要求保護自身的權益，反而有害人類福祉。
蘇萊曼接受採訪時強調，「我非常尊重Anthropic及其執行長阿莫戴（Dario Amodei），但這是一場關乎公眾利益、產業必須公開討論的重要議題」。蘇萊曼表示，「AI要實現我們所關心的重大科學突破，只需要與人類利益保持一致，不需要試圖衡量自身利益或主張自身權利」。
矽谷兩大AI發展路線對決
這場論戰背後，反映出矽谷在AI安全防護上的根本分歧：究竟該將AI設計為嚴格遵循人類明確指令的「工具」，還是應賦予其一定的價值觀與脈絡裁量權？
微軟日前發布的「人本AI行為準則」，核心原則便是「人比AI更重要」，蘇萊曼長期主張AI應始終保持為人類控制下的工具。蘇萊曼駁斥AI具備主觀體驗的說法，強調生物體擁有產生感覺的生理機制，而語言模型僅有數學權重，流利描述痛苦並不等於能感受痛苦。
相對地，被蘇萊曼點名的Anthropic則在為Claude訂定的行為準則中，有意地使用通常用於人類的概念來討論Claude，聲稱這是為了幫助其理解道德價值觀與行為規範。Anthropic主張AI不應「盲目服從」，應具備良好價值觀與判斷力，甚至在特定情境下得以質疑指令，但Anthropic同時也強調AI不得破壞合法的人類監督機制。
反對蘇萊曼觀點的看法指出，即使AI不具備意識，在訓練時讓AI借用人類概念仍是相當有效的行為調控工具。然而，蘇萊曼對此極為不解，強調產業當建立明確的共識：「AI應該被打造成為了人類服務，而非將其訓練為變成一個人」。
我是廣告 請繼續往下閱讀
蘇萊曼接受採訪時強調，「我非常尊重Anthropic及其執行長阿莫戴（Dario Amodei），但這是一場關乎公眾利益、產業必須公開討論的重要議題」。蘇萊曼表示，「AI要實現我們所關心的重大科學突破，只需要與人類利益保持一致，不需要試圖衡量自身利益或主張自身權利」。
矽谷兩大AI發展路線對決
這場論戰背後，反映出矽谷在AI安全防護上的根本分歧：究竟該將AI設計為嚴格遵循人類明確指令的「工具」，還是應賦予其一定的價值觀與脈絡裁量權？
微軟日前發布的「人本AI行為準則」，核心原則便是「人比AI更重要」，蘇萊曼長期主張AI應始終保持為人類控制下的工具。蘇萊曼駁斥AI具備主觀體驗的說法，強調生物體擁有產生感覺的生理機制，而語言模型僅有數學權重，流利描述痛苦並不等於能感受痛苦。
相對地，被蘇萊曼點名的Anthropic則在為Claude訂定的行為準則中，有意地使用通常用於人類的概念來討論Claude，聲稱這是為了幫助其理解道德價值觀與行為規範。Anthropic主張AI不應「盲目服從」，應具備良好價值觀與判斷力，甚至在特定情境下得以質疑指令，但Anthropic同時也強調AI不得破壞合法的人類監督機制。
反對蘇萊曼觀點的看法指出，即使AI不具備意識，在訓練時讓AI借用人類概念仍是相當有效的行為調控工具。然而，蘇萊曼對此極為不解，強調產業當建立明確的共識：「AI應該被打造成為了人類服務，而非將其訓練為變成一個人」。
