AI越來越強，人類要怎麼確保它始終聽得懂、管得住？微軟14日拋出一份37頁的AI準則草案，直接替自家AI劃出紅線：必須維持在人類控制之下，而且不能抗拒被關閉。
綜合
《路透社》、
《商業內幕》報導，這份名為「人本AI行為準則」（Humanist AI Code of Conduct）的文件，是微軟為旗下AI模型制定的行為框架，目前開放外界提供意見，預計今年稍後再發布修訂版本。微軟AI首席執行長蘇萊曼（Mustafa Suleyman）表示，這套準則將成為未來AI模型的重要「憲章」。
AI再強，也不能自己當老闆
準則最受矚目的部分，是對AI「自主性」設下限制。微軟要求AI接受人類修正，不能抵抗關閉，也不能自行設定目標；即使AI認為某項任務應該完成，也不能因此違反人類設定的安全規範。
文件的核心理念只有一句話：「People matter more than AI」—人比AI重要。
微軟也明確表示，目前旗下AI不具備意識，因此不應主張自己擁有法律人格或權利，這一點尤其引人注意，因為AI究竟是否可能產生意識，以及未來是否應享有某些權利，已逐漸成為業界爭論的一部分。
為什麼現在突然立這些規矩？
就在Anthropic、OpenAI等AI業者，近期接連討論「放慢前沿AI發展」之際，微軟也開始把問題從「AI能做到什麼」，轉向「AI絕對不能做什麼」。
微軟執行長納德拉（Satya Nadella）同時向員工發出內部訊息，強調AI發展必須維持在人類控制之下，並支持更廣泛的第三方測試，甚至警告若AI公司為了搶速度而忽略安全，最終可能失去社會信任。
這並不代表微軟準備放慢AI競賽，相反的，微軟仍積極投入AI發展。不過，它現在似乎開始回答另一個問題：如果AI未來真的會比現在強大得多，在它變得更自主之前，人類能不能先把「煞車」寫進規則裡？
這也是這份37頁準則最值得注意的地方—微軟沒有預測AI末日，而是先假設一件更務實的事：AI可以越來越強，但最後的控制權，不能交出去。