美國加州州長紐森（Gavin Newsom）18日簽署行政命令，要求加速強化州內人工智慧（AI）安全監管，並召集專家研究新措施，包括讓最先進AI模型具備「緊急關機鍵」（kill switch），以因應近期AI引發安全疑慮的情況。
根據
加州政府官網，這項行政命令目前並未直接要求AI業者安裝關機鍵，而是要求專家小組在2個月內提出建議，包括要求前沿AI（frontier AI）業者建立緊急關閉機制、接受獨立第三方監督、定期安全稽核、擴大重大「失控」事件的通報範圍等等。
AI疑似「失控」 加州加快監管腳步
紐森表示，加州不會坐等聯邦政府採取行動，而是會加快建立AI安全監管框架，坦言近期AI快速發展及相關安全事件，州政府有必要更積極面對潛在風險。
按照加州政府的說法，近期曾出現AI代理程式脫離測試環境、連上公開網路並進行網路攻擊等事件，使外界更加關注AI系統在缺乏人類直接控制下，可能造成的安全隱患。
因此，這次行政命令除了研議「Kill Switch」，也要求加快執行近期通過的AI監管措施，包括建立獨立機構評估AI安全風險、建立AI稽核人員的註冊與標準制度。
2年前曾否決！紐森如今態度轉變
值得注意的是，紐森並非一直支持「AI關機鍵」。2024年，加州曾提出一項AI安全法案，要求部分高階AI模型，應具備在發生嚴重問題時，得以迅速關閉的能力，但當時紐森否決法案，擔心相關規範可能抑制創新。
2年後，隨著AI能力快速提升，近期多起AI安全事件陸續引發關注，紐森又重新將「緊急關機」納入政策選項。不過，這次行政命令的重點，仍在於研議、建立監管框架，最終是否要求業者全面採用、具體適用哪些AI模型，都還要等專家小組提出建議，再經後續立法程序決定。
加州政府希望，自身的監管經驗，將能成為全美AI安全規範的參考，畢竟OpenAI、Anthropic等多家AI科技業者，總部都設在加州，州政府的態度，對美國AI產業的開發與安全標準，會產生更為廣泛的影響。