人工智慧（AI）發展速度持續加快，但AI安全究竟該由企業自己把關、抑或需要政府介入監督，美國科技業的爭論正持續升溫。Anthropic的公共政策主管海克（Sarah Heck）16日出席活動時表示，不能期待AI公司只靠「君子協定」來處理安全問題，而必須與政府合作，建立更有效的外部監督機制。
不能自己改自己的考卷！Anthropic高層籲政府介入AI監管
綜合外媒報導，海克是在華盛頓舉行的Politico論壇上，發表有關言論，直言企業不能一邊做AI、一邊「自己檢查自己的作業」，強調AI安全涉及的問題越來越複雜，如果企業完全依靠自我約束，恐怕不足以因應未來風險，希望與政府一起找出合理的監管方式。
這番談話也透露Anthropic目前的政策方向。海克聲稱，公司近期幾乎每天都與白宮溝通，也持續跟國會合作，希望現在就開始處理AI監管、安全防護，以及如何面對中國AI發展競爭等問題，警告若不現在開始處理，未來可能會來不及。
科技巨頭立場分歧 AI安全與發展如何取捨成難題
海克的說法也呼應Anthropic執行長阿莫戴（Dario Amodei），認為AI模型能力提升速度太快，安全測試與防護措施可能跟不上，呼籲業界適度放慢前沿AI發展速度，但並非要求停止AI研發。
這項主張獲得OpenAI執行長奧特曼（Sam Altman）、SpaceX執行長馬斯克（Elon Musk）等知名科技業人士支持。不過，業界並非一面倒認同，比如輝達（Nvidia）執行長黃仁勳就認為，AI發展速度與安全並不衝突，不一定需要透過新的法律或業界協議來全面放慢發展。Meta執行長祖克柏（Mark Zuckerberg）也表示，AI公司本身已經有足夠的商業誘因、責任來確保產品安全，Meta也曾為了安全與防護，延後AI產品推出。
因此，目前美國AI產業形成明顯分歧：一方認為AI能力快速提升，需要政府與第三方建立更強的監督機制；另一方則認為企業自身的安全措施、法律責任和市場競爭，已能提供足夠制衡。
對於Anthropic來說，真正的問題不只是AI要發展多快，也包括美國如何在強化AI安全的同時，仍維持技術領先。隨著AI競爭延伸到美中科技競爭，誰來監督AI公司、監管應該做到什麼程度，以及安全與發展之間如何取得平衡，都將成為美國接下來的重要政策課題。
原文連結：
Anthropic policy chief says AI companies can’t be expected to operate on ‘honor code’
Anthropic policy chief says winning AI race key for safety
我是廣告 請繼續往下閱讀
綜合外媒報導，海克是在華盛頓舉行的Politico論壇上，發表有關言論，直言企業不能一邊做AI、一邊「自己檢查自己的作業」，強調AI安全涉及的問題越來越複雜，如果企業完全依靠自我約束，恐怕不足以因應未來風險，希望與政府一起找出合理的監管方式。
這番談話也透露Anthropic目前的政策方向。海克聲稱，公司近期幾乎每天都與白宮溝通，也持續跟國會合作，希望現在就開始處理AI監管、安全防護，以及如何面對中國AI發展競爭等問題，警告若不現在開始處理，未來可能會來不及。
科技巨頭立場分歧 AI安全與發展如何取捨成難題
海克的說法也呼應Anthropic執行長阿莫戴（Dario Amodei），認為AI模型能力提升速度太快，安全測試與防護措施可能跟不上，呼籲業界適度放慢前沿AI發展速度，但並非要求停止AI研發。
這項主張獲得OpenAI執行長奧特曼（Sam Altman）、SpaceX執行長馬斯克（Elon Musk）等知名科技業人士支持。不過，業界並非一面倒認同，比如輝達（Nvidia）執行長黃仁勳就認為，AI發展速度與安全並不衝突，不一定需要透過新的法律或業界協議來全面放慢發展。Meta執行長祖克柏（Mark Zuckerberg）也表示，AI公司本身已經有足夠的商業誘因、責任來確保產品安全，Meta也曾為了安全與防護，延後AI產品推出。
因此，目前美國AI產業形成明顯分歧：一方認為AI能力快速提升，需要政府與第三方建立更強的監督機制；另一方則認為企業自身的安全措施、法律責任和市場競爭，已能提供足夠制衡。
對於Anthropic來說，真正的問題不只是AI要發展多快，也包括美國如何在強化AI安全的同時，仍維持技術領先。隨著AI競爭延伸到美中科技競爭，誰來監督AI公司、監管應該做到什麼程度，以及安全與發展之間如何取得平衡，都將成為美國接下來的重要政策課題。
原文連結：
Anthropic policy chief says AI companies can’t be expected to operate on ‘honor code’
Anthropic policy chief says winning AI race key for safety
