AI安全爭議持續延燒，這次連16世紀的法國預言家都被扯進來了！隨著美國AI公司Anthropic前研究員科克森近日震撼辭職、嚴正警告AI恐威脅全人類，法國預言家諾查丹瑪斯一首寫於500多年前的神秘四行詩，也再度在網路上瘋狂流傳，被部分網友解讀為古人早已預示「AI接管人類」的驚人劇情。
「孤獨的大腦」象徵電腦？500年前詩句掀熱議
根據英媒《每日郵報》報導，諾查丹瑪斯於1555年出版的經典著作《諸世紀》中，第四卷第31首四行詩寫道：「滿月高懸山巔，獨腦新賢者望見：受邀弟子以求永生，目光投向南方。雙手交疊於胸前，身軀置於烈火之中。」
▲500年前就預言AI滅世？諾查丹瑪斯神秘詩句再瘋傳（圖／截自Ｘ） 由於詩句中提到「孤獨的大腦」、「門徒」以及「不朽」等字眼，部分網友便將這些意象與電腦、AI乃至人類意識上傳的概念強行連結，認為詩中所謂的「新賢者」可能就是在暗指未來科技，而「不朽」則象徵著把記憶與思想永久保存在機器裡的概念,解讀相當大膽。
不過要提醒的是，這種解讀其實並非出自諾查丹瑪斯本人之口。真正源頭是美國催眠治療師坎農於1980年代末出版的《與諾查丹瑪斯對話》一書，她聲稱接受催眠的患者能夠與這名預言家「連結」，並把這段詩句解釋為未來會出現一名「天才」，將自身意識複製進「有機電腦」之中，讓知識能在肉身死亡後持續延續下去。
前研究員震撼辭職示警 「業界正拿人類命運下注」
這段塵封已久的古老詩句之所以會重新爆紅，導火線其實是科克森本月9日在社群平台X上發表的一篇辭職宣言。他在文中直言，部分研發先進AI的第一線人員，確實真心擔憂這項科技可能在2030年前後，帶來人類滅絕的風險，同時痛批各大企業在尚未真正解決「AI對齊」問題之前，就已經不負責任地急於競逐更強大的系統,等於是拿全人類的命運下注。
▲500年前就預言AI滅世？諾查丹瑪斯神秘詩句再瘋傳（圖／截自Ｘ） 所謂的AI對齊，指的是確保人工智慧的目標、判斷與行動,能夠真正符合人類的意圖與價值觀。科克森在接受媒體採訪時更形容,未來一兩年,很可能就是決定人類能否安全駕馭超級智慧的關鍵時期,說法相當駭人。
Anthropic對齊科學主管胡賓格隨後也跳出來附和，表示他個人估計,AI在未來10年內導致全人類滅亡的風險超過一成,不過他同時也坦承,這只是個人的風險判斷,並非已經獲得驗證的科學預測。《華盛頓郵報》則指出,科技界內部對於「AI滅絕論」的看法其實分歧甚大,部分研究人員認為這類警告絕對不容忽視,但另一派人士則批評相關說法過度渲染、太過科幻化。
Anthropic驚爆：真有人繞過限制研究病原體
值得注意的是，這股憂慮並非完全停留在想像層面而已。Anthropic近日就自曝，公司曾經封鎖多個用戶帳號，原因是這些帳號涉及利用AI進行可能支援生物武器的病原體研究,事態相當嚴重。
根據《金融時報》報導，Anthropic總共列出5宗具體個案，部分使用者甚至涉嫌刻意繞過地區與安全限制,並且刻意隱藏自己真正的研究目的,手法相當狡猾。Anthropic執行長阿莫迪也因此主張,整個產業應該放慢最先進模型的發布速度,並且引入獨立評估機制與國際安全標準;OpenAI執行長奧特曼與特斯拉執行長馬斯克,過去同樣多次公開警告AI失控的潛在風險。
已故盲眼預言家也被牽扯 專家：仍屬未來極端推演
除了諾查丹瑪斯之外，已故保加利亞盲眼預言家巴巴萬加近期也被捲入這波討論。網路上流傳她曾預測AI將取代大量工作機會、支配重要產業,並進一步引發就業與倫理危機。不過必須澄清的是,目前現存資料中,並沒有任何可供核實的錄音、逐字紀錄或文件,能夠證明她確實曾做出過相關預言,這部分很可能只是網路穿鑿附會的產物。
倒是機器智能研究所主席索雷斯,從比較貼近現實的角度提出警告,他指出,若超級智慧未來真的擁有自主製造能力,理論上確實有可能利用病原體、網絡系統,甚至是人形機器人來傷害人類。不過他也強調,這些終究仍屬於對未來極端情境的理論推演,目前並非已經真實發生的事實,提醒外界不必過度恐慌,但也不能完全掉以輕心。