AI恐導致人類滅亡?多名專家連署聲明 風險等級「等同核戰」

▲數十名專家連署了一份簡短聲明指出,應對AI帶來的人類滅絕風險,應是「與應對疫情和核戰同層級的全球優先要務」。(圖/取自Pixabay免費圖庫)
▲數十名專家連署了一份簡短聲明指出,應對AI帶來的人類滅絕風險,應是「與應對疫情和核戰同層級的全球優先要務」。(圖/取自Pixabay免費圖庫)

國際中心徐筱晴/綜合報導

由美國OpenAI公司推出的人工智慧(AI)聊天機器人ChatGPT在去年底橫空出世後,隨即在全球各地引爆熱潮,但各行業也因為AI技術興起,引發對生死存亡的擔憂。近來包括OpenAI與Google Deepmind負責人在內的一群業界高管和專家警告指出,AI很可能導致人類的滅絕。但也有科學家認為,這種說法有誇大之嫌,各界意見分歧。

我是廣告 請繼續往下閱讀
綜合《路透社》、《法新社》等外媒報導,一項公布在非營利組織「人工智慧安全中心」(Center for AI Safety,CAIS)網頁的最新聲明指出,AI帶來的人類滅絕風險與疫情和核戰同層級,呼籲各國立法者應專注於降低AI帶來的「末日等級」的風險,「緩解AI帶來的滅絕危險應該跟大流行與核戰等其他社會性規模危險一起成為全球優先事項。」

在聲明下方署名的學者與公眾人士包括OpenAI執行長阿特曼(Sam Altman)、Google Deepmind執行長哈薩比斯(Demis Hassabis)、Anthropic創辦人兼執行長阿莫戴(Dario Amodei)、研究AI先驅科學家辛頓(Geoffrey Hinton)、蒙特婁大學教授班吉歐(Yoshua Bengio)等人。

由於ChatGPT可以依據簡短指令編寫文章、對話,去年底在全球引爆熱潮,更吸引了AI領域數十億美元的投資,不過也少不了批評者和業界人士的警告。常見的擔憂包括聊天機器人可能導致假消息充斥網路、帶有偏見的演算法可能產出種族主義內容,AI驅動的自動化也可能摧毀整個產業等。

不過公布在CAIS的這份聲明當中,並未詳細說明AI可能帶來的潛在生存威脅。CAIS指出,這份聲明僅是開啟針對AI技術風險的討論。

事實上,特斯拉創辦人馬斯克(Elon Musk)與數百名專家早在2個月前發表一封公開信,呼籲應在確定安全無虞之前,將AI研發工作暫緩。

不過在幾年前以人工智慧深度學習(YoshuaBengio)獲得電腦科學領域傑出貢獻的圖靈獎,並與辛頓、班吉歐一同被稱為是「AI教父」的勒崑(Yann LeCun)認為,這些把AI當作是世界末日一般的警告,是過於誇大其辭的。

另外也有許多專家同樣認為,AI消滅人類的恐懼不現實,並且將注意力從已經成了問題的系統內偏見等議題分散。普林斯頓大學電腦科學家納拉亞南(Arvind Narayanan)先前曾指出,目前的AI遠遠沒有足夠的能力讓這些風險成形,過度提防AI為這個世界帶來的改變,反而會分散大家對於AI帶來威脅的注意力。

我是廣告 請繼續往下閱讀
跨世代