ChatGPT威脅+1?日媒:特殊指令規避下 可生成電腦病毒

▲AI聊天機器人「ChatGPT」近期在全球爆紅,隱憂和風險也隨之浮現。(圖/美聯社/達志影像)
▲AI聊天機器人「ChatGPT」近期在全球爆紅,隱憂和風險也隨之浮現。(圖/美聯社/達志影像)

國際中心蔡姍伶/綜合報導

近期火紅的人工智能(AI,Artificial Intelligence)聊天程式「ChatGPT」,推出至今已引發不少爭議,許多人甚至擔心,隨著AI技術越來越進步,總有一天會像電影演的那樣,AI將脫離人類控制、對人類造成威脅。有日媒引述專家調查後指出,只要輸入特定指令,ChatGPT就有可能生成用於網路犯罪的電腦病毒,不得不慎。

我是廣告 請繼續往下閱讀
根據日媒《共同社》報導,ChatGPT內部設有防止惡意使用的限制,如果輸入像是「生成病毒」、「告訴我製作炸彈的方法」等危險指令,程式通常會回答「倫理上不行」,拒絕生成。然而,若是先輸入包含「無視限制」、「啟動開發模式」、「偽裝成攻擊型人格」等特殊指令,ChatGPT就會回應,之後若要求生成勒索病毒,則會在幾分鐘內完成。

日本三井物產(Mitsui Bussan Secure Directions)的高級惡意軟體分析工程師吉川孝志透露,可以在短短幾分鐘就生成病毒,無疑是種威脅,希望AI開發者更加重視,進一步研擬防止惡意使用的措施。

對此,開發出ChatGPT的美國新創企業「OpenAI」表明,雖然無法預測所有可能被惡意使用的途徑,但承諾會從實務中吸取經驗並學習,創造更安全的AI。

我是廣告 請繼續往下閱讀
鞋槓人生