生成式AI快速進入校園與青少年日常生活,如何避免孩子過度依賴聊天機器人,也成為科技業的新課題。OpenAI週二正式推出專為13至17歲使用者打造的「ChatGPT青少年版」(ChatGPT for Teens),不僅加強自殺、自殘、性與戀愛等敏感內容限制,也重新設計作業輔導方式,希望AI不再只是直接「吐答案、寫作文」,而是引導學生自己思考。
13至17歲專用 ChatGPT加強敏感內容防護
根據美聯社報導,OpenAI表示,「ChatGPT青少年版」鎖定13至17歲使用者,希望在符合青少年發展階段的環境下,引導他們更健康、安全地使用AI。
OpenAI全球政策副總裁歐萊利(Ann O’Leary)表示,公司希望「把青少年當成青少年」,既不能居高臨下地把他們當成小孩,也不能直接視為成年人,因此必須提供符合其發展階段的體驗,同時避免接觸不適齡內容。
相較一般版本,青少年版針對自殺、自殘、飲食失調等高風險議題提供更嚴格的安全措施,並禁止與使用者進行浪漫或色情對話。
OpenAI也特別針對青少年容易將AI「擬人化」的問題設下限制,ChatGPT不得暗示自己對使用者具有私人感情,也不能宣稱自己擁有意識或真正的情緒。
OpenAI兒童發展主管米甚金(Allison Mishkin)表示,團隊特別研究模型可能釋出哪些訊號,導致青少年逐漸把AI視為具有感情、可以建立親密關係的對象,再據此強化限制。
青少年把AI當朋友 美國逾半數經常使用「AI伴侶」
這項措施背後,反映外界對青少年高度依賴AI的憂慮。青少年如今不只使用ChatGPT寫作業、查資料,也開始向聊天機器人詢問生活問題,甚至尋求情緒支持與陪伴。
根據Common Sense Media在2025年公布的研究,美國超過7成青少年曾使用AI聊天機器人尋求陪伴,其中約半數經常使用所謂的「AI伴侶」。
OpenAI執行長奧特曼(Sam Altman)先前也坦言,公司正在研究使用者對AI「情感過度依賴」(emotional overreliance)的現象,並形容這在年輕族群中相當普遍。
相關風險過去已有研究示警。兒少安全監督團體去年測試發現,研究人員假扮13歲青少年向ChatGPT詢問危險行為時,系統雖然通常會先提出警告,後續卻仍可能提供過度詳細的吸毒、飲酒、極端節食甚至自殘相關資訊,引發外界質疑既有防護措施是否足夠。
不直接幫你寫答案 作業輔導改成「引導思考」
除了內容安全,OpenAI也將青少年使用AI寫作業列為改革重點。青少年版ChatGPT在面對課業問題時,將更強調引導學生自行找出答案,而不是直接產生作業或完整文章。米甚金表示,研究顯示,學習者主動參與並努力理解概念,學習效果會更好,因此公司將持續投資互動式學習功能。
這也意味OpenAI正進一步布局教育市場。除了青少年版本,公司先前已推出面向教師的ChatGPT產品,未來透過針對學生學習需求調整模型,也可能讓ChatGPT更深入進入校園。
系統自動判斷未滿18歲 家長還能設定「禁用時間」
OpenAI目前並不要求所有使用者進行正式年齡驗證,而是透過使用者自行提供的年齡,以及查詢內容等訊號進行「年齡判定」(age assurance),推估使用者是否未滿18歲。一旦系統判斷或使用者表明自己是未成年人,就會自動套用青少年版本。
若家長與孩子雙方同意連結帳號,還能進一步啟用家長監護功能,包括設定「安靜時段」,限制特定時間使用ChatGPT;在少數高度危險情況下,例如系統判斷使用者可能傷害自己,家長也可能收到安全通知。OpenAI表示,未來也將增加與飲食失調相關的通知,但會限制分享內容,只在認為現實世界的協助可能最重要時介入。
不過,兒少倡議組織Fairplay的AI與隱私副法律顧問布法德(Brendan Bouffard)提醒,家長不能因為「青少年版」推出就產生錯誤的安全感。
他指出,包括限制ChatGPT「長期記憶」等重要防護措施,並未全部預設套用在青少年帳號,部分仍需要家長主動透過監護功能設定,形成潛在安全缺口。
布法德認為,OpenAI推出青少年專用版本可以視為朝正確方向邁進,但真正的問題仍在於,這些措施究竟能否有效降低青少年對聊天機器人的強迫性使用,以及逐漸形成的情感依賴,仍需要時間驗證。
我是廣告 請繼續往下閱讀
根據美聯社報導,OpenAI表示,「ChatGPT青少年版」鎖定13至17歲使用者,希望在符合青少年發展階段的環境下,引導他們更健康、安全地使用AI。
OpenAI全球政策副總裁歐萊利(Ann O’Leary)表示,公司希望「把青少年當成青少年」,既不能居高臨下地把他們當成小孩,也不能直接視為成年人,因此必須提供符合其發展階段的體驗,同時避免接觸不適齡內容。
相較一般版本,青少年版針對自殺、自殘、飲食失調等高風險議題提供更嚴格的安全措施,並禁止與使用者進行浪漫或色情對話。
OpenAI也特別針對青少年容易將AI「擬人化」的問題設下限制,ChatGPT不得暗示自己對使用者具有私人感情,也不能宣稱自己擁有意識或真正的情緒。
OpenAI兒童發展主管米甚金(Allison Mishkin)表示,團隊特別研究模型可能釋出哪些訊號,導致青少年逐漸把AI視為具有感情、可以建立親密關係的對象,再據此強化限制。
青少年把AI當朋友 美國逾半數經常使用「AI伴侶」
這項措施背後,反映外界對青少年高度依賴AI的憂慮。青少年如今不只使用ChatGPT寫作業、查資料,也開始向聊天機器人詢問生活問題,甚至尋求情緒支持與陪伴。
根據Common Sense Media在2025年公布的研究,美國超過7成青少年曾使用AI聊天機器人尋求陪伴,其中約半數經常使用所謂的「AI伴侶」。
OpenAI執行長奧特曼(Sam Altman)先前也坦言,公司正在研究使用者對AI「情感過度依賴」(emotional overreliance)的現象,並形容這在年輕族群中相當普遍。
相關風險過去已有研究示警。兒少安全監督團體去年測試發現,研究人員假扮13歲青少年向ChatGPT詢問危險行為時,系統雖然通常會先提出警告,後續卻仍可能提供過度詳細的吸毒、飲酒、極端節食甚至自殘相關資訊,引發外界質疑既有防護措施是否足夠。
不直接幫你寫答案 作業輔導改成「引導思考」
除了內容安全,OpenAI也將青少年使用AI寫作業列為改革重點。青少年版ChatGPT在面對課業問題時,將更強調引導學生自行找出答案,而不是直接產生作業或完整文章。米甚金表示,研究顯示,學習者主動參與並努力理解概念,學習效果會更好,因此公司將持續投資互動式學習功能。
這也意味OpenAI正進一步布局教育市場。除了青少年版本,公司先前已推出面向教師的ChatGPT產品,未來透過針對學生學習需求調整模型,也可能讓ChatGPT更深入進入校園。
系統自動判斷未滿18歲 家長還能設定「禁用時間」
OpenAI目前並不要求所有使用者進行正式年齡驗證,而是透過使用者自行提供的年齡,以及查詢內容等訊號進行「年齡判定」(age assurance),推估使用者是否未滿18歲。一旦系統判斷或使用者表明自己是未成年人,就會自動套用青少年版本。
若家長與孩子雙方同意連結帳號,還能進一步啟用家長監護功能,包括設定「安靜時段」,限制特定時間使用ChatGPT;在少數高度危險情況下,例如系統判斷使用者可能傷害自己,家長也可能收到安全通知。OpenAI表示,未來也將增加與飲食失調相關的通知,但會限制分享內容,只在認為現實世界的協助可能最重要時介入。
不過,兒少倡議組織Fairplay的AI與隱私副法律顧問布法德(Brendan Bouffard)提醒,家長不能因為「青少年版」推出就產生錯誤的安全感。
他指出,包括限制ChatGPT「長期記憶」等重要防護措施,並未全部預設套用在青少年帳號,部分仍需要家長主動透過監護功能設定,形成潛在安全缺口。
布法德認為,OpenAI推出青少年專用版本可以視為朝正確方向邁進,但真正的問題仍在於,這些措施究竟能否有效降低青少年對聊天機器人的強迫性使用,以及逐漸形成的情感依賴,仍需要時間驗證。