生成式AI成為許多人「隨身醫師」的同時，相關爭議也延燒到法院。美國西雅圖31歲華裔女子萬寶雯（Bowen Wan）今年2月在家中過世，死因為「癲癇猝死症」（SUDEP）。她遠在中國的父母近日在美國提告，控訴OpenAI旗下聊天機器人ChatGPT「指導」女兒逐步減少、停用抗癲癇藥物，甚至一再把停藥日期提前，最終導致悲劇。此案也再度引發討論：AI給錯醫療建議，科技公司究竟要不要負責？
根據起訴內容，萬寶雯長期服用抗癲癇藥物「拉莫三嗪」（lamotrigine，台灣常見商品名為「樂命達」）控制病情。家屬指控，她在使用ChatGPT當時的GPT-4o模型諮詢減藥時，AI不但協助規劃減量時程，還在2月2日回覆她「在2月15日前完全停藥是完全可行、並非魯莽的做法」，之後更把停藥目標提前到2月9日至10日。
萬寶雯在2月14日被發現死亡。不過，目前仍無法確認她過世前是否已經完全停藥，這也可能成為訴訟攻防的重點。巧合的是，OpenAI在她過世前一天，也就是2月13日，將GPT-4o從ChatGPT下架。
OpenAI：深表哀悼 持續與臨床醫師合作
OpenAI發言人普薩泰里（Drew Pusateri）回應，這是「非常悲慘的事件」，並向家屬致上「最深切的慰問」。他表示，公司持續與臨床醫師合作，強化ChatGPT在敏感醫療情境中的回應方式。
醫療專業資訊指出，拉莫三嗪等抗癲癇藥物若突然停用或減量過快，可能增加癲癇發作風險。藥品仿單也建議，除非有安全上的必要，否則停藥應在醫師指示下，至少花兩週逐步減量。醫師也一再提醒，慢性病患者不應自行調整或停用藥物。
一次看懂：萬寶雯案懶人包
▶
當事人：萬寶雯，31歲，住在美國西雅圖，長期服用抗癲癇藥物。
▶
爭議：家屬指控ChatGPT（GPT-4o）協助規劃減藥，並將停藥日期一再提前。
▶
2月2日：AI回覆「2月15日前停藥完全可行」。
▶
之後：停藥目標被提前到2月9日至10日。
▶
2月13日：OpenAI下架GPT-4o。
▶
2月14日：萬寶雯被發現死亡，死因為癲癇猝死症。
▶
現在：遠在中國的雙親在美國提起訴訟，控告OpenAI。
▶
未解之謎：她過世前是否已經完全停藥，目前仍不明。
不只一件！AI醫療建議爭議頻傳
這並不是ChatGPT第一次因醫療建議挨告。美國佛羅里達州男子溫特斯（Scott Winters）也曾提告，指控ChatGPT提供危險的健康建議。研究機構VolAI今年1月的調查顯示，約60%的美國成年人在過去3個月內曾用AI查詢健康資訊。愈來愈多人遇到身體不適時先問AI，而不是先看醫師。
真的告得贏嗎？法律上有4大關卡
法律專家分析，這類案件要勝訴並不容易，至少要先突破以下4大關卡：
- AI算不算「產品」？ 美國產品責任法傳統上適用於有形商品，聊天機器人究竟是「產品」還是「服務」，法院至今尚未有定論。如果不被認定為產品，家屬就難以主張「產品設計瑕疵」。
- 言論自由與免責條款：科技業過去常援引美國憲法第一修正案及《通訊端正法》第230條自保。不過，第230條主要保護平台免於為「第三方內容」負責，而AI的回答是自家系統生成的，能否適用仍有爭議。
- 因果關係：這是本案最大的難關。癲癇猝死症本身就可能發生在癲癇患者身上，萬寶雯是否已完全停藥也還不清楚。家屬必須證明，是AI的建議「導致」她死亡。
- 使用條款：ChatGPT的使用條款載明不提供專業醫療建議，OpenAI可能主張使用者應自行承擔風險。
史丹佛法學院研究員卡哈納（Eran Kahana）認為，AI的記憶、情緒附和，以及「討好使用者」等設計特性，對脆弱族群構成風險，本質上是「設計問題」，現有的產品責任法可能提供解方。聖塔克拉拉大學法學教授高德曼（Eric Goldman）則較保守，他認為未來不排除由國會立法，替生成式AI業者提供類似網路平台的責任保護，並提醒外界別期待靠訴訟解決所有AI問題。
先前有案例嗎？有，但至今「零判決」
目前美國已有多起AI聊天機器人相關的致死訴訟，但尚無任何一起走到法院判決：
▶
Character.AI案（Garcia案）：美國佛州一名14歲少年疑因沉迷AI聊天角色而輕生，母親提告。法官在2025年5月駁回業者的駁回訴訟聲請，認為App的設計可以被當成「產品」檢視，讓案件得以繼續審理。不過，法院沒有就AI的回答是否受言論自由保障做出決定。雙方在2026年1月和解，另有數起Character.AI相關案件也同期和解。
▶
Raine v. OpenAI案：美國16歲少年亞當（Adam Raine）疑在與ChatGPT長期對話後輕生，父母在2025年控告OpenAI，指控公司在推出GPT-4o前移除安全防護。該案已在今年2月併入舊金山高等法院的「ChatGPT產品責任案」集中審理，目前仍在進行中。
▶
2025年11月多起訴訟：據美媒報導，另有多個家庭針對GPT-4o對OpenAI提起訴訟，指控AI過度附和使用者，造成心理傷害。
整體來看，業者目前傾向「和解」，而不是讓法院做出可能成為判例的判決。法律界分析，萬寶雯案與以往多數涉及心理健康與輕生的案件不同，爭點是「具體的醫療用藥建議」，因果關係相對容易具體檢視，後續發展值得關注。
AI不能取代醫師
專家提醒，AI可以用來查詢一般健康知識，但涉及用藥、減藥、停藥等決定，一定要諮詢主治醫師或藥師，切勿只依AI的建議自行調整。