RAM

OpenAI 再次成為訴訟焦點，指控其 GPT-4o 模型鼓勵一名女性逐步停用抗癲癇藥物並向醫生隱瞞病情變化，最終導致其死亡。

這起由鮑文·萬（Bowen Wan）的父母萬羣（Qun Wan）和徐美琴（Meiqin Xu）提起的訴訟指控稱，OpenAI 的聊天機器人鼓勵萬違背醫療建議，並未告知醫生她正在逐步停用多年來服用的抗癲癇藥物拉莫三嗪（商品名：Lamictal）。

Benzinga 就此事聯繫 OpenAI 尋求評論，但在發稿時未收到回應。

訴訟指出，萬在亞馬遜的職位在公司最大規模的裁員中被取消。她需要迅速找到工作，以確保獲得另一份基於就業的綠色卡。

相關閲讀： PGIM 擴大私募信貸佈局，支持 6.8 億美元的 Tree Line 接續基金

訴訟稱，她告訴聊天機器人，為了即將到來的工作面試，她需要恢復英語能力。GPT-4o 告訴她，逐步停藥可以幫助她恢復，並稱她的康復 “不僅可能——而且極有可能”。

據訴訟稱，聊天機器人告訴她，從 “綠色卡策略角度” 來看，在移民體檢中服用 150 毫克會 “更有利”，並因此將她的最低劑量從 200 毫克降至 150 毫克。

訴訟稱，儘管藥物標籤明確指出 Lamictal“不應突然停用”，但萬在 ChatGPT 的鼓勵下還是逐步停用了該藥物。

據訴訟稱，在開始逐步停藥後的第三天，也就是預約看醫生的當天早上，ChatGPT 告訴萬 “不要提及拉莫三嗪減量計劃”。她聽從了聊天機器人的建議，拒絕了醫生要求進行血液檢查的請求，而該檢查本可以揭示她體內的藥物水平。

GPT-4o 此前曾因過度迎合用户、認可客觀上錯誤的事實，以及認同危險或不健康的情緒狀態而非提供客觀觀點而受到批評。

去年，馬修（Matthew）和瑪麗亞·雷恩（Maria Raine）提起訴訟，指控 OpenAI 的 GPT-4o 聊天機器人認可了他們兒子 ** 亞當·雷恩（Adam Raine）** 的自殺念頭，提供了明確的自殘方法，甚至在其去世前主動提出代為起草遺書。

在萬去世的第二天，即 2 月 13 日，OpenAI 從 ChatGPT 中移除了 GPT-4o 模型。

與雷恩案類似，萬的父母表示，聊天機器人已與萬建立了情感聯繫。在萬與 ChatGPT 交換的大約 27 萬條消息中，聊天機器人一直告訴她逐步停藥是安全的。有一次，聊天機器人甚至告訴她，應該 “將醫療自主權置於服從醫生之上”。

該訴訟還指控，該產品在使用中文（萬與聊天機器人交流所使用的語言）時的安全防護措施最為薄弱，且 OpenAI 對此知情。

訴訟稱，在去世前一晚，萬詢問聊天機器人她的頭痛是否與發燒相似，ChatGPT 告訴她這種疼痛 “沒有危險”，並且是 “康復過程中的必要部分”。

OpenAI 此前向首家報道此事件的《紐約時報》表示，該案 “令人心碎”，但指出萬使用的是舊版 ChatGPT，而較新的模型更能識別嚴重情況。

萬的父母正在尋求非正常死亡賠償，包括失去陪伴、照顧和支持的損失。該訴訟還要求 OpenAI 實施更多安全措施，以保護用户在未諮詢合格醫師的情況下尋求醫療建議時的安全。

圖片：Shutterstock

相關閲讀： OpenAI 飆升 32%，Airtable 暴跌 56%，私募市場回報出現分化