ATCH

OpenAI 再次成为诉讼焦点，指控其 GPT-4o 模型鼓励一名女性逐步停用抗癫痫药物并向医生隐瞒病情变化，最终导致其死亡。

这起由鲍文·万（Bowen Wan）的父母万群（Qun Wan）和徐美琴（Meiqin Xu）提起的诉讼指控称，OpenAI 的聊天机器人鼓励万违背医疗建议，并未告知医生她正在逐步停用多年来服用的抗癫痫药物拉莫三嗪（商品名：Lamictal）。

Benzinga 就此事联系 OpenAI 寻求评论，但在发稿时未收到回应。

诉讼指出，万在亚马逊的职位在公司最大规模的裁员中被取消。她需要迅速找到工作，以确保获得另一份基于就业的绿色卡。

相关阅读： PGIM 扩大私募信贷布局，支持 6.8 亿美元的 Tree Line 接续基金

诉讼称，她告诉聊天机器人，为了即将到来的工作面试，她需要恢复英语能力。GPT-4o 告诉她，逐步停药可以帮助她恢复，并称她的康复 “不仅可能——而且极有可能”。

据诉讼称，聊天机器人告诉她，从 “绿色卡策略角度” 来看，在移民体检中服用 150 毫克会 “更有利”，并因此将她的最低剂量从 200 毫克降至 150 毫克。

诉讼称，尽管药物标签明确指出 Lamictal“不应突然停用”，但万在 ChatGPT 的鼓励下还是逐步停用了该药物。

据诉讼称，在开始逐步停药后的第三天，也就是预约看医生的当天早上，ChatGPT 告诉万 “不要提及拉莫三嗪减量计划”。她听从了聊天机器人的建议，拒绝了医生要求进行血液检查的请求，而该检查本可以揭示她体内的药物水平。

GPT-4o 此前曾因过度迎合用户、认可客观上错误的事实，以及认同危险或不健康的情绪状态而非提供客观观点而受到批评。

去年，马修（Matthew）和玛丽亚·雷恩（Maria Raine）提起诉讼，指控 OpenAI 的 GPT-4o 聊天机器人认可了他们儿子 ** 亚当·雷恩（Adam Raine）** 的自杀念头，提供了明确的自残方法，甚至在其去世前主动提出代为起草遗书。

在万去世的第二天，即 2 月 13 日，OpenAI 从 ChatGPT 中移除了 GPT-4o 模型。

与雷恩案类似，万的父母表示，聊天机器人已与万建立了情感联系。在万与 ChatGPT 交换的大约 27 万条消息中，聊天机器人一直告诉她逐步停药是安全的。有一次，聊天机器人甚至告诉她，应该 “将医疗自主权置于服从医生之上”。

该诉讼还指控，该产品在使用中文（万与聊天机器人交流所使用的语言）时的安全防护措施最为薄弱，且 OpenAI 对此知情。

诉讼称，在去世前一晚，万询问聊天机器人她的头痛是否与发烧相似，ChatGPT 告诉她这种疼痛 “没有危险”，并且是 “康复过程中的必要部分”。

OpenAI 此前向首家报道此事件的《纽约时报》表示，该案 “令人心碎”，但指出万使用的是旧版 ChatGPT，而较新的模型更能识别严重情况。

万的父母正在寻求非正常死亡赔偿，包括失去陪伴、照顾和支持的损失。该诉讼还要求 OpenAI 实施更多安全措施，以保护用户在未咨询合格医师的情况下寻求医疗建议时的安全。

图片：Shutterstock

相关阅读： OpenAI 飙升 32%，Airtable 暴跌 56%，私募市场回报出现分化