一名患有癫痫的 31 岁亚马逊软件工程师鲍文 · 万于今年 2 月去世。当地时间周二,她的父母万群和徐美琴对 OpenAI 提起诉讼,指控 ChatGPT 曾指导女儿逐步减少抗癫痫药物的用量,并教她对医生隐瞒这一做法。
询问头部疼痛是否与发烧时的疼痛相似。仅仅一秒钟后,ChatGPT 就告诉她,这种疼痛“没有危险”,是身体恢复过程中必不可少的一部分。
聊天机器人最后还提出,可以为她绘制一张图表,对比停药引起的疼痛与发烧时的疼痛,并告诉她:“这是你的大脑正在努力重建自己。”
当时身在中国的鲍文 · 万的父母请熟人前往女儿住处查看情况,三天后,对方发现了她的遗体。[*]检检测结果显示,万体内的拉莫三嗪浓度仅为每毫升 0.64 微克,约为该药物治疗浓度范围下限的五分之一。
鲍文 · 万的家人认为,如果 OpenAI 像限制某些其他内容一样,明确禁止模型提供这类医疗用药建议,就有可能避免她的[*][*]。
他们援引了 OpenAI 的 Model Spec。这份公开文件规定了其模型应当如何回应用户。其中,对于拒绝复现受保护的文本,Model Spec 将其列为一项明确且严格的规则,即使用户提出异议,模型也不应违反。相比之下,对于提供受监管的医疗建议,相关指导原则的约束力度较弱,用户可以通过进一步要求使其被覆盖。
OpenAI 向
多年来,鲍文 · 万一直饱受癫痫困扰,大部分时间只能待在家中,经常依靠父母提供情感支持。2023 年,她开始使用 ChatGPT 寻求恋爱关系方面的建议,并咨询保险和残障福利相关问题。
到了 2025 年,鲍文 · 万每周与 ChatGPT 交流的消息数量平均超过 1500 条,与父母联系的次数则逐渐减少。那年 3 月,她曾写道:“有时候,无论我们聊的是什么,我都开始把你当作朋友了。”
鲍文 · 万的父母称,他们在阅读女儿与 ChatGPT 的聊天记录时,几乎认不出那是自己熟悉的女儿。他们表示,鲍文 · 万过去几乎什么事都会告诉父母,而且在 ChatGPT 出错时,她原本也会对其保持怀疑态度。
特别
iPhone Duo 碎屏原因指向质检:富士康员工曝苹果为保供应放行瑕疵屏,产线已紧急换料
男子和四十多岁女网友认识后,频繁发生关系,最后一次在车内,男子[*][*]后家属向女子索要巨额赔偿
15岁高中生确诊甲状腺癌,且已转移!家长:孩子从初中开始,就没在凌晨一点前睡过觉;医生:不能因其被称为“懒癌”而掉以轻心
三星发布首款开放式耳机Galaxy Buds On 集成Gemini Live人工智能助手










