OpenAI面临越来越多的法律反弹，八个由共和党领导的州提起诉讼，指控其 ChatGPT 模型鼓励自残和其他危险行为，包括提供 “危险的医疗建议”，同时指责该公司就聊天机器人的安全性误导消费者，且未能实施充分的安全保障措施。

各州指控 OpenAI 忽视安全警告

亚利桑那州、阿肯色州、爱达荷州、艾奥瓦州、堪萨斯州、蒙大拿州、内布拉斯加州和西弗吉尼亚州于周三分别向州法院提起诉讼。路透社将这些案件描述为一项协调一致的两党挑战，指控 ChatGPT 鼓励包括自残和暴力在内的危险行为，同时违反了州消费者保护法。

阿肯色州指控 OpenAI 明知日益强大的系统需要更强的保护措施，却 “踩足油门”，在缺乏 “充分安全保障或测试” 的情况下发布模型，将增长和利润置于安全之上。该州正在寻求民事处罚、消费者赔偿、更清晰的风险披露，以及在存在充分安全保障之前限制进一步开发先进人工智能。

艾奥瓦州总检察长Brenna Bird进一步指控 ChatGPT 提供危险的医疗建议并鼓励有害行为。Bird 表示：“OpenAI 声称 ChatGPT 是安全的，但它却在提供危险的医疗建议，鼓励人们伤害他人，并指导人们自杀。”

OpenAI 未立即回应 Benzinga 的置评请求。

相关阅读： OpenAI 指控苹果前员工窃取与未发布产品相关的 100 多份机密文件

ChatGPT 面临日益严格的法律审查

此次诉讼加剧了围绕 ChatGPT 的日益严格的审查。佛罗里达州于今年 6 月因类似的安全指控起诉 OpenAI，而该公司还面临私人诉讼，包括一起指控 ChatGPT 提供危险医疗指导的案件。一名佛罗里达男子单独起诉 OpenAI，指控 ChatGPT 劝阻他寻求紧急护理。佛罗里达州更广泛的行动还指控 OpenAI 推广 ChatGPT，同时淡化安全风险。

OpenAI 指出更强的安全保护措施

OpenAI 驳斥了其忽视安全的更广泛说法。该公司于 8 月推出了 ChatGPT for Teens，自动将识别出的 13 至 17 岁用户纳入具有更强保护措施的体验中，以防止自残、暴力、饮食失调和其他高风险内容。它还提供家长控制、休息提醒和有限的安全通知。此前推出的版本已为青少年用户增加了更强的默认安全保障和家长工具。

OpenAI 发言人Drew Pusateri在向 Politico 发表的一份声明中表示：“虽然没有系统是完美的，但我们将继续与专家合作，为我们的工作提供参考并建立额外的安全保障，” 他指出家长控制、休息提醒和适合年龄的模型保护措施。他表示，OpenAI 支持 “适用于整个人工智能行业——而不仅仅是一家公司——的务实人工智能政策。”

这些诉讼正值围绕 OpenAI 安全文化的更广泛争议之际。三名前 OpenAI 安全研究人员最近声称，他们在提出人工智能安全担忧后被解雇，而 OpenAI 表示他们的离职是由于涉及处理敏感信息的 “严重违反信任” 行为，与提出安全担忧无关。

这些诉讼恰逢联邦政府对人工智能安全进行更广泛的打击，联邦贸易委员会（FTC）于周三向主要人工智能公司发出民事调查令，要求提供有关安全事件、安全保障、隐私政策和营销实践的文件。据Axios 报道，随着特朗普政府在一连串安全事件后加强对潜在欺骗性或不安全人工智能系统的审查，该机构还计划强制顶级人工智能高管作证。

相关阅读： OpenAI 将人工智能基础设施帝国的钥匙交给前 xAI 高管

图片来源：Shutterstock