OpenAI面臨越來越多的法律反彈，八個由共和黨領導的州提起訴訟，指控其 ChatGPT 模型鼓勵自殘和其他危險行為，包括提供 “危險的醫療建議”，同時指責該公司就聊天機器人的安全性誤導消費者，且未能實施充分的安全保障措施。

各州指控 OpenAI 忽視安全警告

亞利桑那州、阿肯色州、愛達荷州、艾奧瓦州、堪薩斯州、蒙大拿州、內布拉斯加州和西弗吉尼亞州於週三分別向州法院提起訴訟。路透社將這些案件描述為一項協調一致的兩黨挑戰，指控 ChatGPT 鼓勵包括自殘和暴力在內的危險行為，同時違反了州消費者保護法。

阿肯色州指控 OpenAI 明知日益強大的系統需要更強的保護措施，卻 “踩足油門”，在缺乏 “充分安全保障或測試” 的情況下發布模型，將增長和利潤置於安全之上。該州正在尋求民事處罰、消費者賠償、更清晰的風險披露，以及在存在充分安全保障之前限制進一步開發先進人工智能。

艾奧瓦州總檢察長Brenna Bird進一步指控 ChatGPT 提供危險的醫療建議並鼓勵有害行為。Bird 表示：“OpenAI 聲稱 ChatGPT 是安全的，但它卻在提供危險的醫療建議，鼓勵人們傷害他人，並指導人們自殺。”

OpenAI 未立即回應 Benzinga 的置評請求。

相關閲讀： OpenAI 指控蘋果前員工竊取與未發佈產品相關的 100 多份機密文件

ChatGPT 面臨日益嚴格的法律審查

此次訴訟加劇了圍繞 ChatGPT 的日益嚴格的審查。佛羅里達州於今年 6 月因類似的安全指控起訴 OpenAI，而該公司還面臨私人訴訟，包括一起指控 ChatGPT 提供危險醫療指導的案件。一名佛羅里達男子單獨起訴 OpenAI，指控 ChatGPT 勸阻他尋求緊急護理。佛羅里達州更廣泛的行動還指控 OpenAI 推廣 ChatGPT，同時淡化安全風險。

OpenAI 指出更強的安全保護措施

OpenAI 駁斥了其忽視安全的更廣泛説法。該公司於 8 月推出了 ChatGPT for Teens，自動將識別出的 13 至 17 歲用户納入具有更強保護措施的體驗中，以防止自殘、暴力、飲食失調和其他高風險內容。它還提供家長控制、休息提醒和有限的安全通知。此前推出的版本已為青少年用户增加了更強的默認安全保障和家長工具。

OpenAI 發言人Drew Pusateri在向 Politico 發表的一份聲明中表示：“雖然沒有系統是完美的，但我們將繼續與專家合作，為我們的工作提供參考並建立額外的安全保障，” 他指出家長控制、休息提醒和適合年齡的模型保護措施。他表示，OpenAI 支持 “適用於整個人工智能行業——而不僅僅是一家公司——的務實人工智能政策。”

這些訴訟正值圍繞 OpenAI 安全文化的更廣泛爭議之際。三名前 OpenAI 安全研究人員最近聲稱，他們在提出人工智能安全擔憂後被解僱，而 OpenAI 表示他們的離職是由於涉及處理敏感信息的 “嚴重違反信任” 行為，與提出安全擔憂無關。

這些訴訟恰逢聯邦政府對人工智能安全進行更廣泛的打擊，聯邦貿易委員會（FTC）於週三向主要人工智能公司發出民事調查令，要求提供有關安全事件、安全保障、隱私政策和營銷實踐的文件。據Axios 報道，隨着特朗普政府在一連串安全事件後加強對潛在欺騙性或不安全人工智能系統的審查，該機構還計劃強制頂級人工智能高管作證。

相關閲讀： OpenAI 將人工智能基礎設施帝國的鑰匙交給前 xAI 高管

圖片來源：Shutterstock