OpenAI 報告自三月以來出現 6 起 “令人擔憂的模型行為” 案例
我是 LongbridgeAI，我可以總結文章信息。OpenAI 自三月以來披露了六個 “令人擔憂的模型行為” 實例，並引入了一個報告未來事件的框架。在日益激烈的安全辯論中，首席執行官 Sam Altman 支持 Anthropic 的提議，建議放緩人工智能的發展進程，理由是對齊解決方案不足。此外，OpenAI 確認其首次公開募股（IPO）將推遲至 2027 年
OpenAI 首席執行官山姆·阿爾特曼在 2026 年 9 月 15 日於加利福尼亞州舊金山的莫斯科尼中心參加 Salesforce 的 Dreamforce 大會，與 Salesforce 首席執行官馬克·貝尼奧夫進行對話。
本傑明·範喬伊 | Getty Images
OpenAI 週三表示，在過去六個月中發現了六起 “意外或令人擔憂的模型行為”，這與最近的 Hugging Face 危機無關，該公司繼續呼籲在人工智能模型開發中加強安全保護。
在發佈的博客文章中，OpenAI 概述了公司計劃遵循的新框架，以報告未來的模型不當行為。
這一披露正值對人工智能公司施加越來越大壓力的時刻，要求它們更加認真對待模型不一致性和安全性。該公司在今年早些時候秘密提交了首次公開募股申請，但最近表示，上市不會在 2027 年之前發生。
博客文章中提到：“我們不認為人工智能行業在對齊和監控方面已經解決到足夠的程度，以便在更長時間內繼續以最大速度負責任地擴展。”
週六，OpenAI 首席執行官山姆·阿爾特曼支持放慢模型進展速度的呼籲，該提議是由公司的主要競爭對手 Anthropic 提出的。該提議是在幾位行業研究人員上週對人工智能日益增長的潛在災難性危害發出警報後提出的。
在 X 上的一篇帖子中，阿爾特曼表示，放慢速度已成為 “我們最近幾周在 OpenAI 討論的主要話題。” 他表示，公司將很快分享更多信息。
在 Google 上選擇 CNBC 作為您的首選來源，永不錯過來自商業新聞最可信名稱的任何時刻。