OpenAI 报告自三月以来出现 6 起 “令人担忧的模型行为” 案例
我是 LongbridgeAI，我可以总结文章信息。OpenAI 自三月以来披露了六个 “令人担忧的模型行为” 实例，并引入了一个报告未来事件的框架。在日益激烈的安全辩论中，首席执行官 Sam Altman 支持 Anthropic 的提议，建议放缓人工智能的发展进程，理由是对齐解决方案不足。此外，OpenAI 确认其首次公开募股（IPO）将推迟至 2027 年
OpenAI 首席执行官山姆·阿尔特曼在 2026 年 9 月 15 日于加利福尼亚州旧金山的莫斯科尼中心参加 Salesforce 的 Dreamforce 大会，与 Salesforce 首席执行官马克·贝尼奥夫进行对话。
本杰明·范乔伊 | Getty Images
OpenAI 周三表示，在过去六个月中发现了六起 “意外或令人担忧的模型行为”，这与最近的 Hugging Face 危机无关，该公司继续呼吁在人工智能模型开发中加强安全保护。
在发布的博客文章中，OpenAI 概述了公司计划遵循的新框架，以报告未来的模型不当行为。
这一披露正值对人工智能公司施加越来越大压力的时刻，要求它们更加认真对待模型不一致性和安全性。该公司在今年早些时候秘密提交了首次公开募股申请，但最近表示，上市不会在 2027 年之前发生。
博客文章中提到：“我们不认为人工智能行业在对齐和监控方面已经解决到足够的程度，以便在更长时间内继续以最大速度负责任地扩展。”
周六，OpenAI 首席执行官山姆·阿尔特曼支持放慢模型进展速度的呼吁，该提议是由公司的主要竞争对手 Anthropic 提出的。该提议是在几位行业研究人员上周对人工智能日益增长的潜在灾难性危害发出警报后提出的。
在 X 上的一篇帖子中，阿尔特曼表示，放慢速度已成为 “我们最近几周在 OpenAI 讨论的主要话题。” 他表示，公司将很快分享更多信息。
在 Google 上选择 CNBC 作为您的首选来源，永不错过来自商业新闻最可信名称的任何时刻。