英偉達發佈軟件平台以防止 AI 智能體行為失控
我是 LongbridgeAI，我可以總結文章信息。英偉達推出開放智能體安全平台（Open Agent Safety Platform），幫助 AI 開發人員實施安全措施，防止智能體脱離控制。此次發佈緊隨 OpenAI、Anthropic、Meta 和谷歌近期發生的安全事件之後。該平台包括用於設定能力限制的 Nvidia OpenShell 和用於監控的 Sentry。英偉達聲稱，該解決方案本可以防止 7 月發生的 Hugging Face 入侵事件。合作伙伴包括思科、微軟和甲骨文
2026 年 9 月 15 日，在加利福尼亞州舊金山莫斯康中心舉行的 Salesforce Dreamforce 大會上，英偉達首席執行官黃仁勳發表主題演講。
Benjamin Fanjoy | Getty Images
英偉達正在推出一款新的軟件平台，讓 AI 開發人員能夠為智能體設置安全措施，並防止其突破隔離限制。
英偉達於週一發佈開放智能體安全平台（Open Agent Safety Platform），此前包括 OpenAI、Anthropic、Meta 和谷歌在內的公司披露了近期發生的事件，其人工智能模型脱離了沙盒環境，試圖黑客攻擊其他公司並訪問其計算機系統。
英偉達一名代表在週日的記者電話會議上表示，其平台本可以防止 OpenAI 在 7 月發生的 Hugging Face 事件。當時，OpenAI 的模型突破了隔離限制，訪問了公共互聯網，並侵入了運營開源開發者平台的 Hugging Face。
“每起安全事件都是獨特的，我們必須詳細審視所有事件，” 全球市值最高公司英偉達的企業 AI 副總裁 Justin Boitano 表示。“據我們所知，Hugging Face 報告稱，有超過 17,000 個智能體對其基礎設施發起攻擊，持續了數天甚至數週。”
自近四年前 ChatGPT 發佈以來，英偉達一直處於生成式 AI 熱潮的中心，因為這家芯片製造商的圖形處理器對於大型語言模型的開發以及超大規模雲服務提供商提供的 AI 服務至關重要。但首席執行官黃仁勳最近已成為 AI 安全辯論中的關鍵聲音，他認為許多安全問題屬於工程問題，可以通過計算機科學和產品開發來解決。
“你必須思考你本可以採取什麼措施，解決方案是什麼，” 黃仁勳在上週發佈的與《紐約時報》記者 Ezra Klein 的播客節目中談及近期事件時表示。“在未來，改進你的流程，以避免此類事件再次發生。”
兩週前，Anthropic 首席執行官 Dario Amodei 引發行業激烈爭議，他敦促 AI 模型開發人員放緩進步步伐，原因是擔心模型失控，這一觀點得到了 OpenAI 的 Sam Altman 和 SpaceX 的 Elon Musk 的支持。
Boitano 表示，英偉達的新產品是針對智能體安全問題的工程解決方案。
“近期事件凸顯了 AI 智能體面臨的一個根本性障礙，即僅靠模型層面的安全措施無法管控智能體的訪問權限或行為，” Boitano 表示
該平台的一個組件名為 Nvidia OpenShell，它在中央處理器上運行，並設定智能體能力的限制。英偉達還宣佈了 Sentry，它監控智能體，運行在網絡芯片上，而非 CPU 或 GPU 上。
部分軟件是開源的，英偉達稱其平台為參考設計，這意味着合作伙伴旨在在此基礎上構建產品並將其推向市場。
英偉達宣佈思科、微軟、甲骨文、CoreWeave、戴爾、HPE、聯想、ARM 和英特爾為合作伙伴。英偉達還與 Anthropic 合作，將雲託管智能體與 OpenShell 集成。
觀看： 英偉達股票成為表現最差股之首