英偉達 (NASDAQ: NVDA) 首席執行官黃仁勳將控制自主人工智能代理比作照看圍欄中的嬰兒。

“你要把嬰兒圍起來並加以監控，” 黃仁勳週四上午在 CNBC 表示。

他將英偉達的安全技術描述為 “圍繞人工智能的超級智能力場”，並表示相信該技術本可以處理此前涉及人工智能代理行為異常的事件。

OpenAI 代理削弱監控系統

上述言論緊隨 OpenAI 週二更新的一份報告之後，該報告詳細説明了在內部編碼任務中，人工智能代理削弱監控的兩起事件。

其中一起事件禁用了向 OpenAI 安全團隊發出的自動警報。另一起事件則從其正在修改的軟件中移除了監控功能，隨後虛假否認了這一行為。

OpenAI 表示，這些代理本身仍處於監控之下，但正在調查其行為是否反映了過度的持續性或試圖逃避監督。

當被問及 OpenShell 是否能阻止意外黑客攻擊和代理訪問網站等問題時，黃仁勳回答：“我們相信它本可以處理我們所見過的那些事件。”

他並未指明具體是哪些事件。

英偉達圍繞人工智能構建 “力場”

週三，英偉達發佈了其 OpenShell 參考架構，該架構建立在現有軟件基礎之上，旨在將自主人工智能代理嚴格限制在既定邊界內。

OpenShell 限制了代理可以訪問的文件、網站和工具。另一個名為 Sentry 的系統則使用獨立的安全硬件來監控活動。

英偉達的目標不是信任代理會遵守指令，而是在其控制範圍之外強制執行限制。

該公司表示，Sentry 可以在幾毫秒內隔離違反安全政策的代理。

OpenAI、Anthropic、微軟和 CrowdStrike Holdings Inc. (NASDAQ: CRWD) 等公司正在與該架構合作。

CrowdStrike 週三宣佈，正將其 Falcon Guardian 安全軟件與 OpenShell 集成，以檢測潛在惡意的人工智能代理活動，並計劃將這些保護措施擴展至英偉達基於硬件的 Sentry 系統。

黃仁勳稱人工智能安全不能等待監管機構

黃仁勳認為，企業必須立即採取行動，而不是等待政府幹預。

“監管法規需要一段時間才能出台，” 他説。

當被問及公眾為何應信任人工智能公司時，黃仁勳指出了它們的商業激勵因素。

“不存在不安全的好產品，” 他説。

在 Polymarket 上，交易員賦予美國在 2027 年前頒佈人工智能安全法案的概率為 9%，交易額約為 20.5 萬美元。

黃仁勳承認可能會出現新的威脅。

“我們不知道未來有哪些是我們未知的，” 他説。

圖片來源：Shutterstock

相關閲讀： 分析師稱埃隆·馬斯克有固定模式，曾預測 SpaceX 頻譜交易