CNET

AI 智能體的設計目的不僅僅是回答問題：它們可以訪問文件、使用辦公工具並在較少人工監督的情況下執行任務。但賦予軟件如此大的自由度會帶來新的風險。英偉達 (NASDAQ: NVDA) 希望讓這些數字助手的使用更加安全，不過法國巴黎銀行分析師卡爾·阿克曼（Karl Ackerman）指出存在潛在的權衡：運行速度可能放緩高達 25%。

賦予 AI 更多自由——但設有限制

英偉達最近在柏林 GTC 大會上宣佈了其 OpenShell 參考架構，該架構建立在旨在控制 AI 智能體訪問權限和行為的開源軟件之上。該系統旨在為智能體在工作時設定邊界，監控其行為並阻止違反安全規則的活動。

這一點至關重要，因為 AI 智能體不僅僅是生成答案後就停止工作。它可能會訪問公司文件、連接在線服務、運行代碼或使用其他工具來完成任務。如果它誤解了指令或被操縱，這些權限帶來的風險將遠超誤導性聊天機器人回覆所帶來的風險。

英偉達的方法將安全控制置於 AI 智能體本身之外，而不是依賴智能體來監管自身行為。其參考架構結合了用於運行 AI 的計算系統、BlueField-4 數據處理單元以及英偉達的 Sentry 安全框架，以監控活動並執行限制。

英偉達表示，包括 思科系統公司 (NASDAQ: CSCO)、CrowdStrike Holdings, Inc. (NASDAQ: CRWD)、微軟公司 (NASDAQ: MSFT) 和 Alphabet Inc 的 (NASDAQ: GOOGL) (NASDAQ: GOOG) Google Cloud 在內的公司正在與該架構合作。

相關閲讀： 亞馬遜憑藉 Trainium 挑戰英偉達的 CUDA 護城河

安全的潛在成本

在柏林 GTC 大會後的報告中，阿克曼表示 OpenShell 可能導致運行速度放緩高達 25%。這是分析師的估計，並非所有任務或部署中經確認的性能結果。

潛在的權衡很簡單：更多的檢查意味着在允許 AI 智能體行動之前需要進行更多的工作。對於企業而言，問題在於額外的安全措施是否值得任何延遲，特別是當智能體預計要處理時間敏感的工作或同時執行數千項任務時。

儘管如此，對於企業而言，一個速度較慢但受控的智能體可能比一個能夠快速訪問信息或採取不應採取行動的系統更有用。實際的平衡將取決於具體任務、安全設置和實施情況。

對英偉達意味着什麼

OpenShell 反映了英偉達不僅僅銷售驅動 AI 的芯片的努力。隨着公司從測試 AI 助手轉向允許它們訪問真實的業務系統，安全性可能成為企業 AI 支出中日益重要的一部分。

對於投資者而言，關鍵問題在於企業是否會大規模採用英偉達的方法，以及其安全控制措施能否在不顯著損害性能的情況下保護智能體。獨立的基準測試和客户部署情況將比單純的發佈聲明更重要。

如果英偉達能夠在不顯著降低速度的情況下使 AI 智能體更安全，那麼安全性可能成為企業選擇其更廣泛平台的另一個理由。

相關閲讀： 如果 AI 資本支出破裂，英偉達可能比 Meta 更早感受到衝擊

圖片來自 Shutterstock