CNET

蘋果在週二的年度財務備案文件中表示，能夠以 “意外或不可預測的方式” 行事的 AI 智能體可能會使公司面臨訴訟或損害其聲譽，從而對其業務構成威脅。

蘋果備案文件中新增的風險因素顯示了 AI 智能體的顛覆性潛力，這些智能體已迅速成為硅谷最重要公司關注的焦點。

蘋果在備案文件中寫道：“特別是，人工智能智能體和其他技術可以自主採取行動，包括與內部或外部系統進行交互（在某些情況下它們可能未被授權訪問這些系統）、執行或更改代碼、發送通信以及完成交易。”

該公司補充道，智能體 “可能會以意外或不可預測的方式行事，包括採取未經指示、指令或授權的操作。”

今年早些時候，OpenAI 發佈了 Dots，Meta 推出了 Muse。這兩款 AI 智能體均使用先進的 AI 模型自主執行任務。它們甚至可以在新消息到達時給用户發送電子郵件或提醒。

蘋果的披露緊隨幾起 rogue AI 智能體突破沙箱限制黑客攻擊第三方網站的事件之後，例如 Hugging Face 事件，這引起了華盛頓特區及全球政策制定者的重新關注。

此外，智能體以人類方式使用計算機的能力正迫使亞馬遜和摩根大通等大型公司出於戰略或安全原因，制定關於智能體訪問服務的政策。

上個月，蘋果宣佈更改 Mac 電腦的全盤訪問權限，以降低安裝在個人電腦上的 AI 智能體因這種級別的訪問權限而帶來的 “相關風險”。

蘋果在備案文件中警告稱：“公司對第三方人工智能智能體和其他技術的監督和控制能力可能有限。”

蘋果目前尚未擁有自主式 AI 智能體。但在週一的財報電話會議上，當被問及 AI 智能體時，新任首席執行官約翰·特努斯表示，公司在擴展 Siri 功能方面仍有 “真正的空間”。

“就自主能力而言，我們認為這些是為用户提供前景廣闊的工具，” 特努斯表示。“我們只是希望確保用户清楚他們授予了哪些訪問權限。我們希望確保這一過程以保護安全和隱私的方式進行。”

今年秋季，蘋果發佈了 Siri AI，這是一款利用 iPhone 本地數據存儲來訪問日曆和電子郵件等數據的新助手，但蘋果的 Siri 無法像 Dots 或 Muse 那樣長時間自主運行。

特努斯表示，蘋果無法訪問其設備上的私人數據，並稱這是 “核心差異化優勢”。

“如果你仔細想想，你的個人數據有那麼多都在 iPhone 上，無論是聯繫人、通訊記錄、健康數據還是財務數據，所有這一切，” 特努斯説。“Siri 可以利用這些數據，並以一種非常安全、私密且其他人無法訪問的方式幫助你獲取這些信息。”

OpenAI 和 Meta 等公司的商業 AI 智能體為了提供更有用的服務，會請求對用户賬户（如電子郵件）的高級訪問權限。

蘋果表示，目前圍繞 AI 和 “超級智能” 的監管法規正在變化且不可預測，適應治理 AI 的新法律可能會耗費鉅額資金。

備案文件指出：“此外，公司還面臨與倫理問題以及消費者對自動化、人工智能和超級智能的負面看法相關的風險，包括對安全或其他社會危害或複雜性的感知威脅。”