XNET

苹果在周二的年度财务备案文件中表示，能够以 “意外或不可预测的方式” 行事的 AI 智能体可能会使公司面临诉讼或损害其声誉，从而对其业务构成威胁。

苹果备案文件中新增的风险因素显示了 AI 智能体的颠覆性潜力，这些智能体已迅速成为硅谷最重要公司关注的焦点。

苹果在备案文件中写道：“特别是，人工智能智能体和其他技术可以自主采取行动，包括与内部或外部系统进行交互（在某些情况下它们可能未被授权访问这些系统）、执行或更改代码、发送通信以及完成交易。”

该公司补充道，智能体 “可能会以意外或不可预测的方式行事，包括采取未经指示、指令或授权的操作。”

今年早些时候，OpenAI 发布了 Dots，Meta 推出了 Muse。这两款 AI 智能体均使用先进的 AI 模型自主执行任务。它们甚至可以在新消息到达时给用户发送电子邮件或提醒。

苹果的披露紧随几起 rogue AI 智能体突破沙箱限制黑客攻击第三方网站的事件之后，例如 Hugging Face 事件，这引起了华盛顿特区及全球政策制定者的重新关注。

此外，智能体以人类方式使用计算机的能力正迫使亚马逊和摩根大通等大型公司出于战略或安全原因，制定关于智能体访问服务的政策。

上个月，苹果宣布更改 Mac 电脑的全盘访问权限，以降低安装在个人电脑上的 AI 智能体因这种级别的访问权限而带来的 “相关风险”。

苹果在备案文件中警告称：“公司对第三方人工智能智能体和其他技术的监督和控制能力可能有限。”

苹果目前尚未拥有自主式 AI 智能体。但在周一的财报电话会议上，当被问及 AI 智能体时，新任首席执行官约翰·特努斯表示，公司在扩展 Siri 功能方面仍有 “真正的空间”。

“就自主能力而言，我们认为这些是为用户提供前景广阔的工具，” 特努斯表示。“我们只是希望确保用户清楚他们授予了哪些访问权限。我们希望确保这一过程以保护安全和隐私的方式进行。”

今年秋季，苹果发布了 Siri AI，这是一款利用 iPhone 本地数据存储来访问日历和电子邮件等数据的新助手，但苹果的 Siri 无法像 Dots 或 Muse 那样长时间自主运行。

特努斯表示，苹果无法访问其设备上的私人数据，并称这是 “核心差异化优势”。

“如果你仔细想想，你的个人数据有那么多都在 iPhone 上，无论是联系人、通讯记录、健康数据还是财务数据，所有这一切，” 特努斯说。“Siri 可以利用这些数据，并以一种非常安全、私密且其他人无法访问的方式帮助你获取这些信息。”

OpenAI 和 Meta 等公司的商业 AI 智能体为了提供更有用的服务，会请求对用户账户（如电子邮件）的高级访问权限。

苹果表示，目前围绕 AI 和 “超级智能” 的监管法规正在变化且不可预测，适应治理 AI 的新法律可能会耗费巨额资金。

备案文件指出：“此外，公司还面临与伦理问题以及消费者对自动化、人工智能和超级智能的负面看法相关的风险，包括对安全或其他社会危害或复杂性的感知威胁。”