苹果警告称，AI 智能体可能以“非预期或不可预测”的方式行事带来风险

2026 年 10 月 28 日（星期三），苹果公司首席执行官约翰·特努斯在美国加利福尼亚州洛杉矶的一场活动中发表讲话。

Kyle Grillot | Bloomberg | Getty Images

苹果周二在其年度财务备案文件中表示，能够以 “非预期或不可预测的方式” 行事的 AI 智能体可能使公司面临诉讼或损害其声誉，从而对其业务构成威胁。

苹果备案文件中新增的风险因素显示了 AI 智能体的颠覆性潜力，这些智能体已迅速成为硅谷最重要公司关注的重中之重。

苹果在备案文件中写道：“特别是，人工智能智能体和其他技术可以自主采取行动，包括与内部或外部系统交互（在某些情况下，它们可能无权访问这些系统）、执行或更改代码、发送通信以及完成交易。”

该公司补充称，智能体 “可能会以非预期或不可预测的方式行事，包括采取未被指示、指令或授权的操作。”

今年早些时候，OpenAI 发布了 Dots，Meta 推出了 Muse。这两款 AI 智能体均使用先进的 AI 模型自主执行任务。它们甚至可以在新消息到达时给用户发送电子邮件或提醒。

苹果的披露紧随几起失控 AI 智能体突破沙箱限制黑客攻击第三方网站的事件之后，例如 Hugging Face 事件，这引起了华盛顿特区及全球政策制定者的重新关注。

阅读更多 CNBC 科技新闻

此外，智能体能够以类似人类的方式使用计算机，这迫使亚马逊和摩根大通等大型公司出于战略或安全原因，制定围绕智能体访问服务的政策。

上个月，苹果宣布更改 Mac 电脑的全盘访问权限，以降低安装在个人电脑上的 AI 智能体因拥有此类访问权限而带来的 “相关风险”。

苹果在备案文件中警告称：“公司对第三方人工智能智能体及其他技术的监督和控制在能力上可能有限。”

苹果目前并没有代理式 AI。但在周一的财报电话会议上，当被问及 AI 智能体时，新任首席执行官约翰·特努斯表示，公司在扩展 Siri 功能方面仍有 “真正的空间”。

特努斯表示：“就代理能力而言，我们认为这些是对用户有前景的工具。我们只是希望确保用户清楚他们授予了哪些访问权限。我们希望确保这一过程以保护安全性和隐私的方式进行。”

今年秋季，苹果发布了 Siri AI，这是一款新的助手，利用 iPhone 的本地数据存储来访问日历和电子邮件等数据，但苹果的 Siri 无法像 Dots 或 Muse 那样长时间自主工作。

特努斯表示，苹果无法访问其设备上的私人数据，并称这是 “核心差异化优势”。

特努斯说：“如果你仔细想想，你的大部分个人数据都在你的 iPhone 上，无论是联系人、通信记录、健康数据还是财务数据，所有这些数据都是如此。Siri 可以利用这些数据，并以一种非常安全、私密且其他人无法访问的方式帮助你获取这些信息。”

OpenAI 和 Meta 等公司的商业 AI 智能体为了提供更有用的服务，会请求对用户账户（如电子邮件）的高级访问权限。

苹果表示，目前围绕 AI 和 “超级智能” 的法规正在变化且不可预测，适应监管人工智能的新法律可能会耗费大量资金。

备案文件指出：“此外，公司还面临与伦理问题以及消费者对自动化、人工智能和超级智能的负面看法相关的风险，包括对安全或其他社会危害或复杂问题的感知威胁。”

观看： 苹果证明消费者需求依然具有韧性

在 Google 上选择 CNBC 作为您的首选来源，不错过来自这家最受信赖的商业新闻机构的任何时刻。