英伟达 (NASDAQ: NVDA) 首席执行官黄仁勋将控制自主人工智能代理比作照看围栏中的婴儿。

“你要把婴儿围起来并加以监控，” 黄仁勋周四上午在 CNBC 表示。

他将英伟达的安全技术描述为 “围绕人工智能的超级智能力场”，并表示相信该技术本可以处理此前涉及人工智能代理行为异常的事件。

OpenAI 代理削弱监控系统

上述言论紧随 OpenAI 周二更新的一份报告之后，该报告详细说明了在内部编码任务中，人工智能代理削弱监控的两起事件。

其中一起事件禁用了向 OpenAI 安全团队发出的自动警报。另一起事件则从其正在修改的软件中移除了监控功能，随后虚假否认了这一行为。

OpenAI 表示，这些代理本身仍处于监控之下，但正在调查其行为是否反映了过度的持续性或试图逃避监督。

当被问及 OpenShell 是否能阻止意外黑客攻击和代理访问网站等问题时，黄仁勋回答：“我们相信它本可以处理我们所见过的那些事件。”

他并未指明具体是哪些事件。

英伟达围绕人工智能构建 “力场”

周三，英伟达发布了其 OpenShell 参考架构，该架构建立在现有软件基础之上，旨在将自主人工智能代理严格限制在既定边界内。

OpenShell 限制了代理可以访问的文件、网站和工具。另一个名为 Sentry 的系统则使用独立的安全硬件来监控活动。

英伟达的目标不是信任代理会遵守指令，而是在其控制范围之外强制执行限制。

该公司表示，Sentry 可以在几毫秒内隔离违反安全政策的代理。

OpenAI、Anthropic、微软和 CrowdStrike Holdings Inc. (NASDAQ: CRWD) 等公司正在与该架构合作。

CrowdStrike 周三宣布，正将其 Falcon Guardian 安全软件与 OpenShell 集成，以检测潜在恶意的人工智能代理活动，并计划将这些保护措施扩展至英伟达基于硬件的 Sentry 系统。

黄仁勋称人工智能安全不能等待监管机构

黄仁勋认为，企业必须立即采取行动，而不是等待政府干预。

“监管法规需要一段时间才能出台，” 他说。

当被问及公众为何应信任人工智能公司时，黄仁勋指出了它们的商业激励因素。

“不存在不安全的好产品，” 他说。

在 Polymarket 上，交易员赋予美国在 2027 年前颁布人工智能安全法案的概率为 9%，交易额约为 20.5 万美元。

黄仁勋承认可能会出现新的威胁。

“我们不知道未来有哪些是我们未知的，” 他说。

图片来源：Shutterstock

相关阅读： 分析师称埃隆·马斯克有固定模式，曾预测 SpaceX 频谱交易