微软公司（NASDAQ: MSFT）总裁布拉德·史密斯（Brad Smith）正敦促各国政府对人工智能实施紧急安全要求。

史密斯在周日接受英国广播公司（BBC）采访时表示：“目前，你的洗衣机所受的安全规则比人工智能还要多。你在杂货店看到的每一盒牛奶都受到安全规则和检查的约束。”

史密斯认为，必须将人工智能视为一种 “工具和武器”，他指出，随着能力日益强大的系统获得访问敏感信息和关键基础设施的权限，政府需要制定统一的规则。“让我们从今天开始做起，” 他说。

他提议要求公司在恶意人工智能代理突破系统时通知受影响的人员，并提交记录这些事件的正式报告。他还支持设置紧急 “终止开关”，以便暂停或减缓不可预测的系统运行。

这位微软总裁警告称，现在是采取行动的时候了，他指出人工智能代理的运行已超出人类控制范围，且强大的模型带来了网络安全风险。“关键时刻已经到来，” 他说。

史密斯还呼吁独立的政府评估机构在产品发布前审查某些人工智能产品，特别是那些具备可能威胁全球网络安全能力的系统。

相关阅读：微软签证冻结可能引发人工智能人才 “外流”

史密斯敦促在人工智能承诺之外加强审查

9 月底，总统唐纳德·特朗普（Donald Trump）在白宫接待了来自 OpenAI、Anthropic、英伟达公司（NASDAQ: NVDA）、太空探索技术公司（NASDAQ: SPCX）、Meta Platforms Inc.（NASDAQ: META）和 Alphabet Inc.（NASDAQ: GOOG）（NASDAQ: GOOGL）的高层领导，他们签署了一份 “具有道德约束力” 的承诺，表示将与独立审计师合作评估人工智能系统，确保它们不会以非预期方式访问或黑客攻击技术系统。

史密斯对该声明表示欢迎，称微软 “乐于签署”，但他认为仅靠自律 “已不再足够”，因为责任感较弱的公司可能不会遵循相同的标准。

微软高层推动人工智能安全保障措施

史密斯发表上述言论之际，其他与微软相关的高层也在倡导加强管控。上周末，微软首席执行官萨提亚·纳德拉（Satya Nadella）表示，企业应将人工智能模型视为潜在的内部风险，并在高级系统受损时依赖外部保障措施。纳德拉指出，即使允许模型访问敏感数据和执行重要操作，组织也无法可靠地将模型行为追溯至特定的训练数据或模型权重。

微软联合创始人比尔·盖茨（Bill Gates）于周日重申了这一观点，呼吁参照飞机、汽车和药品的安全监管制度来建立人工智能保护机制。盖茨认为，现有的保障措施未能充分应对人工智能的风险或潜在滥用问题。

免责声明： 本文内容部分由人工智能工具生成，并经 Benzinga 编辑审核发布。

相关阅读：分析师将 Anthropic 估值仅为 1500 亿美元，称其 IPO 可能成为 2026 年 “最荒谬” 的发行：“对投资者轻信的史无前例的考验”

图片来源：Shutterstock