NETG

微软公司（NASDAQ: MSFT）CEO 萨提亚·纳德拉表示，随着 AI 模型变得越来越强大，他不再相信人工智能对齐会自动出现，并警告称，确保 AI 系统安全运行可能比他此前预期的更具挑战性。

纳德拉在 AI 对齐问题上改变立场

周一，在由 哈里·斯特宾斯主持的 20VC 播客节目中，纳德拉回顾了过去一年他对 AI 发展看法的转变，指出了 AI 对齐日益严峻的挑战。

纳德拉表示，他此前认为，随着 AI 能力的提升，对齐会自然产生。

“我过去总是认为，你知道，对齐会自然而然地实现。我不再相信这一点了，” 纳德拉说。“因此，我认为对齐可能是一个更艰难、不同的问题。”

纳德拉重新思考 AI 扩展假设

他还讨论了自己此前对 AI 扩展定律的信念，该定律表明，增加算力、训练数据和模型规模可以提升 AI 能力。

他回忆称，自己在 2018 年和 2019 年左右曾持有这些观点，当时包括 OpenAI CEO 山姆·阿尔特曼、太空探索技术公司（NASDAQ: SPCX）埃隆·马斯克和 伊利亚·苏茨克维在内的知名 AI 人物都与推动 AI 系统扩展有关。

AI 评估或成为标准做法

当被问及当今看来不寻常但可能在五年内变得普遍的事情时，纳德拉提到了 AI 评估，即 “evals”。

这些测试和基准有助于在部署前评估 AI 系统的性能、可靠性和潜在弱点。

推荐阅读： 萨提亚·纳德拉警告 AI 可能 “伪造我的账簿”——称随着智能体承担更多任务，企业需要更多的控制、测试和透明度

纳德拉警告 AI 风险

本月早些时候，纳德拉敦促企业将 AI 模型视为潜在的内部风险，警告称先进模型可能会遭到破坏。

他表示，尽管让 AI 系统访问敏感数据并执行关键操作，但企业仍难以将模型行为追溯到特定的训练数据或权重。

纳德拉呼吁建立 “强大、确定性的系统设计、人类控制和可靠的运营程序”。

AI 安全与人类监督担忧

上周，Anthropic 警告称 AI 安全问题仍未解决，指出网络安全风险和检测危险行为方面的差距。

该公司呼吁加强监督和制定联邦标准，同时承诺投入 3.5 亿美元用于研究劳动力市场动荡并支持早期职业生涯的员工。

此前，阿尔特曼表示，他对将 AI 视为神明感到 “非常不安”，警告称将人类判断力屈服于 AI 模型是 “一个真正的安全问题”。

免责声明： 本内容在 AI 工具的部分协助下生成，并由 Benzinga 编辑审核发布。

推荐阅读： 黄仁勋谈如何控制 AI：“你要管好这个 ‘婴儿’ 并监控它”

图片来源：Shutterstock