AI 领导者希望作为安全放缓的一部分来'控制前沿'。但具体该如何实现呢？
我是 LongbridgeAI，我可以总结文章信息。AI 领导者希望在安全减速的过程中 “引领前沿”。但这要如何实现呢？
作者：Christine Ji
科技巨头们正试图放下竞争，团结起来关注人工智能安全，但在实际减速的方式上却发生了冲突。
Anthropic 首席执行官达里奥·阿莫代伊（Dario Amodei）提出在引入新的监管协议的同时减缓人工智能的发展速度。OpenAI 的山姆·奥特曼（Sam Altman）和 SpaceX 的埃隆·马斯克（Elon Musk）对此表示赞同。
人工智能领域的领导者们很少在任何事情上达成一致。
随着 Anthropic、OpenAI、Alphabet（GOOGL）旗下的谷歌（GOOG）及其他人工智能实验室在开发超智能的昂贵竞赛中竞争，他们在从开源访问到模型架构的各个方面都出现了分歧。这导致了激烈的争论，有时甚至演变为人身攻击。
因此，当埃隆·马斯克、山姆·奥特曼和德米斯·哈萨比斯（Demis Hassabis）——xAI 母公司 SpaceX（SPCX）、OpenAI 和谷歌 DeepMind 的负责人——表达对 Anthropic 首席执行官达里奥·阿莫代伊减缓人工智能发展的呼吁的支持时，似乎科技高管们已经放下了分歧，共同应对严重的技术风险。他们一致认为，行业术语 “前沿”——指的是最先进的人工智能能力——的发展速度超过了人类能够安全监控和控制的能力。
在人工智能研究员雅各布·考克森（Jacob Coxon）本月早些时候宣布辞去 Anthropic 职务后，关于强大人工智能系统通过网络攻击和经济破坏造成社会危害的担忧加剧。他在 X 平台上发文称，OpenAI 和 Anthropic 的行为不负责任，正在 “拿我们的生命冒险”。Anthropic 的对齐科学负责人埃文·哈宾格（Evan Hubinger）也表达了类似的观点，他在 X 上发文称，他认为人工智能在十年内消灭人类的概率 “超过 10%”。
阿莫代伊在其文章《我们必须减缓前沿》中回应了这些担忧，呼吁人工智能行业以更慢的速度构建新能力。他主张必须投入更多资源用于模型对齐，即确保人工智能模型的行为与人类的价值观和意图相匹配。阿莫代伊还呼吁对前沿人工智能实验室加强监管，重点关注 “透明度和第三方审计”。
但为安全的人工智能发展实施保护措施比在社交媒体上表达支持要复杂得多。随着首席执行官、研究人员和政策制定者努力理解减缓前沿的含义，行业内的新一轮激烈辩论正在升温。
首先，并不是所有人都认为人工智能安全是一个集体行动问题。
前沿实验室已经开始共同制定标准。OpenAI 全球政策负责人克里斯·莱哈恩（Chris Lehane）在周二表示，该公司与 Anthropic 和谷歌 DeepMind 在人工智能安全问题上已经合作了几周。
OpenAI、Anthropic 和谷歌 DeepMind 尚未立即回应 MarketWatch 的评论请求。
另一方面，Meta（META）首席执行官马克·扎克伯格（Mark Zuckerberg）采取了不同的立场，他在周二的 X 平台上发文称，“每个实验室都有责任和动力以所需的速度安全地训练其模型，并有能力采取自己的行动以确保这一点。” 扎克伯格强调，Meta 因安全原因推迟了其 Muse 人工智能代理的发布几个月。“在我们之前，我们并没有呼吁其他人这样做，” 他补充道。
Meta 尚未立即回应 MarketWatch 的评论请求。
马里兰大学计算机科学与人工智能教授瑞特维克·古普塔（Ritwik Gupta）认为，减缓前沿的发展依赖于实验室之间的广泛合作。“在我们所处的竞争自由市场环境中，这可能并不可行，” 古普塔说。如果只有 OpenAI 和 Anthropic 同意减缓人工智能的发展，其他参与者可能会抓住机会赶上或设定新的前沿，他指出。
即使人工智能实验室合作减缓发展，古普塔也认为可能会出现漏洞。一些研究人员提出对用于训练人工智能的计算能力进行限制。古普塔指出，今天的前沿进展越来越多地受到测试时工作负载和围绕人工智能的软件开发的驱动，而不仅仅是原始模型训练。
“我并不完全相信仅仅暂停训练实际上会显著改变前沿的进展速度，” 古普塔说。
快速发展的行业缺乏共享定义也在阻碍人工智能安全工作的进展。
Cohere 的美洲公共政策负责人 A.J. Bhadelia 告诉 MarketWatch，在这一领域仍然存在 “根本性的科学分歧”。在他看来，关于人工智能风险的一些近期讨论已经接近 “科幻” 的领域。
“那个 10% 的数字并不是基于研究……没有科学依据，” Bhadelia 谈到 Anthropic 研究者的末日预测时表示。
人工智能行业需要就人工智能风险的类型和严重性进行基于证据的讨论，而不是急于实施政策，因为面向消费者的人工智能工具可能需要与企业基础设施提供商截然不同的保护措施。
虽然在理论上减缓前沿听起来很有吸引力，但一些人认为这些模糊的定义和漏洞使得减速在实际操作中几乎不可能。
“在实践中，没有一个连贯、合理的减速计划可以考虑，” SingularityNET 创始人本·戈特泽尔（Ben Goertzel）说。作为一位知名的人工智能研究者，戈特泽尔和 DeepMind 的联合创始人香农·莱格（Shane Legg）在 2000 年代初普及了 “人工通用智能” 这一术语。随着人工智能应用的激增，戈特泽尔提出了一个问题：“你如何划定人工智能开发与软件开发之间的界限？”
“这一切的前提是你可以通过控制最大的 LLM 来控制人工智能，” 戈特泽尔告诉 MarketWatch。
戈特泽尔指出了一些初创公司，例如由 Meta 前首席人工智能科学家扬·勒昆（Yann LeCun）创立的 Advanced Machine Intelligence Labs，以及由前谷歌 DeepMind 首席科学家杰夫·迪恩（Jeff Dean）创立的 Discovery Loop。这些公司正在探索可能挑战行业当前训练实践的实验性架构。
“我认为，只有少数公司能够处于前沿的假设在一年后可能看起来并不那么真实，” 戈特泽尔说。“前沿事物越小，监管就越困难。”
一个获得广泛关注的提议是，在实验室内使用独立评估者。在他的文章中，阿莫代伊提议在前沿实验室内设置 “嵌入式评估者”，并给予这些审计员员工级别的访问权限，以监控人工智能的实践。
但再次强调，最初的共识让位于一系列新问题。谁应该进行审计？谁来监管审计员？应该实施什么类型的评估？
扎克伯格采取了放任自流的态度，在他周二的帖子中写道，Meta 超级智能实验室已经在聘用独立评估者，“其他实验室也可以这样做。”
一个名为模型评估与威胁研究的非营利组织最近因在阿莫代伊的文章中被提及为潜在的第三方评估者而声名鹊起。但马里兰大学的教授古普塔认为，联邦资助的研究与开发中心（FFRDCs）将作为更中立的第三方评估者。
FFRDCs 是由政府资助、私营运营的研究中心，包括私营的非营利智库和主要研究大学。古普塔表示，国会资助的 FFRDC 的激励结构比由慈善支持的人工智能安全组织更明确。
周五，一个名为人工智能评估者论坛的独立人工智能评估组织发布了一封公开信，概述了嵌入式评估者的一般框架。信中有超过 100 个签名，呼吁在评估中实现多样性，并设立操作保障，以帮助评估者保持独立性。
“独立性问题非常重要，” 美国人工智能验证与评估研究所的政策主任纳特·珀瑟告诉 MarketWatch。该研究所是人工智能评估者论坛信的签署者。
“人们有理由考虑利益冲突，并且不与实验室有商业纠缠，” 珀瑟说。在过去几周，她收到了关于审计员是否可以在不遭到实验室报复的情况下自由发言，以及评估者是否能够获得进行审计所需的足够材料的提问。
“如果我们希望在实验室之间实现标准化，这一切将不得不通过政策来实现，” 珀瑟补充道。促进评估者独立性的一个提议是，监管机构从一个持牌池中分配审计员，而不是让实验室直接雇佣自己的审计员。
然而，珀瑟警告说，建立一个有效的评估者系统不足以捕捉所有人工智能威胁，因为不可预见的风险将不可避免地出现。
“我对为了速度而追求速度并不感兴趣，” 珀瑟说。“我更感兴趣的是实施更多的流程，以实现有意义的监督，如果这导致事情放慢，那就太好了。”
-Christine Ji
此内容由 MarketWatch 创建，MarketWatch 由道琼斯公司运营。MarketWatch 与道琼斯新闻通讯和《华尔街日报》独立出版。
（完）道琼斯新闻通讯
09-19-26 0700ET