Anthropic正让一支独立的 AI评估团队获得前所未有的访问权限，使他们能够以较少的公开披露限制来审查其内部系统的模型风险和安全实践。

与非营利评估机构METR达成的这项安排旨在让外部研究人员更深入地了解 Anthropic 如何评估潜在风险，包括获取从外部难以验证的信息，该公司在一篇博客文章中透露。

Anthropic 表示，已接纳六名 METR 员工，为他们提供公司设备、工作空间访问权限以及内部工具和系统的入口。

该公司表示，METR 将能够发布有关风险评估、事件和安全实践的调查结果，而 Anthropic 无权阻止发布。然而，Anthropic 可以要求对属于预定义类别的信息进行有限删减，包括客户数据、受律师 - 客户特权保护的材料以及敏感的模型架构细节。

该安排代表了三级评估者访问权限中范围最广的一级，从由公司批准的狭窄范围审查到允许评估者在内部系统中工作的嵌入式安排。

推荐阅读： OpenAI 指控苹果新员工窃取与未发布产品相关的 100 多份机密文件

Anthropic 还与SecureBio、Accenture和Faculty合作，并正在与其他组织（包括Hugging Face）进行初步讨论，该公司指出。

SecureBio 目前在该框架的第一层级下运作。在完成对早期报告的试点审查后，该组织正在审查 Anthropic 8 月风险报告中的化学和生物武器部分。Anthropic 表示，在当前评估结束后，将考虑扩大 SecureBio 的访问权限。

这一宣布之际，AI 开发人员正面临越来越多的质疑，即他们的内部安全评估是否能为日益强大的模型提供足够的独立审查。

本周早些时候，联邦贸易委员会向OpenAI和 Anthropic发出了民事传票，因为监管机构加强了对 AI 安全事故和潜在消费者保护违规行为的审查。

与此同时，纽约市主计长Mark Levine正敦促 Anthropic 暂停其计划中的首次公开募股（IPO），直到这家 AI 公司解决有关 AI 安全、公司治理以及快速发展的技术。带来的风险等问题。

Anthropic 表示，其方法旨在解决外部研究人员所能观察到的信息与公司对其自身系统所知信息之间的差距。

该公司还指出，其已签署白宫关于超级智能的协议，其中包括与独立外部评估者合作的承诺。

Anthropic 将拟议的监督模式比作银行业的监管，在银行业中，外部机构可以访问内部运营，以评估仅通过公开披露可能不明显的那些风险。

“对于 AI 行业而言，这是迈向稳健安全监督的一步。我们正迅速与多家评估机构合作，并积极了解哪些类型的合作伙伴关系行之有效。我们致力于在此过程中分享最新进展，” 该公司表示。

图片：Shutterstock

推荐阅读： OpenAI 将 AI 基础设施帝国的钥匙交给前 xAI 高管