Anthropic正讓一支獨立的 AI評估團隊獲得前所未有的訪問權限，使他們能夠以較少的公開披露限制來審查其內部系統的模型風險和安全實踐。

與非營利評估機構METR達成的這項安排旨在讓外部研究人員更深入地瞭解 Anthropic 如何評估潛在風險，包括獲取從外部難以驗證的信息，該公司在一篇博客文章中透露。

Anthropic 表示，已接納六名 METR 員工，為他們提供公司設備、工作空間訪問權限以及內部工具和系統的入口。

該公司表示，METR 將能夠發佈有關風險評估、事件和安全實踐的調查結果，而 Anthropic 無權阻止發佈。然而，Anthropic 可以要求對屬於預定義類別的信息進行有限刪減，包括客户數據、受律師 - 客户特權保護的材料以及敏感的模型架構細節。

該安排代表了三級評估者訪問權限中範圍最廣的一級，從由公司批准的狹窄範圍審查到允許評估者在內部系統中工作的嵌入式安排。

推薦閲讀： OpenAI 指控蘋果新員工竊取與未發佈產品相關的 100 多份機密文件

Anthropic 還與SecureBio、Accenture和Faculty合作，並正在與其他組織（包括Hugging Face）進行初步討論，該公司指出。

SecureBio 目前在該框架的第一層級下運作。在完成對早期報告的試點審查後，該組織正在審查 Anthropic 8 月風險報告中的化學和生物武器部分。Anthropic 表示，在當前評估結束後，將考慮擴大 SecureBio 的訪問權限。

這一宣佈之際，AI 開發人員正面臨越來越多的質疑，即他們的內部安全評估是否能為日益強大的模型提供足夠的獨立審查。

本週早些時候，聯邦貿易委員會向OpenAI和 Anthropic發出了民事傳票，因為監管機構加強了對 AI 安全事故和潛在消費者保護違規行為的審查。

與此同時，紐約市主計長Mark Levine正敦促 Anthropic 暫停其計劃中的首次公開募股（IPO），直到這家 AI 公司解決有關 AI 安全、公司治理以及快速發展的技術。帶來的風險等問題。

Anthropic 表示，其方法旨在解決外部研究人員所能觀察到的信息與公司對其自身系統所知信息之間的差距。

該公司還指出，其已簽署白宮關於超級智能的協議，其中包括與獨立外部評估者合作的承諾。

Anthropic 將擬議的監督模式比作銀行業的監管，在銀行業中，外部機構可以訪問內部運營，以評估僅通過公開披露可能不明顯的那些風險。

“對於 AI 行業而言，這是邁向穩健安全監督的一步。我們正迅速與多家評估機構合作，並積極瞭解哪些類型的合作伙伴關係行之有效。我們致力於在此過程中分享最新進展，” 該公司表示。

圖片：Shutterstock

推薦閲讀： OpenAI 將 AI 基礎設施帝國的鑰匙交給前 xAI 高管