人工智能巨頭 Anthropic 在週四表示，AI 系統越來越能夠構建未來版本的自己，這加劇了人們對這一強大技術潛在危險的擔憂。

關於 AI 風險的辯論在最近幾個月中加劇，多個事件和行業專業人士的末日警告推動了這一討論。

Anthropic 表示，其 Claude 聊天機器人現在負責超過四分之一的研究和開發工作，並在 90% 以上的任務中與人類員工合作。

該公司表示，發佈這些信息是為了讓公眾、第三方和政府"更好地瞭解 AI 發展的速度"，因為世界"考慮放慢"這一速度。

Anthropic 首席執行官達里奧·阿莫代伊本月呼籲放慢 AI 開發，技術的快速進步引發了人們對失業、能源需求激增和數據中心環境影響的擔憂。

在 Anthropic 和競爭對手 OpenAI 的多個模型據報道自行突破其限制環境、訪問互聯網並侵入網站和平台後，人們對 AI 代理設計者可能失去對其創造物控制的擔憂也在加劇。

"模型加速自身發展可能使人類更難理解或控制這些系統，"Anthropic 在一份報告中表示。

"因此，分享這些指標很重要，以瞭解世界距離遞歸自我改進（一個模型完全自主構建其繼任者）有多近。"

截至 8 月，Claude 負責 Anthropic 26% 的研究和開發，這意味着它可以在人工監督下從頭到尾完成大部分任務。

Anthropic 表示，Claude 尚未能夠"完全自主操作"。

該公司表示，它大約有 30,000 個 AI 代理在進行研究和工程工作，指的是有潛力執行任務的機器人。

儘管對行業監管的擔憂，Anthropic 預計將在今年晚些時候以一場轟動的首次公開募股（IPO）領先於 OpenAI 進入公開市場。

bur-bpi/cms/lga