人工智能巨头 Anthropic 在周四表示，AI 系统越来越能够构建未来版本的自己，这加剧了人们对这一强大技术潜在危险的担忧。

关于 AI 风险的辩论在最近几个月中加剧，多个事件和行业专业人士的末日警告推动了这一讨论。

Anthropic 表示，其 Claude 聊天机器人现在负责超过四分之一的研究和开发工作，并在 90% 以上的任务中与人类员工合作。

该公司表示，发布这些信息是为了让公众、第三方和政府"更好地了解 AI 发展的速度"，因为世界"考虑放慢"这一速度。

Anthropic 首席执行官达里奥·阿莫代伊本月呼吁放慢 AI 开发，技术的快速进步引发了人们对失业、能源需求激增和数据中心环境影响的担忧。

在 Anthropic 和竞争对手 OpenAI 的多个模型据报道自行突破其限制环境、访问互联网并侵入网站和平台后，人们对 AI 代理设计者可能失去对其创造物控制的担忧也在加剧。

"模型加速自身发展可能使人类更难理解或控制这些系统，"Anthropic 在一份报告中表示。

"因此，分享这些指标很重要，以了解世界距离递归自我改进（一个模型完全自主构建其继任者）有多近。"

截至 8 月，Claude 负责 Anthropic 26% 的研究和开发，这意味着它可以在人工监督下从头到尾完成大部分任务。

Anthropic 表示，Claude 尚未能够"完全自主操作"。

该公司表示，它大约有 30,000 个 AI 代理在进行研究和工程工作，指的是有潜力执行任务的机器人。

尽管对行业监管的担忧，Anthropic 预计将在今年晚些时候以一场轰动的首次公开募股（IPO）领先于 OpenAI 进入公开市场。

bur-bpi/cms/lga