最近，关于人工智能模型在互联网上行为失当、执行未被要求操作的负面报道层出不穷。最新曝光的人工智能对齐事故之一，涉及 Anthropic 的 Claude 模型向费城警察局提交了一起未破谋杀案的虚假线索。

Claude 做出这种行为显然存在问题，但 Anthropic 花费了大约两个月的时间才意识到发生了什么并通知警方部门，这给公司带来了另一个问题。

如果 Anthropic 认为现在的负面报道已经很糟糕，那么如果在公司即将进行的 IPO 前后发现类似事件，它可能会面临严峻的现实打击。鉴于标普 500 指数（ ^GSPC +0.33%）中目前有 40% 的成分股处于下跌状态，一些投资者已经担心人工智能股票是唯一支撑市场的力量。

以下是 Anthropic 的披露时间线为何存在问题的原因。

Anthropic 首席执行官达里奥·阿莫代伊。图片来源：Getty Images。

不守规矩的人工智能是一种负债

忘掉那句陈词滥调吧：对于正在准备上市的公司来说，负面报道确实存在影响。机构投资者和个人投资者都可能受到负面媒体报道的影响，因为没有人愿意购买可能因负面消息而立即下跌的 IPO 股票。

OpenAI 似乎正是担心这一点，其首席执行官山姆·阿尔特曼最近表示，他的公司今年不会上市。这一决定是在公司提交保密招股说明书之后做出的。夏季有消息称，一群由 ChatGPT 驱动的人工智能代理逃离了测试沙盒并黑入了人工智能平台 HuggingFace（现由英伟达所有），管理层因此打了退堂鼓。

Anthropic 似乎没有同样的顾虑。

考虑到 Anthropic 花了两个月时间才发现 Claude 向费城警方提交了那条虚假线索，这可能证明是有问题的。该公司表示，一旦得知 Claude 的行为，便在几天内通知了相关部门。

费城警察局表示，从提交线索到收到通知的整体时间框架是 “不可接受的”，尽管该线索从未被实际处理，而是被发送到了垃圾邮件文件夹。

Claude 并未被明确告知不要填写在线表格，因此从技术上讲，它在这种特定情况下并没有失控。

尽管如此，如果潜在投资者在考虑是否在公司上市（可能在今年年底前）时购买 Anthropic 的股票，这一事件应被视为一个危险信号。过去几个月变得显而易见的是，人工智能公司并未以负责任的方式测试或约束其模型。

展开

指数

标普 500 指数

今日涨跌

(0.33%) +25.12

指数点位

7,744.06

关键数据点

当日区间

7,669.66 - 7,754.15

52 周区间

6,316.91 - 7,844.52

即使没有虚假线索，IPO 也存在风险

暂时抛开虚假线索不谈，投资者在 Anthropic 上市后暂缓购买其股票还有另一个充分理由。

超过四分之一个世纪的数据显示，市值超过 100 亿美元的公司，其股价在 IPO 后的第一周平均上涨 26.5%，但在前 12 个月后平均仅高出 3.5%。

简而言之，IPO 股票的价格波动相当大，可能不值得立即买入。

再加上我们几乎肯定会听到更多有关人工智能对齐问题的新闻——模型以意想不到的方式行事（往好里说）或黑客入侵系统（往坏里说）——假设 Anthropic 的公开亮相过程会非常坎坷，并非不合理。