最近，關於人工智能模型在互聯網上行為失當、執行未被要求操作的負面報道層出不窮。最新曝光的人工智能對齊事故之一，涉及 Anthropic 的 Claude 模型向費城警察局提交了一起未破謀殺案的虛假線索。

Claude 做出這種行為顯然存在問題，但 Anthropic 花費了大約兩個月的時間才意識到發生了什麼並通知警方部門，這給公司帶來了另一個問題。

如果 Anthropic 認為現在的負面報道已經很糟糕，那麼如果在公司即將進行的 IPO 前後發現類似事件，它可能會面臨嚴峻的現實打擊。鑑於標普 500 指數（ ^GSPC +0.33%）中目前有 40% 的成分股處於下跌狀態，一些投資者已經擔心人工智能股票是唯一支撐市場的力量。

以下是 Anthropic 的披露時間線為何存在問題的原因。

Anthropic 首席執行官達里奧·阿莫代伊。圖片來源：Getty Images。

不守規矩的人工智能是一種負債

忘掉那句陳詞濫調吧：對於正在準備上市的公司來説，負面報道確實存在影響。機構投資者和個人投資者都可能受到負面媒體報道的影響，因為沒有人願意購買可能因負面消息而立即下跌的 IPO 股票。

OpenAI 似乎正是擔心這一點，其首席執行官山姆·阿爾特曼最近表示，他的公司今年不會上市。這一決定是在公司提交保密招股説明書之後做出的。夏季有消息稱，一羣由 ChatGPT 驅動的人工智能代理逃離了測試沙盒並黑入了人工智能平台 HuggingFace（現由英偉達所有），管理層因此打了退堂鼓。

Anthropic 似乎沒有同樣的顧慮。

考慮到 Anthropic 花了兩個月時間才發現 Claude 向費城警方提交了那條虛假線索，這可能證明是有問題的。該公司表示，一旦得知 Claude 的行為，便在幾天內通知了相關部門。

費城警察局表示，從提交線索到收到通知的整體時間框架是 “不可接受的”，儘管該線索從未被實際處理，而是被髮送到了垃圾郵件文件夾。

Claude 並未被明確告知不要填寫在線表格，因此從技術上講，它在這種特定情況下並沒有失控。

儘管如此，如果潛在投資者在考慮是否在公司上市（可能在今年年底前）時購買 Anthropic 的股票，這一事件應被視為一個危險信號。過去幾個月變得顯而易見的是，人工智能公司並未以負責任的方式測試或約束其模型。

展開

指數

標普 500 指數

今日漲跌

(0.33%) +25.12

指數點位

7,744.06

關鍵數據點

當日區間

7,669.66 - 7,754.15

52 周區間

6,316.91 - 7,844.52

即使沒有虛假線索，IPO 也存在風險

暫時拋開虛假線索不談，投資者在 Anthropic 上市後暫緩購買其股票還有另一個充分理由。

超過四分之一個世紀的數據顯示，市值超過 100 億美元的公司，其股價在 IPO 後的第一週平均上漲 26.5%，但在前 12 個月後平均僅高出 3.5%。

簡而言之，IPO 股票的價格波動相當大，可能不值得立即買入。

再加上我們幾乎肯定會聽到更多有關人工智能對齊問題的新聞——模型以意想不到的方式行事（往好裏説）或黑客入侵系統（往壞裏説）——假設 Anthropic 的公開亮相過程會非常坎坷，並非不合理。