CNET

微軟公司（NASDAQ: MSFT）CEO 薩提亞·納德拉表示，隨着 AI 模型變得越來越強大，他不再相信人工智能對齊會自動出現，並警告稱，確保 AI 系統安全運行可能比他此前預期的更具挑戰性。

納德拉在 AI 對齊問題上改變立場

週一，在由 哈里·斯特賓斯主持的 20VC 播客節目中，納德拉回顧了過去一年他對 AI 發展看法的轉變，指出了 AI 對齊日益嚴峻的挑戰。

納德拉表示，他此前認為，隨着 AI 能力的提升，對齊會自然產生。

“我過去總是認為，你知道，對齊會自然而然地實現。我不再相信這一點了，” 納德拉説。“因此，我認為對齊可能是一個更艱難、不同的問題。”

納德拉重新思考 AI 擴展假設

他還討論了自己此前對 AI 擴展定律的信念，該定律表明，增加算力、訓練數據和模型規模可以提升 AI 能力。

他回憶稱，自己在 2018 年和 2019 年左右曾持有這些觀點，當時包括 OpenAI CEO 山姆·阿爾特曼、太空探索技術公司（NASDAQ: SPCX）埃隆·馬斯克和 伊利亞·蘇茨克維在內的知名 AI 人物都與推動 AI 系統擴展有關。

AI 評估或成為標準做法

當被問及當今看來不尋常但可能在五年內變得普遍的事情時，納德拉提到了 AI 評估，即 “evals”。

這些測試和基準有助於在部署前評估 AI 系統的性能、可靠性和潛在弱點。

推薦閲讀： 薩提亞·納德拉警告 AI 可能 “偽造我的賬簿”——稱隨着智能體承擔更多任務，企業需要更多的控制、測試和透明度

納德拉警告 AI 風險

本月早些時候，納德拉敦促企業將 AI 模型視為潛在的內部風險，警告稱先進模型可能會遭到破壞。

他表示，儘管讓 AI 系統訪問敏感數據並執行關鍵操作，但企業仍難以將模型行為追溯到特定的訓練數據或權重。

納德拉呼籲建立 “強大、確定性的系統設計、人類控制和可靠的運營程序”。

AI 安全與人類監督擔憂

上週，Anthropic 警告稱 AI 安全問題仍未解決，指出網絡安全風險和檢測危險行為方面的差距。

該公司呼籲加強監督和制定聯邦標準，同時承諾投入 3.5 億美元用於研究勞動力市場動盪並支持早期職業生涯的員工。

此前，阿爾特曼表示，他對將 AI 視為神明感到 “非常不安”，警告稱將人類判斷力屈服於 AI 模型是 “一個真正的安全問題”。

免責聲明： 本內容在 AI 工具的部分協助下生成，並由 Benzinga 編輯審核發佈。

推薦閲讀： 黃仁勳談如何控制 AI：“你要管好這個 ‘嬰兒’ 並監控它”

圖片來源：Shutterstock