微軟公司（NASDAQ: MSFT）總裁布拉德·史密斯（Brad Smith）正敦促各國政府對人工智能實施緊急安全要求。

史密斯在週日接受英國廣播公司（BBC）採訪時表示：“目前，你的洗衣機所受的安全規則比人工智能還要多。你在雜貨店看到的每一盒牛奶都受到安全規則和檢查的約束。”

史密斯認為，必須將人工智能視為一種 “工具和武器”，他指出，隨着能力日益強大的系統獲得訪問敏感信息和關鍵基礎設施的權限，政府需要制定統一的規則。“讓我們從今天開始做起，” 他説。

他提議要求公司在惡意人工智能代理突破系統時通知受影響的人員，並提交記錄這些事件的正式報告。他還支持設置緊急 “終止開關”，以便暫停或減緩不可預測的系統運行。

這位微軟總裁警告稱，現在是採取行動的時候了，他指出人工智能代理的運行已超出人類控制範圍，且強大的模型帶來了網絡安全風險。“關鍵時刻已經到來，” 他説。

史密斯還呼籲獨立的政府評估機構在產品發佈前審查某些人工智能產品，特別是那些具備可能威脅全球網絡安全能力的系統。

相關閲讀：微軟簽證凍結可能引發人工智能人才 “外流”

史密斯敦促在人工智能承諾之外加強審查

9 月底，總統唐納德·特朗普（Donald Trump）在白宮接待了來自 OpenAI、Anthropic、英偉達公司（NASDAQ: NVDA）、太空探索技術公司（NASDAQ: SPCX）、Meta Platforms Inc.（NASDAQ: META）和 Alphabet Inc.（NASDAQ: GOOG）（NASDAQ: GOOGL）的高層領導，他們簽署了一份 “具有道德約束力” 的承諾，表示將與獨立審計師合作評估人工智能系統，確保它們不會以非預期方式訪問或黑客攻擊技術系統。

史密斯對該聲明表示歡迎，稱微軟 “樂於簽署”，但他認為僅靠自律 “已不再足夠”，因為責任感較弱的公司可能不會遵循相同的標準。

微軟高層推動人工智能安全保障措施

史密斯發表上述言論之際，其他與微軟相關的高層也在倡導加強管控。上週末，微軟首席執行官薩提亞·納德拉（Satya Nadella）表示，企業應將人工智能模型視為潛在的內部風險，並在高級系統受損時依賴外部保障措施。納德拉指出，即使允許模型訪問敏感數據和執行重要操作，組織也無法可靠地將模型行為追溯至特定的訓練數據或模型權重。

微軟聯合創始人比爾·蓋茨（Bill Gates）於週日重申了這一觀點，呼籲參照飛機、汽車和藥品的安全監管制度來建立人工智能保護機制。蓋茨認為，現有的保障措施未能充分應對人工智能的風險或潛在濫用問題。

免責聲明： 本文內容部分由人工智能工具生成，並經 Benzinga 編輯審核發佈。

相關閲讀：分析師將 Anthropic 估值僅為 1500 億美元，稱其 IPO 可能成為 2026 年 “最荒謬” 的發行：“對投資者輕信的史無前例的考驗”

圖片來源：Shutterstock