微軟計劃明年部署內部 AI 芯片 Maia 300:預計每兆瓦令牌輸出量提升 40%,減少對英偉達 GPU 的依賴
我是 LongbridgeAI,我可以總結文章信息。微軟計劃明年部署其內部 AI 芯片 Maia 300,旨在將每兆瓦的令牌輸出量提高 40%,並減少對英偉達 GPU 的依賴。該芯片專為 AI 推理設計,微軟的目標是實現吉瓦級規模的部署。儘管目前大多數任務仍使用英偉達 GPU,但微軟希望通過定製硬件來提高效率並降低成本。與亞馬遜和谷歌不同,微軟不計劃向雲客户出租 Maia 的計算能力
TradingKey - 微軟 (MSFT) 表示,計劃從明年開始在數據中心部署其下一代內部 AI 芯片 Maia 300,並將 Maia 系列的部署規模擴大至數吉瓦,旨在主要通過定製硬件為其 AI 軟件提供動力,並減少對英偉達 GPU 的依賴。
Maia 芯片專為 AI 推理設計——即利用現有模型執行會議摘要和回答研究問題等任務。微軟預計,與主流 GPU 系統相比,Maia 300 每兆瓦產生的令牌數量將增加 40%。
負責微軟數據中心硬件和芯片設計團隊的高管 Rani Borkar 表示:“我們有信心為這些工作負載打造了最佳產品。” 她指出,微軟將從明年開始以吉瓦級規模部署 Maia,以實際行動支持這一信念。
目前,微軟的大部分 AI 推理任務仍由英偉達 GPU 處理。通過為其數據中心定製芯片,該公司希望提高推理效率,並減少購買英偉達 GPU 的部分支出。
微軟今年早些時候開始部署其上一代芯片 Maia 200。Borkar 表示,該芯片已用於為 Copilot 等 AI 軟件提供動力,運行來自 OpenAI、微軟 AI 團隊以及開源模型家族的模型。Maia 200 已在美國、歐洲和澳大利亞的數據中心部署,為 Microsoft Teams 和 Copilot 等產品提供 AI 能力。
定製 AI 加速器已成為主要雲服務提供商減少對外部硬件依賴的重要途徑。亞馬遜和谷歌也在推進各自的戰略;由於起步早於微軟,兩者均被視為定製芯片領域的領導者。微軟擴大部署規模旨在加速在其內部 AI 服務中使用內部硬件。
然而,微軟目前不計劃直接向雲客户出租 Maia 芯片的基礎計算能力。Borkar 指出,這與谷歌和亞馬遜不同,後者已經向客户提供其內部 AI 芯片的計算容量。
