添加

將我們設為您在 Google 上的首選新聞來源

立即添加

微軟公司 (MSFT) 宣佈推出其第三代 Maia AI 芯片，旨在處理其產品和服務中的 AI 任務，預計每瓦特產生的令牌數將比領先的基於 GPU 的系統多出 40%。

該芯片專為處理微軟實際運行的 AI 工作負載而開發。其 Azure Maia 計劃的第三代產品專注於 AI 推理，即使用訓練好的 AI 模型生成響應和結果的過程。它旨在處理需要大量內存、長輸入和密集型計算的任務。

Maia 300 採用一種名為 MXFP4 的高級低精度格式，以減少計算和存儲鍵值緩存數據所需的內存帶寬。這有助於 AI 模型處理更長的輸入、處理更多請求並更高效地使用計算資源，同時不會增加功耗。

該芯片還採用軟件定義的數據流架構和 AI 輔助的內核優化，以改善數據在計算、內存和網絡系統之間的流動。通過減少不必要的數據移動並更好地利用可用資源，微軟旨在提高性能，同時比傳統的基於 GPU 的系統消耗更少的電力。

展望未來，Maia 300 採用基於小芯片（chiplet）的設計，將計算、內存控制和輸入輸出功能分離到不同的組件中。這種靈活的方法使芯片能夠適應不同的工作負載和計算需求。

微軟股價在納斯達克上漲 1.31%，報 542.08 美元。

如有評論和反饋，請聯繫：editorial@rttnews.com

商業新聞