NET

347.7000.90%

微软计划明年部署内部 AI 芯片 Maia 300:预计每兆瓦令牌输出量提升 40%,减少对英伟达 GPU 的依赖

LongbridgeAI我是 LongbridgeAI,我可以总结文章信息。

微软计划明年部署其内部 AI 芯片 Maia 300,旨在将每兆瓦的令牌输出量提高 40%,并减少对英伟达 GPU 的依赖。该芯片专为 AI 推理设计,微软的目标是实现吉瓦级规模的部署。尽管目前大多数任务仍使用英伟达 GPU,但微软希望通过定制硬件来提高效率并降低成本。与亚马逊和谷歌不同,微软不计划向云客户出租 Maia 的计算能力

TradingKey - 微软 (MSFT) 表示,计划从明年开始在数据中心部署其下一代内部 AI 芯片 Maia 300,并将 Maia 系列的部署规模扩大至数吉瓦,旨在主要通过定制硬件为其 AI 软件提供动力,并减少对英伟达 GPU 的依赖。

Maia 芯片专为 AI 推理设计——即利用现有模型执行会议摘要和回答研究问题等任务。微软预计,与主流 GPU 系统相比,Maia 300 每兆瓦产生的令牌数量将增加 40%。

负责微软数据中心硬件和芯片设计团队的高管 Rani Borkar 表示:“我们有信心为这些工作负载打造了最佳产品。” 她指出,微软将从明年开始以吉瓦级规模部署 Maia,以实际行动支持这一信念。

目前,微软的大部分 AI 推理任务仍由英伟达 GPU 处理。通过为其数据中心定制芯片,该公司希望提高推理效率,并减少购买英伟达 GPU 的部分支出。

微软今年早些时候开始部署其上一代芯片 Maia 200。Borkar 表示,该芯片已用于为 Copilot 等 AI 软件提供动力,运行来自 OpenAI、微软 AI 团队以及开源模型家族的模型。Maia 200 已在美国、欧洲和澳大利亚的数据中心部署,为 Microsoft Teams 和 Copilot 等产品提供 AI 能力。

定制 AI 加速器已成为主要云服务提供商减少对外部硬件依赖的重要途径。亚马逊和谷歌也在推进各自的战略;由于起步早于微软,两者均被视为定制芯片领域的领导者。微软扩大部署规模旨在加速在其内部 AI 服务中使用内部硬件。

然而,微软目前不计划直接向云客户出租 Maia 芯片的基础计算能力。Borkar 指出,这与谷歌和亚马逊不同,后者已经向客户提供其内部 AI 芯片的计算容量。

来源: TradingKey 本文版权归属于原作者/机构。

以上内容仅代表作者个人观点,不代表平台立场。本内容仅供投资参考,不应被视为投资建议。如您对平台提供的内容服务有任何疑问或建议,请联系我们。