API

----

微软推出第三代 Maia AI 芯片以处理 AI 任务

LongbridgeAI我是 LongbridgeAI,我可以总结文章信息。

微软发布了其第三代 Maia AI 芯片,旨在优化 AI 推理工作负载。该芯片采用 MXFP4 精度和基于小芯片(chiplet)的设计,每瓦特产生的令牌数比领先 GPU 多出 40%。其目标是以更高的效率和更低的功耗处理密集型计算任务

添加

将我们设为您在 Google 上的首选新闻来源

立即添加

微软公司 (MSFT) 宣布推出其第三代 Maia AI 芯片,旨在处理其产品和服务中的 AI 任务,预计每瓦特产生的令牌数将比领先的基于 GPU 的系统多出 40%。

该芯片专为处理微软实际运行的 AI 工作负载而开发。其 Azure Maia 计划的第三代产品专注于 AI 推理,即使用训练好的 AI 模型生成响应和结果的过程。它旨在处理需要大量内存、长输入和密集型计算的任务。

Maia 300 采用一种名为 MXFP4 的高级低精度格式,以减少计算和存储键值缓存数据所需的内存带宽。这有助于 AI 模型处理更长的输入、处理更多请求并更高效地使用计算资源,同时不会增加功耗。

该芯片还采用软件定义的数据流架构和 AI 辅助的内核优化,以改善数据在计算、内存和网络系统之间的流动。通过减少不必要的数据移动并更好地利用可用资源,微软旨在提高性能,同时比传统的基于 GPU 的系统消耗更少的电力。

展望未来,Maia 300 采用基于小芯片(chiplet)的设计,将计算、内存控制和输入输出功能分离到不同的组件中。这种灵活的方法使芯片能够适应不同的工作负载和计算需求。

微软股价在纳斯达克上涨 1.31%,报 542.08 美元。

如有评论和反馈,请联系:editorial@rttnews.com

商业新闻

登录即免费解锁77字全文

因资讯版权原因,登录长桥账户后方可浏览相关内容
感谢您对正版资讯的理解与支持