17173首页 游戏资讯 科技新闻 正文

微软发布Maia 300 AI芯片

导语
微软发布自研AI芯片Maia 300,性能飙升40%、带宽达18TB/s,专攻推理与智能体任务,逐步摆脱英伟达依赖,抢占AI算力先机!

微软发布了第三代自研AI芯片,旨在逐步摆脱对英伟达的依赖:

“我们预计Maia 300每兆瓦Token吞吐量将比主流GPU系统高出40%,96片单机架Token吞吐量最高可达Maia 200的七倍”,微软云事业执行副总Scott Guthrie称。“我们将从27年开始在吉瓦级部署中应用自研Maia芯片,使Maia成为微软产品和服务的主要AI推理系统。”

其实上一代产品Maia 200九个月前才推出,已用于Microsoft Copilot、GitHub Copilot、Microsoft Foundry等生产力负载。而近日推出的Maia 300基于台积电N2P工艺,单颗功耗950瓦,采用计算、内存控制器,以及I/O单元分离的Chiplet架构,提升了良率与灵活性。

Maia 300专注于“推理优先”,针对长上下文,对延迟敏感的对话体验,以及连续多步骤智能体任务进行优化。受益于最新一代HBM4技术,8组36GB模块组成288GB内存,带宽高达18TB/s,相当于上一代产品Maia 200的2.5倍。

典型的Maia 300系统级应用采用单机架96颗处理器配置,总功耗为167kW,可提供27.6TB机架内存与1.7PB/s聚合HBM带宽,有助于微软奋力追赶谷歌DeepMind、OpenAI ,以及Anthropic。

“我们必须掌握从端到端全套技术栈”,微软人工智能首席执行官穆斯塔法·苏莱曼称,“为此我们需要一个拥有完全知识产权的平台,基于Maia芯片的微软人工智能模型是我司工作重心。”

【来源:快科技】

尊敬的用户也许你已经注意到了我们文章页面进行了大规模的改造和重构,可以点击提交您的满意度或者想法我们会持续改进,给您提供更好的浏览体验! 一键参与
17173APP

扫描下载APP

游戏礼包一键领取

17173微信公众号

扫描关注公众号

每天更新