17173首页 游戏资讯 科技新闻 正文

不用交换机!微软Windows11上线USB4 RDMA:多机合体做AI推理

导语
微软Win11启用USB4 RDMA:不需交换机/网卡,多台PC串联做AI推理,延迟低至28微秒,80Gbps高速互联,比以太网快4倍!

据TECHPOWERUP报道,微软在Windows11上启用了基于USB4协议的远程直接内存访问(RDMA)技术,无需专用网卡或配置网络交换机,即可将多台PC串联起来,共同处理大型工作负载。

这意味着AI推理不再受单机规格限制,能分散到几台互联设备上处理数据,上限取决于设备数量与各自配置。

微软还公布了实测数据:在双机互联环境下,利用RDMA技术,通过USB4连接的延迟在28至50微秒之间。

作为对比,同一USB4链路上通过UDP封包的以太网方案为116至194微秒,大约是RDMA的四倍。更低延迟的最大受益者是对响应敏感的任务,AI推理便在其中。

USB4单链路最高数据传输速率为80Gbps,足够支撑内存之间的数据搬运。每台PC构成独立的USB4域,Windows连接管理器在两者之间创建点对点隧道,数据在双方已注册的内存区域之间直接传输,不经过额外的封包与解包环节。

RDMA的作用是让一台机器直接读写另一台机器的内存,绕开双方操作系统协议栈,CPU不必参与每一次搬运。

这种方式把原本只有以太网卡和InfiniBand才有的能力搬到了一根普通数据线上,代价是集群规模受限于USB端口数量,而不是网络交换机。

【来源:快科技】

尊敬的用户也许你已经注意到了我们文章页面进行了大规模的改造和重构,可以点击提交您的满意度或者想法我们会持续改进,给您提供更好的浏览体验! 一键参与
17173APP

扫描下载APP

游戏礼包一键领取

17173微信公众号

扫描关注公众号

每天更新