性能对标OpenAI o1！DeepSeek R1正式上线英伟达NIM平台
2025-01-31 11:03:06
神评论0
据英伟达官方网站消息，DeepSeek R1 671b版本已作为英伟达NIM（Nvidia Inference Microservices）微服务的预览版在build.nvidia.com平台上发布。
这一微服务基于单个英伟达HGX H200系统，能够实现每秒处理多达3872个token的高效性能。
开发人员现可对该API进行测试与实验，预计不久后，此API将以可下载的NIM微服务形式，正式成为英伟达AI Enterprise软件平台的一部分。
NIM，即Nvidia Inference Microservices，是一种云原生微服务技术，旨在简化生成式AI模型在云端、数据中心及GPU加速工作站上的部署流程。
DeepSeek R1是幻方量化旗下AI公司DeepSeek所发布的大型模型，其在数学、代码编写、自然语言推理等多项任务上展现出的性能，足以与OpenAI的o1模型相媲美。
【来源：快科技】
- (2025-03-28) 《命运方舟》steam服2025年3月发行笔记
- (2025-03-28) 《命运方舟》俄服3月26日更新内容
- (2025-03-28) 兽耳娘の油亮白丝暴击！
- (2025-03-28) 丝袜包裹下的蜜桃臀VS裸腿反光杀！狐狸小姐的旗袍曲线把『人体美学』玩明白了」
- (2025-03-28) 《逆战》免费拿！特化混沌武器轻松领，宠物、神兵养成材料随机得，战甲养成登录拿！
0/2000
发表评论»