17173首页 游戏资讯 科技新闻 正文

亚马逊推出 Strands Decider 2B 开源决策模型,支持本地部署

导语
亚马逊开源Strands Decider 2B决策模型,支持本地CPU/GPU部署,2B级性能排名第三,时延低至113ms,GitHub/Hugging Face免费获取!

10 月 3 日消息,Amazon(亚马逊)Strands Agents 团队当地时间本月 1 日宣布推出 Strands Decider 2B 决策模型。其已在 GitHub 上开源,权重则可在 Hugging Face 上找到;可在本地的 CPU / GPU 上运行。

Strands Decider 2B 基于预训练的 Qwen3.5-2B“躯干”,以具备评分功能的指针“头部”替换拥有文本生成能力的原有语言模型“头部”。新“头部”规模较小,总参数仅略超过一百万;“躯干”则通过一个 rank-16 LoRA 适配器进行微调。

Strands Decider 2B 在 JevBench 公开数据集上具有不错的准确率和校准度表现。其在 2B 级别模型中排名第 3,优于所有严格不超过 2B 的竞争对手。

在市面常见硬件上本地运行该模型时,Strands Decider 2B 交出了 113ms 的决策时延中位数。其在 NVIDIA GeForce RTX 3090 上执行小型决策任务的中位数时延是 153ms。

【来源:IT之家】

尊敬的用户也许你已经注意到了我们文章页面进行了大规模的改造和重构,可以点击提交您的满意度或者想法我们会持续改进,给您提供更好的浏览体验! 一键参与
17173APP

扫描下载APP

游戏礼包一键领取

17173微信公众号

扫描关注公众号

每天更新