据报道，国产芯片厂商爱芯元智近日发布了AX8860系列AI芯片，旗舰型号AX8860P在本地大模型推理中展现出强劲性能。
AX8860P是一颗专为边端大模型推理设计的芯片，采用6nm制程，搭载16核Arm Cortex-A55 CPU与自研NPU，提供256 TOPS混合精度算力，原生支持FP4数据格式，配备128GB LPDDR5X内存，256-bit位宽下带宽达273 GB/s，典型功耗仅40W。
在性能实测中，AX8860P表现超出预期。据爱芯元智官方数据，在Qwen 27B模型上，AX8860的prefill阶段速度比NVIDIA DGX Spark快25%，decode阶段快30%。这意味着在本地大模型推理场景中，国产芯片已具备与国际旗舰产品正面竞争的能力。
扩展性方面，AX8860P支持AXLink级联与PCIe 5.0高速互联。双芯级联可达512 TOPS，四芯级联宣称可实现1024 TOPS，扩展效率约80%。芯片同时支持256 Gbps网络接口，高于DGX Spark的200 Gbps。
软件生态上，AX8860P支持vLLM、SGLang、PyTorch等主流推理框架，模型格式方面ONNX、Hugging Face等开箱即用，并兼容OpenAI API服务接口，开发者可快速迁移现有应用。
需要说明的是，该价格目前仍为市场预期，最终定价以官方公布为准。搭载该芯片的Sipeed MaixStation整机预计售价约3999美元（约合人民币28793元），不足DGX Spark 128GB版本6950美元（约合人民币50040元）的六成。
目前MaixStation已在Sipeed官网开放注册，计划2026年底启动Kickstarter众筹。
【来源：快科技】
