RAG AI 测试：AMD 3D V-Cache 比非 X3D 型号处理器性能最高提升 88%

4 月 21 日消息，gigglehd 最新报告指出，在 RAG（检索增强生成）AI 基准测试中，相比较非 X3D 型号处理器，AMD 的 3D V-Cache 处理器性能最高可提升 88%。

注：RAG（检索增强生成）是一种结合外部数据库检索与生成能力的 AI 架构。传统大语言模型依赖预训练数据，面对未知数据时存在局限。RAG 通过实时检索外部知识库，为模型提供精准上下文，从而生成更准确、详尽的回答，广泛应用于企业知识库与智能问答系统。

摩根士丹利采用开源 X3D RAG 基准，模拟 10 万至 20 万向量规模的单节点场景。结果显示，在 100K 批量搜索测试中，AMD Ryzen 3D V-Cache 处理器速度比非 X3D 芯片快 88%。

X3D RAG 是开源基准测试工具，用于衡量 CPU 缓存和架构如何影响本地 / 内部 RAG 流水线中基于图的向量搜索及相关阶段。

在 200K 批量搜索中，Ryzen 7 9850X3D 性能较 Ryzen 7 9700X 提升超 50%，这颗 8 核处理器甚至超越了 16 核的 Ryzen 9 9950X。

在技术实现方面，该机构认为大容量缓存显著优化了 HNSW（分层可导航小世界）算法的图检索效率。在索引构建测试中，100K 规模耗时缩短 50%，200K 规模缩短 39%，并发 RAG 吞吐量测试同样表现优异。

参考

X3D가 게임 전용이라고? 대용량 CPU 캐시의 새로운 활용처 RAG