云调用 AI 太贵：开发者自建 48 台 Mac mini 集群，撑起 Overcast 播客转录

4 月 8 日消息，科技媒体 Appleinsider 昨日（4 月 7 日）发布博文，报道称播客应用 Overcast 开发者 Marco Arment 成功搭建服务器集群，由 48 台苹果 Mac mini 组成，绕过云端 AI 服务，通过 Apple Silicon 芯片本地运行语音识别模型。

Arment 表示选择自建硬件集群的主要原因，是为了规避云端 AI 服务的高昂成本。对于播客转录这种持续增长的工作负载而言，云端 API 按次计费模式每日成本高达数千美元。

相比之下，Mac mini 集群虽需前期硬件投入，但后续运营支出可控且可预测，有效解决了成本随业务量线性增长的痛点。

在技术实现上，处理过程完全依赖于后端 Mac mini 集群，并通过分布式架构进一步提升整体处理效率。援引博文介绍，Arment 指出苹果芯片在能效比和统一内存方面的优势，让其在执行语音识别等推理任务时表现出色。

播客分发中的动态广告插入技术会导致不同听众接收到的音频存在差异，增加了转录对齐的难度。Arment 通过音频指纹识别与去重技术解决了这一挑战，系统生成一份基准转录文本并映射至多个版本，在保证一致性的同时避免了重复计算。