“神奇小子”乔治 · 霍茨警告称 AI 编程智能体将成软件最大隐患

5 月 26 日消息，乔治 · 霍茨（George Hotz）于 5 月 24 日发布博文，指出在当代软件开发过程中，AI 编程智能体可能是代价最高的错误之一。

注：霍茨于 1989 年 10 月出生，人称“神奇小子”（geohot），是世界著名的黑客、安全研究员和创业者。

他以早期破解 iPhone 和 PlayStation 3 闻名，是自动驾驶技术公司 Comma.ai 的创始人，以技术极客形象在编程和人工智能领域备受关注。

霍茨称，自己用 6 个月测试了多种模型和工具，还结合 tinygrad 相关工作，结论是它们适合快速原型，却不擅长处理决定质量的细节。

霍茨在博文中担忧大组织过度依赖 AI 工具，他指出 AI 模型可以快速产生代码，但是生成的代码表面越来越像样，问题却更难识别。

霍茨认为，能力较弱的开发者很难看穿这些缺陷，最终可能把有问题的代码带入正式系统，累积出高昂维护成本和隐蔽故障风险。

在技术判断上，霍茨已从早期乐观转向怀疑。他现在更接近杨立昆（Yann LeCun）和加里 · 马库斯的观点，大语言模型并不真正具备智能。

他认为这类模型本质上是复杂的统计系统，主要任务是模仿编程分布，而不是真正理解问题。正因如此，它们能模仿代码外形，却未必能稳定完成陌生情境下的推理与修正。

与霍茨相反，安德烈 · 卡帕西近来的态度明显转向积极。他曾在 2025 年秋天认为智能体系统不可靠，但在 GPT-5.4 和 Opus 4.6 发布后改口，称 AI 智能体已经永久改变编程方式。

参考

The Eternal Sloptember