17173首页 游戏资讯 科技新闻 正文

“神奇小子”乔治 · 霍茨警告称 AI 编程智能体将成软件最大隐患

导语
“神奇小子”乔治·霍茨警告:AI编程智能体是软件业最大隐患!生成代码缺陷难察觉,或致高昂维护成本与隐蔽故障。了解顶尖黑客的深度分析。

5 月 26 日消息,乔治 · 霍茨(George Hotz)于 5 月 24 日发布博文,指出在当代软件开发过程中,AI 编程智能体可能是代价最高的错误之一。

注:霍茨于 1989 年 10 月出生,人称“神奇小子”(geohot),是世界著名的黑客、安全研究员和创业者。

乔治 · 霍茨,图源:WikiMedia

他以早期破解 iPhone 和 PlayStation 3 闻名,是自动驾驶技术公司 Comma.ai 的创始人,以技术极客形象在编程和人工智能领域备受关注。

霍茨称,自己用 6 个月测试了多种模型和工具,还结合 tinygrad 相关工作,结论是它们适合快速原型,却不擅长处理决定质量的细节。

霍茨在博文中担忧大组织过度依赖 AI 工具,他指出 AI 模型可以快速产生代码,但是生成的代码表面越来越像样,问题却更难识别。

霍茨认为,能力较弱的开发者很难看穿这些缺陷,最终可能把有问题的代码带入正式系统,累积出高昂维护成本和隐蔽故障风险。

在技术判断上,霍茨已从早期乐观转向怀疑。他现在更接近杨立昆(Yann LeCun)和加里 · 马库斯的观点,大语言模型并不真正具备智能。

他认为这类模型本质上是复杂的统计系统,主要任务是模仿编程分布,而不是真正理解问题。正因如此,它们能模仿代码外形,却未必能稳定完成陌生情境下的推理与修正。

与霍茨相反,安德烈 · 卡帕西近来的态度明显转向积极。他曾在 2025 年秋天认为智能体系统不可靠,但在 GPT-5.4 和 Opus 4.6 发布后改口,称 AI 智能体已经永久改变编程方式。

参考

The Eternal Sloptember

【来源:IT之家】

尊敬的用户也许你已经注意到了我们文章页面进行了大规模的改造和重构,可以点击提交您的满意度或者想法我们会持续改进,给您提供更好的浏览体验! 一键参与
17173APP

扫描下载APP

游戏礼包一键领取

17173微信公众号

扫描关注公众号

每天更新