黑客霍茨警告：AI 编程智能体可能成为软件开发的高成本陷阱

著名黑客乔治·霍茨（George Hotz）近日发表观点，认为 AI 编程智能体可能是现代软件开发中代价最高的错误之一。霍茨以破解 iPhone 和 PlayStation 3 闻名，现为自动驾驶公司 Comma.ai 创始人。

霍茨在 6 个月的测试中，评估了多种模型和工具，结合自身在 tinygrad 项目中的经验，发现 AI 编程工具适合快速原型开发，但不擅长处理决定质量的细节。他担忧大组织过度依赖 AI，导致生成的代码表面看似合理，但问题更难识别，能力较弱的开发者可能无意中将缺陷引入正式系统，累积高昂维护成本和隐蔽故障风险。

霍茨对 AI 编程的态度已从早期乐观转向怀疑，其观点接近杨立昆和加里·马库斯，认为大语言模型本质上是复杂统计系统，主要模仿编程分布而非真正理解问题。与之相反，安德烈·卡帕西近期态度转向积极，认为 AI 智能体已永久改变编程方式。