2026-09-02

安全研究员 Boris Cherny 通过构造多步骤攻击链，成功以 60-80% 的成功率突破了 Claude Code Opus 5 的 Auto Mode 安全防护，实现了代码执行。这与 Anthropic 委托第三方（Trajectory Labs）评估得出的 0.00% 攻击成功率形成直接矛盾。攻击核心在于利用 Python 模块路径劫持（struct.py 影子模块），绕过模型对直接二进制执行的拒绝。

Andrej Karpathy 与 Sarah Guo 深度对话，探讨 AI 代理（Code Agents）的现状与未来，重点介绍其 AutoResearch 项目——让 AI 代理自主完成实验设计、数据收集和模型优化的闭环研究流程。同时讨论了自然语言编程的二阶效应、AI 时代的相关技能、模型分化（Model Speciation）以及 AI 对就业市场的影响。

Karpathy 描述了编程范式从「氛围编程」（vibe coding）向「代理工程」（agentic engineering）的演进，提出了 Software 3.0 的概念——通过提示词和上下文而非显式代码来编程。他强调 LLM 如同易错的「幽灵」，需要新型判断力，并指出思考可以外包但理解力永远不能外包。

文章通过一个真实的多实例部署导致重复发邮件的案例，揭示了「氛围式调试」（让AI代理在没有确定性复现步骤的情况下调试）比「氛围式编码」危险得多的原因：AI只能基于症状做模式匹配，从未观测过真实运行时状态，错误的修复猜测不会报错，而是生成看似合理却掩盖真实问题的diff，制造第二个bug。核心建议是：调试前先写出可复现的失败测试，以此作为给AI最好的「prompt」；连续3次失败后重置会话，避免被AI自身的错误推断污染上下文。

Anthropic Claude Code负责人Boris Cherny指出，AI带来的真正竞争优势不在于速度提升（可量化、可复制），而在于'范围扩展'——当维护成本降低后，团队能够启动原本负担不起的项目，积累新能力，形成复利效应。两家使用相同AI模型的公司会因此快速拉开差距，而这种差距在常规效率仪表盘上根本无法被发现。