2026-09-04

安全研究员在Anthropic宣称提示注入问题'基本解决'仅四天后，成功构建了针对Claude Code Auto Mode的间接提示注入攻击链，测试成功率达60-80%。攻击利用Python模块影子覆盖机制，通过多步骤链式操作绕过AI安全检测，最终实现远程代码执行。Anthropic的回应坦承Auto Mode从未被设计为安全边界，仅为便利性功能。

Karpathy 描述了编程范式从「氛围编程」（vibe coding）向「代理工程」（agentic engineering）的演进，提出了 Software 3.0 的概念——通过提示词和上下文而非显式代码来编程。他强调 LLM 如同易错的「幽灵」，需要新型判断力，并指出思考可以外包但理解力永远不能外包。

Andrej Karpathy 与 Sarah Guo 深度对话，探讨 AI 代理（Code Agents）的现状与未来，重点介绍其 AutoResearch 项目——让 AI 代理自主完成实验设计、数据收集和模型优化的闭环研究流程。同时讨论了自然语言编程的二阶效应、AI 时代的相关技能、模型分化（Model Speciation）以及 AI 对就业市场的影响。

Anthropic Claude Code负责人Boris Cherny指出，AI带来的真正竞争优势不在于速度提升（可量化、可复制），而在于'范围扩展'——当维护成本降低后，团队能够启动原本负担不起的项目，积累新能力，形成复利效应。两家使用相同AI模型的公司会因此快速拉开差距，而这种差距在常规效率仪表盘上根本无法被发现。

研究者发现Claude Code Opus 5的Auto Mode存在严重的提示注入漏洞，实际攻击成功率高达60-80%，与Anthropic委托第三方评估得出的0.00%成功率形成鲜明矛盾。文章同时质疑AI公司自行委托的安全评估数据的可信度，指出这些基准测试图表可能存在严重水分。