Борис Черні дав 7 порад для ефективної роботи з промптами в Claude Code
高潜力 88
Boris Cherny · Fri Sep 25 2026 08:00:00 GM
Claude Code创始人Boris Cherny在YC Startup School 2026分享了Opus 5的突破性能力，包括自主长时间运行、近乎免疫prompt injection攻击，以及'product overhang'概念——即模型能力已超越产品所允许的边界。他提出'press delete'哲学，主张定期清理系统提示而非堆砌，并强调解除模型能力限制是产品设计的核心任务。
核心观点 - – Opus 5在ARC-AGI基准测试中从个位数/低两位数直接跳升至30%，代表显著能力跃迁
- – Opus 5可自主运行数天、数周甚至数月，无需额外scaffolding，结合auto mode可自主理解并完成任务
- – 三层prompt injection防护：alignment对齐、基于机制可解释性的注入分类器、auto mode分类器——但安全专家仍建议开发者不应完全依赖内置防护
- – 'press delete'哲学：每次新模型发布时主动删除80%以上的系统提示，清理过时指令而非堆叠，是Claude Code的核心提示词管理策略
- – 'product overhang'概念：模型实际能力与产品所释放的能力之间存在落差，'unhobbling'（解除束缚）是产品设计的关键任务
- – Claude Code诞生的背景：Sonnet 3.5发布时模型已能写整个文件和函数，但市面产品只提供单行补全或只读聊天，产品严重落后于模型能力
Claude CodePrompt EngineeringAI安全模型能力产品设计LLMAnthropicOpus 5分析评论
Boris Cherny (@bcherny): "I used Opus 5.5 to formally verify the Claude Agent SDK using Lean. A couple short prompts = 16 PRs fixing various bugs and race conditions. Video attached.
高潜力
Boris Cherny
Anthropic工程师Boris Cherny使用Claude Opus 5.5结合形式化验证工具Lean和TLA+，对Claude Agent SDK进行验证，仅用少量提示词就发现并修复了16个PR中的并发bug和竞争条件。他强调无需精通Lean或TLA+，AI可以代劳形式化建模与反例查找，大幅降低形式化验证的门槛，并探讨这是否将成为未来软件bug排查的主流方式。
核心观点 - – Claude Opus 5.5能有效驱动Lean和TLA+进行形式化验证，用户无需深入掌握这两门语言
- – AI辅助形式化验证的工作流分四步：建模目标代码 → 寻找反例（疑似bug）→ 复现bug → 修复代码
- – 该方法并非验证整个代码库，而是聚焦于最复杂的状态机和竞争条件高发区域
- – TLA+更适合并发和竞争条件检测，Lean和TLA+可组合使用覆盖不同问题域
- – 单次实践产出16个有效PR，证明该方法对实际工程有显著ROI
- – 形式化验证长期因门槛高被忽视，AI正在将其从专家工具变为通用工具
AI编程形式化验证并发安全Claude/Anthropic开发工具软件工程预测分析
Thread By @karpathy - Projects like OpenAI’s Operator are...
高潜力 88
Andrej Karpathy · Mon Sep 28 2026 08:00:00 GM
Karpathy 将 OpenAI Operator 类的数字 Agent 与人形机器人类比，认为两者都在构建一个「人类监督自动化」的混合自主世界。他指出数字世界的进展会比物理世界快约 1000 倍，但当前仍面临长任务horizon、多模态整合等关键技术瓶颈。他将 Agent 时代的预期从「2025年」修正为「2025-2035年整个十年」，认为还需要若干技术突破。
核心观点 - – Operator 等数字 Agent 与人形机器人本质同构：都是通过原本为人类设计的 I/O 接口执行通用任务
- – 数字世界自动化速度比物理世界快约 1000 倍（比特操作 vs 原子操作），但物理世界市场规模更大
- – Agent 技术的正确时序依赖：LLM 必须先成熟，早期 OpenAI 的 Universe/World of Bits 项目因此失败
- – 当前核心瓶颈：超长任务 horizon 的处理、多模态仍是「外挂适配器」而非原生集成
- – Agent 时代预期校正：不是 2025 年爆发，而是 2025-2035 整个十年的渐进演化
- – 未来形态：用户作为 CEO 同时监督多个 Operator 组织，处理长期复杂任务
AI Agent具身智能人形机器人LLM多模态自动化OpenAI预测分析
Andrej Karpathy深度解析：我们距离AGI还有十年
高潜力 86
Andrej Karpathy
Andrej Karpathy 在 Dwarkesh 播客中给出了与当下 AGI 狂热相反的审慎判断：距离 AGI 至少还有十年，核心瓶颈不在算力堆叠，而在持续学习、多模态深度融合与主动探索等 Scaling Law 无法直接解决的问题。他借用卡尼曼的“系统1/系统2”框架指出 LLM 只是擅长直觉式模式匹配的“早期弱智能体”，并用自己构建 nanochat 的经历说明 LLM 在理解代码设计哲学上的根本缺陷。
核心观点 - – AGI 至少还需十年，Scaling Law 的成功让行业产生“堆料即可通向 AGI”的错觉
- – 持续学习与灾难性遗忘是头号未解难题：LLM 是训练截止即冻结的“静态知识快照”，无法像人类一样终身学习
- – 当前多模态只是中间层对齐的“浅层融合”，而非统一的世界表征
- – AI 仍是被动学习者，缺乏主动探索、内在好奇心与因果理解
- – LLM 强于系统1（直觉、模式匹配），弱于系统2（多步推理与规划）；思维链只是外部脚手架而非内在能力，未来架构或需“全局工作空间”式整合
- – 应将 LLM 视为“早期且能力有限的智能体”，而非可托付的实习生
- – nanochat 实践暴露三类缺陷：无法理解极简设计哲学、过度防御性编程、对新颖架构的排斥反应
- – 个体应跳出“AI 无所不能”的幻觉，重新思考智能本质与自身不可替代的竞争力
AGI大语言模型Scaling Law持续学习多模态AI编程分析评论
Karpathy最新开喷：一句话让全场Agent开发者安静了-平芜编程栈
高潜力 85
Andrej Karpathy
Karpathy以自身2016年Agent失败经历为佐证，指出当前AI领域最大错误是急于堆砌Agent应用而忽视底层模型能力的夯实。他认为Agent产品化周期长达十年，并类比自动驾驶验证了这一判断。同时反向激励独立开发者：在Agent领域，大厂并无先发优势，创业者才真正站在能力边缘。
核心观点 - – 急于构建Agent而不夯实底层LLM能力，是当前AI开发最常见的结构性错误
- – Agent Demo门槛极低，但真正产品化需要十年级别的投入，自动驾驶和VR已验证这一规律
- – Karpathy本人加入Anthropic预训练团队是一次'行为投票'，比言论更有说服力
- – 神经科学（海马体、基底神经节、丘脑）对Agent架构设计有直接借鉴价值，是尚未被充分挖掘的方向
- – 在Agent领域，大厂无五年积累优势，独立开发者与顶级机构处于相近的起跑线
AI Agent大模型预训练创业神经科学与AIAnthropic产品化分析评论
Meta Muse AI Connectors: The App Store for AI? | Followed
高潜力 85
Greg Isenberg
Greg Isenberg 将 Meta 的 Muse AI Connectors 类比为 2008 年苹果 App Store 的历史性分发时刻，认为这是创业者进入 AI 生态的重要窗口。他提出了四个具体创业方向，强调垂直细分、可分享工作流和绕过目录算法的获客策略，同时指出 AI 编程工具已大幅降低了构建门槛。
核心观点 - – Meta Muse Connectors 是 AI 时代的 App Store，提供类似移动互联网早期的平台级分发红利
- – 最具护城河的 Connector 机会在于垂直、时效性强的信息服务，如细分行业的 B2B 线索生成
- – 产品应围绕多人协作/可分享的工作流设计，以驱动自然病毒式增长
- – Claude Code、Codex 等 AI 编程工具已将 Connector 原型开发门槛大幅降低，无需大团队
- – 获客不应依赖 Meta 目录算法，应主动与创作者合作或将分享机制内置于产品
- – 提交审核前需充分测试边缘场景，Meta 审核流程细节仍不透明
Meta AIAI Connectors平台生态创业机会分发策略预测分析
The Complete Guide to CLAUDE.md: Best Practices, Examples, and Templates
高潜力 82
Boris Cherny · Mon Sep 21 2026 08:00:00 GM
本文是关于Claude Code项目配置文件CLAUDE.md的完整指南，介绍了其核心定义、最佳实践和模板。文章澄清了广泛流传的'Karpathy CLAUDE.md'实为开发者从Karpathy推文中提炼而来，并详细介绍了Anthropic Claude Code创始人Boris Cherny的CLAUDE.md实例，涵盖工作流编排、任务管理等核心实践。
核心观点 - – CLAUDE.md是Claude Code自动读取的项目级配置文件，作为AI的'项目记忆'，避免每次会话重复解释项目背景
- – Karpathy总结的AI编码四大系统性失败模式：静默假设、代码肥大症、附带修改、未验证完成
- – 核心设计原则：先思考后编码、简洁优先、外科手术式修改、目标驱动执行
- – Boris Cherny的工作流实践：非平凡任务先进入计划模式、使用子代理保持主上下文窗口清洁、每次用户纠正后更新lessons.md形成自我改进循环
- – 任务完成前必须验证：运行测试、检查日志、证明正确性，而非仅声明'已完成'
AI编程工具Claude Code提示词工程开发者工具工作流配置教程最佳实践
Guide to the New Software Era (is Coding Dead?) - hossamudin.com
高潜力 82
Andrej Karpathy · Sat Sep 26 2026 08:00:00 GM
文章梳理了 Andrej Karpathy 关于「软件正在再次改变」的演讲，把软件开发划分为三个时代：人类手写代码的 Software 1.0、靠数据训练神经网络的 Software 2.0，以及用自然语言提示大模型来生成程序的 Software 3.0。作者认为 LLM 已是新的「可编程计算机」，vibe coding 正在把应用开发的门槛拉到普通人级别，因此程序员、尤其是学生必须同时熟悉三种范式，并转向围绕 UX 与快速验证回路来设计产品。Karpathy 同时给出「给 AI 系上绳子、别对全自主 Agent 过度兴奋」的克制判断，主张做增强人的钢铁侠战衣，而非替代人的机器人。
核心观点 - – 软件开发已完成两次范式转移（人工编程 → 数据编程），当前正进入第三次：用自然语言提示 LLM 来「编程」，即 Software 3.0。
- – Vibe coding 的本质是让 LLM 承担代码产出，使非工程师也能构建完整应用，开发门槛显著下移。
- – LLM 具备类似心理学的涌现特质，既有强项也有系统性弱点，产品设计必须顺着这些特质走而非对抗它。
- – Partial autonomy（部分自主）是关键设计维度：软件应在全手动与全自动之间有可调档位，而非追求一步到位的全自主。
- – 对开发者与学生的核心建议是同时掌握 1.0/2.0/3.0 三种范式，并在 LLM 应用中把 UI/UX 做成最快的验证回路。
- – 对 AI Agent 保持克制：把 AI 拴住，做增强人的「钢铁侠战衣」，而不是放手做「钢铁侠机器人」。
AI 编程软件开发范式LLM 应用AI Agent职业发展分析
Karpathy says continual learning remains a major gap for LLMs – DailySynapse
高潜力 82
Andrej Karpathy · Fri Sep 04 2026 08:00:00 GM
Andrej Karpathy指出持续学习（Continual Learning）是当前大型语言模型最明显的技术短板，核心障碍是'灾难性遗忘'问题——微调新数据会覆盖已有能力。他估计解决这一认知局限还需约十年时间，当前研究路径已分化为外部记忆系统、上下文工程、持续后训练和持续预训练四大方向，未来方案可能是多技术融合而非单一方法。
核心观点 - – Karpathy将持续学习列为LLM当前最清晰的技术缺口之一，预计需要十年才能解决
- – 灾难性遗忘是核心技术障碍：对新数据微调会破坏模型已有能力
- – 四大主流解决方向：外部记忆系统（MemGPT/Mem0等）、上下文工程（ACE）、持续后训练（LoRA微调/自蒸馏）、持续预训练
- – Stanford/SambaNova/UC Berkeley联合提出的ACE系统在Agent任务上提升10.6%，金融推理提升8.6%，适应延迟降低86.9%
- – 学界新兴共识：未来系统将融合外部记忆+动态上下文+参数更新+自主学习，而非押注单一技术路线
LLM持续学习AI基础研究记忆系统灾难性遗忘AI Agent技术趋势分析预测
$30M Writer: Never write AI slop again - Frontier Models
高潜力 82
Greg Isenberg · Mon Sep 21 2026 08:00:00 GM
Nicholas Cole（声称通过网络写作赚取超3000万美元）与Greg Isenberg探讨了AI时代内容创作的核心竞争力。他认为，当ChatGPT等工具让任何人都能生成精美文字时，真正的护城河在于构建'数字大脑'——个人故事、观点和经验的私有库，让AI有真实素材可调用。对于创始人和内容创作者而言，独特视角和叙事能力才是避免产出'AI垃圾内容'的关键。
核心观点 - – AI使通用内容彻底商品化，没有独特观点的内容将被市场淘汰
- – '数字大脑'概念：系统性整理个人故事、观点和经验，作为AI创作的原始素材库
- – 内容竞争力的三要素：发布量（Volume）、个性化（Personality）、关联性（Association）
- – SaaS创始人应通过讲故事而非单纯展示功能来建立受众信任
- – TypeShare平台围绕特定写作方法论构建，而非通用发布工具——这是产品差异化的范本
- – AI的正确用法是放大原创思维，而非替代思考过程
内容创作AI写作个人品牌创业者营销SaaS内容策略分析教程