2026-09-11

Karpathy 提出了一种基于 LLM 的个人知识库构建模式——'LLM Wiki'，核心思路是让 LLM 主动维护一个持久化的 Markdown Wiki，而非每次查询时重新从原始文档检索。每当新增信息源时，LLM 负责提取、整合、更新并标注矛盾点，使知识库随时间累积增值。用户负责信息来源与提问方向，LLM 承担所有整理与交叉引用工作，Obsidian 作为可视化 IDE。

Karpathy 指出随着 token 需求的爆发式增长，LLM 底层芯片的内存与计算编排将成为最具价值的技术挑战。核心矛盾在于片上 SRAM（快但容量小）与片外 DRAM（容量大但带宽受限）两种内存池的物理约束，如何在推理/训练等工作负载中实现最优吞吐/延迟/成本比是当前最重要的工程智识难题。他顺势为 MatX 团队的新芯片融资背书，认为其方向切中了现有 NVIDIA（HBM优先）和 Cerebras（SRAM优先）两大阵营均难以同时满足的长上下文 agentic 推理场景。

Greg Isenberg 认为，在 AI 时代，构建众包垂直数据集是被严重低估的 Bootstrapped 创业方向，类似 LevelsFYI、Glassdoor 等模式可复制到任何细分领域。核心逻辑在于：AI Agent 需要高质量可信数据并愿意按查询付费，而众包数据集天然具备网络效应与护城河。该模式可同时向消费者、企业和 AI Agent 三端变现，低风险、高毛利且随时间增强。

Andrej Karpathy 分享了其个人AI工作流方法，核心包括：使用语音转文字工具（Super Whisper）提升交互效率、构建个人'LLM Wiki'知识库提升AI输出精准度、将静态文档转化为交互式工具，以及多AI智能体协同编排复杂任务。整体目标是通过系统化AI整合实现10倍生产力提升。

Andrej Karpathy指出持续学习（Continual Learning）是当前大型语言模型最明显的技术短板，核心障碍是'灾难性遗忘'问题——微调新数据会覆盖已有能力。他估计解决这一认知局限还需约十年时间，当前研究路径已分化为外部记忆系统、上下文工程、持续后训练和持续预训练四大方向，未来方案可能是多技术融合而非单一方法。