Andrej Karpathy 的 LLM 上下文窗口与个人知识库构建方案

摘要

本文介绍了Andrej Karpathy提出的一种利用LLM上下文窗口构建个人知识库的方案。该方案的核心是将LLM视为编译器，而非传统的检索工具，通过导入原始资料、AI编译为结构化维基、查询、归档和自动维护（Lint/Heal）等步骤，形成一个自我成长的知识系统。方案强调了反向链接、知识闭环和类脑设计，以应对LLM上下文窗口有限、对话历史易丢失的问题，旨在将工作记忆转化为长期记忆。

核心要点

• LLM上下文窗口有限，需要机制将对话等短期信息转化为长期知识。
• 核心方案：原始资料 → AI编译为结构化维基 → 查询 → 结果归档，形成知识闭环。
• LLM的角色从检索工具转变为编译器，主动整理、更新知识。
• 方案包含自动维护机制（Lint/Heal），模拟大脑的记忆巩固过程。
• 关键设计理念包括：不需要复杂RAG、反向链接、知识库自我成长。

关键实体

• Andrej Karpathy (person)
• LLM (concept)
• 上下文窗口 (concept)
• 个人知识库 (concept)
• 知识编译 (concept)
• 知识闭环 (concept)
• 长期记忆 (concept)
• 自动维护 (concept)

相关内容

• [[Andrej Karpathy 的个人知识库方案]]
• [[LLM上下文窗口与个人知识库构建：Karpathy方案解析]]
• [[上下文窗口]]
• [[长期记忆]]
• [[反向链接]]
• [[知识编译]]
• [[知识闭环]]
• [[自动维护]]
• [[知识可视化]]
• [[内容结构化]]

建议新建页面

• [[Karpathy知识库方案的CLI工具详解]] — 原文提到import, compile, query, archive, lint, heal等命令行操作，可单独阐述其设计与用法。
• [[知识库的Dream模式：模拟大脑睡眠记忆整理]] — ‘Dream’模式是一个独特且具启发性的概念，值得深入探讨其工作原理与实现。
• [[编译型知识库与传统RAG系统对比]] — 原文明确对比了Karpathy方案与传统检索系统（RAG），可展开详细的技术、理念和适用场景对比。

---

> 编译时间: 2026-06-20 05:25 | 来源: `notes/karpathy_llm_context_window.md`