Andrej Karpathy的LLM上下文窗口与个人知识库方案

Andrej Karpathy的LLM上下文窗口与个人知识库方案
摘要
本文介绍了AI专家Andrej Karpathy提出的基于LLM上下文窗口构建个人知识库的创新方案。该方案摒弃传统RAG系统,将LLM上下文窗口比作工作记忆,知识库比作长期记忆,通过「LLM编译」将非结构化原始资料转化为结构化维基条目,集成摘要、反向链接和概念分类功能,形成可自动维护和持续增长的个人知识管理系统。
核心要点
- LLM上下文窗口如工作记忆,知识库如长期记忆,实现AI的类脑记忆系统
- 通过LLM编译将非结构化资料转化为带摘要、反向链接、概念分类的结构化维基条目
- 摒弃传统RAG系统,因个人知识库规模有限可全部加载到上下文
- 查询结果可归档回维基,形成知识持续增长的循环机制
- 自动维护包含Lint扫描、Heal修复和Dream记忆整理三种模式
- CLI工具提供import、compile、query、archive、lint、heal等操作接口
关键实体
- Andrej Karpathy (person) ⚠️建议建页
- LLM上下文窗口 (concept) ⚠️建议建页
- 个人知识库 (concept) ⚠️建议建页
- LLM编译 (concept) ⚠️建议建页
相关内容
- [[LLM上下文窗口]]
- [[个人知识库]]
- [[维基编译]]
- [[知识持久化]]
- [[LLM编译]]
- [[反向链接]]
- [[RAG替代方案]]
- [[自动维护]]
- [[Andrej Karpathy 的个人知识库方案]]
- [[循环更新]]
- [[概念分类]]
建议新建页面
- [[LLM编译技术详解]] — 文中核心概念,将非结构化信息编译成结构化维基的技术,值得深入展开
- [[知识库自动维护机制]] — Lint/Heal/Dream三种维护模式是独特设计,可作为独立专题介绍
---
> 编译时间: 2026-05-03 04:38 | 来源: `notes/karpathy_llm_context_window.md`