nanoChat：Karpathy 的极简 LLM 聊天界面

现代 AI 聊天界面是工程的奇迹，但其复杂性可能掩盖了使它们运作的基本机制。nanoChat（GitHub 上的 karpathy/nanochat）是 Andrej Karpathy 刻意进行的极简主义练习——一个足够简单让开发人员可以在一次阅读中读懂并理解的 LLM 聊天界面。

作为教育工具创建，nanoChat 剥离了与语言模型聊天的核心体验非必需的一切。结果是一个非常精简的代码库，在几百行清晰、注释完善的代码中展示了 tokenization、上下文管理、响应串流、参数调整和多轮对话。

这种极简主义正是重点。通过将聊天界面简化到其本质，nanoChat 揭示了隐藏在 ChatGPT、Claude.ai 或 Gemini 等精美 UI 背后的底层机制。阅读 nanoChat 代码的开发人员可以实际理解聊天模板如何运作、系统提示如何注入、温度和 top-p 采样如何影响输出，以及上下文窗口如何在对话轮次之间管理。

graph TD
    A[用户输入] --> B[聊天格式化器\n消息到提示]
    B --> C[Token 计数\n上下文核算]
    C --> D{上下文已满？}
    D -->|是| E[上下文管理器\n修剪最旧消息]
    D -->|否| F[API 请求构建器\n参数 / 端点]
    E --> F
    F --> G[LLM 后端\nAPI / 本地推理]
    G --> H[串流解析器\n逐 Token]
    H --> I[输出显示\n格式化响应]
    I --> J[历史记录更新\n附加到消息]
    J --> B

延伸阅读

• nanoChat 在 GitHub 上 – 源代码和教育文档
• Andrej Karpathy 的 GitHub – 教育 AI 项目存储库