我是吴师兄（@MisterBooo）。过去用 LeetCodeAnimation 讲算法，也维护 RAG From Zero。这个仓库继续用图解方式整理大模型面试中的关键概念。
根目录只展示 12 道跨模块代表题，避免首页过长；完整 100 题按 14 个模块拆分，方便按主题阅读。每条内容都保留复核日期、来源等级和官网对应答案，便于核对与勘误。目前 74 题附有 202 条可回查资料，其余条目标明为教学整理。
| 模块 | 题数 | 主要内容 |
|---|---|---|
| 模型架构 | 20 | 注意力、位置编码、归一化与模型结构 |
| 模型训练 | 11 | 训练目标、优化过程、数据与稳定性 |
| RLHF与对齐 | 8 | PPO、DPO、GRPO、奖励与策略优化 |
| 模型微调 | 4 | LoRA、PEFT、数据构造与微调取舍 |
| 推理优化 | 7 | KV Cache、量化、并行与服务性能 |
| RAG基础 | 6 | 检索增强生成的链路、边界与验证 |
| 文档处理 | 1 | 解析、切分、清洗与结构保留 |
| 向量检索 | 9 | Embedding、ANN、召回与索引选型 |
| 重排与优化 | 5 | Reranker、混合检索与质量优化 |
| Prompt工程 | 3 | 任务约束、结构化输出与提示设计 |
| Agent | 8 | 规划、工具调用、记忆与可靠性 |
| 多模态 | 8 | 视觉语言模型、对齐与多模态检索 |
| 评估与监控 | 8 | 离线评测、线上监控与失败分析 |
| 知识图谱 | 2 | GraphRAG、图检索与知识建模 |
RAG 离线完成清洗、分块、向量化与索引，在线依次检索、重排、组装上下文并生成带依据的回答。
Agent 以感知、规划、工具执行和记忆组成反馈闭环，并通过停止条件、失败处理、权限与观测控制循环。
用黄金文档替换、检索消融和证据对齐可隔离变量，结合 Recall、相关性与忠实度定位检索或生成故障。
混合检索利用BM25词面匹配与稠密语义召回的互补性，并通过名次融合、校准或重排合并结果。
Reranker 数据应包含真实相关正样本、线上召回分布中的难负样本和适量易负样本，并持续质检回流。
稳定结构化输出应优先使用严格 Schema 或工具协议，再做解析校验、错误回灌、有限重试与失败降级。
FlashAttention 分块计算 Q、K、V 并用在线 softmax 累积，不物化完整注意力矩阵，从而减少 HBM I/O。
LoRA 冻结原权重，将增量写成缩放后的低秩乘积 BA，只训练 A、B，从而显著降低可训练参数和优化器状态。
GraphRAG 从文档抽取实体关系、构建图和社区摘要，以局部关系检索与全局总结补充向量检索。
多模态RAG对文本、图像、音视频分别编码和检索，并保留空间时间锚点以支持重排、生成与引用。
分块需在语义完整、检索噪声、召回覆盖和存储成本间权衡，并依据文档结构与查询类型在评测集上选参。
PPO 依赖在线 rollout、奖励与价值估计闭环，DPO 直接学习离线偏好对，工程链路更短但适用反馈不同。
- B 级： 源题中附有论文、官方文档或其他可回查资料；链接会跟随条目保留。
- C 级： 教学整理，当前没有独立来源链接；不包装成可核验的公司面试原题。
- 图解与摘要最近一次一致性初审日期为 2026-07-19；答案或 SVG 变化会触发哈希闸门。
- 图解用于快速建立结构，不能替代论文、官方文档、实验和目标环境验证。
本仓库的文字与图解采用 CC BY-SA 4.0；允许署名转载和改编，衍生内容需使用相同许可。最终法律文本以目标仓库根目录 LICENSE 为准。
