LLM Infer Infra 学习资料库

08 岗位、计划与面试:按能力组织成果

总目录 · 实验主题

面试准备先证明能分析一类系统问题,再用具体项目的源码和实验说明自己做到了什么。框架用法是证据的一部分;容量估算、正确性、并发与资源管理、失败处理和性能归因是更稳定的能力主线。

本库的面试主目标是 P7–P8 型推理 Infra 专家,重点 KV Cache 存储。面试资料按下面的顺序使用,每篇只负责一件事:

顺序资料只负责
1专家面试总纲要准备什么:能力矩阵、十组问题方向、设计题、证据要求
2KV 存储深挖问答具体怎么答:16 道题的主答案
3基础面试与算例基础题和计算题,专家题的前置
4四个项目的专项题库补实现细节;与上面重复的题以深挖问答为准

1. 方向、计划与资料

资料 使用方式
岗位与掌握标准 选择引擎、KV 存储、通信/GPU 或 Serving 平台方向,确定 P0/P1/P2
统一 28 天计划 第一周按技术链路建立共同基础,随后沿岗位深入
资料与版本索引 按问题找深读材料,核对源码版本、实验条件和论文

2. 按主题组织面试证据

主题 必须拿得出的证据 实现题库入口
请求与调度 请求状态机、token 预算、取消/抢占路径 vLLM、SGLang
KV 语义与管理 容量公式、失配反例、页引用与加载完成条件 运行时题、缓存管理题
存储与生命周期 完整写入发布、读保护、副本、淘汰和回收 缓存服务题、Store 题
传输与性能 字节路径、理论下界、拓扑、完成和安全释放 通信题、性能题
系统设计 需求、资源预算、容量与故障域、降级、观测 设计主线、缓存服务设计、共享存储设计

题库保留了原教材的题号,方便定位。相同基础题只做一份主答,其他实现用于比较边界;不要把题目数量当作进度。

3. 专项计划是补充材料

只有需要持续深入某个实现时才使用:vLLM 专项、SGLang 专项、LMCache 专项、Mooncake 专项。

原教材导航与补充版本材料也保留在实现层:LMCache 目录、Mooncake 目录、vLLM 参考资料、SGLang 报告与验收。其中的旧章节编号仅用于对应原教材,全库顺序以主题入口和统一计划为准。

4. 完成学习的标准

能不看文档讲出一条请求的数据和状态路径;能算容量与传输下界;能解释一个失败场景如何安全处理;能用源码或实验支持一次设计取舍;能区分已验证的事实与还需验证的假设。

KV 存储方向尤其要能连续回答:为什么能复用 → 谁拥有数据 → 何时可读 → 何时可释放 → 加载是否比重算划算 → 失败后怎样恢复服务。

输入主题、术语或问题