文章目录一、vLLM 到底是什么？二、为什么 LLM 推理这么"贵"？先搞懂 KV Cache三、核心重难点一：PagedAttention3.1 灵感来自操作系统的虚拟内存3.2 效果有多夸张？3.3 安全共享的两把钥匙：引用计数 + 写时复制3.4 内核层面：注意力计算如何"读块"四、核心重难点二：连续批处理，把"等待"变成"填空"4.1 核心运行流程图五、看透架构：V1 的多进程设计5.1 四种关键进程5.2 自己动手算进程数（很实用）5.3 从入口到模型：一层层剥开5.4 类层次背后的三个设计抉择六、一次请求的完整生命周期（时序图）七、上手实操：三条命令跑起来7.1 安装（推荐 uv）7.2 离线批量推理（LLM 类）7.3 在线服务（OpenAI 兼容）7.4 手动选择注意力后端八、进阶能力矩阵8.1 量化：把大模型塞进更小的显存8.2 关键重难点：自定义量化插件九、性能数据：vLLM 到底快多少？十、硬件与模型支持版图十一、工程实践建议（少走弯路）十二、结语：为什么它值得你深入学习同样一张卡，为什么别人的大模型服务能扛住海量并发，而你的机器显存却总被 “悄悄浪费” 掉一大半？答案往往不在模型本身，而藏在推理引擎的内存管理方式里。这篇文章不堆概念，只讲透两件事：为什么慢，以及怎么快。读完你会真正理解 vLLM 的 PagedAttention、连续批处理，以及它那套多进程架构背后的工程哲学。一、vLLM 到底是什么？vLLM 的官方定位朴素到有点"嚣张"：Easy, fast, and cheap LLM serving for everyone—— 人人可用、又快又省的大模型推理与服务库。它最初诞生于加州大学伯克利分校的 Sky Computing Lab，如今已成长为最活跃的开源 AI 项目之一，由来自数十家学术机构与公司、2000 多名贡献者的社区共同维护。一句话概括它做的事：把大模型推理这件"又慢又贵"的事，变得又快又便宜。而它最锋利的武器，就是下面这张全景图里的六大能力。图 1 · 功能全景图：极致性能、灵活易用、硬件生态、模型支持、量化体系、部署形态