https://beaiera.top/tags/inductor/Recent content in Inductor on Richelieu's BlogHugozh-cnTue, 02 Jun 2026 00:00:00 +0800https://beaiera.top/posts/2026-06-02-vllm-compilation-system/Tue, 02 Jun 2026 00:00:00 +0800https://beaiera.top/posts/2026-06-02-vllm-compilation-system/<p>vLLM 的编译系统在标准 PyTorch <code>torch.compile</code> 之上做了大量定制：分段编译（Piecewise Compilation）、字节码 Hook、AOT 缓存、动态形状管 理等。本文从多个实际调试问题出发，系统梳理 vLLM 编译系统的核心机制。</p>