Speculative Decoding

vLLM 投机采样（Speculative Decoding）深度解析

通过阅读 vLLM 源码和业界最新资料，系统梳理投机采样的原理、方法对比和在 vLLM 中的实现。 ...