投机采样

深入探讨投机采样（Speculative Decoding）技术：如何在不改变模型权重的情况下，通过大小模型协作将大语言模型推理速度提升 2-4 倍。