知识蒸馏

本文详细介绍了如何利用知识蒸馏技术，将庞大 LLM 的能力迁移到仅有 6 亿参数的小型模型中，实现高效率、低成本的私有化部署。