想把模型成本降下来，常见三条路：蒸馏、量化、微调（LoRA）。它们解决的问题完全不同，混着用容易白忙一场。

一、量化改的是精度：把权重从 16 位压到 8 位或 4 位，显存和带宽需求成倍下降，速度提升明显。适合“效果已经够用，只想更便宜”的场景。风险是长尾任务最先退化，量化后必须重跑一遍评测，尤其是格式敏感的任务。

二、蒸馏改的是规模：用大模型的输出训练小模型，让小模型学会在特定任务上模仿。适合任务边界清晰、输入分布稳定的场景，比如意图分类、字段抽取。蒸馏出来的模型换任务就得重做，别指望通用。

三、LoRA 改的是行为：不改变模型规模，只训练一小部分参数，让模型学会特定格式、语气或行业术语。适合“通用能力够，但输出不合规”的场景。

实操顺序建议：先量化省显存，再用 LoRA 修行为，最后才考虑蒸馏换更小的底座。每做一步都跑一遍固定评测集，避免“省了钱但答对率掉了五个点”却没人发现。