看到“Model-Optimizer”这个名字我第一反应不是某个具体开源库而是这些年被反复问到的三类问题训练半天loss不降到底该换哪个优化器、模型上线前怎么把体积和延迟砍半、还有那些密密麻麻的超参数到底怎么搜才不浪费算力。这三件事本质上都在做同一件事——让模型在给定资源下发挥出最大价值而“Model-Optimizer”这个词恰恰可以看作这三类工作的总称。这篇文章我打算沿着这个思路把模型优化拆成训练侧优化器选型、推理侧模型压缩、超参数搜索三个层面来聊每一层都会给出可以直接参考的选型逻辑、参数配置和避坑经验。不管你是刚跑通第一个模型的入门选手还是已经在调生产环境模型的老兵只要遇到过“模型效果差一口气”“推理太慢被老板催”这类问题这篇文章里应该都有你能直接抄走的答案。1. “Model-Optimizer”到底在优化什么——标题背后的三层任务拆解1.1 训练侧选对优化器比改网络结构更“划算”很多新手会把“模型优化”理解成调网络结构比如把ResNet换成EfficientNet、把Transformer的层数加深。但实际工程里同样的网络结构换一个合适的优化器并配好参数收益往往比改结构来得更快更稳。原因很简单优化器决定了参数更新的方向和步长直接控制了模型能不能收敛、收敛多快、收敛到什么样的极值点。从数学直觉上说优化器就是在回答一个问题知道当前位置的梯度后下一步该往哪走、走多远。朴素SGD只靠当前梯度决定方向容易震荡带动量的SGD把历史梯度方向做了指数滑动平均相当于给更新加了一个“惯性”Adam则是给每个参数单独估计梯度的一阶矩和二阶矩让更新步长对不同参数自适应。理解了这一层你就明白为什么没有“绝对最好”的优化器只有“在某个任务上最合适”的优化器。1.2 推理侧从“能跑”到“跑得快、占得少”模型训练出来只是第一步真正痛苦的往往在部署阶段。一个几百MB的模型在GPU上跑一遍可能只要几十毫秒但换到CPU、手机端、边缘设备上速度立刻变成灾难。推理侧优化要解决的就是三个硬指标延迟、吞吐、内存占用。这个环节常见的技术手段包括量化把FP32权重压到INT8甚至更低精度、剪枝删掉不重要的连接或通道、蒸馏用小模型学习大模型的能力。每一招都有适用边界和代价我在后面的章节里会逐一拆解。这里先给一个核心观点推理侧优化永远要拿“精度掉点”和“性能提升”做权衡不存在无损的白嫖方案关键是控制掉点在可接受范围内。1.3 系统侧超参数搜索同样是优化问题第三层容易被忽略模型训练本身有一堆超参数要设置——学习率、权重衰减、batch size、warmup步数、 dropout……这些参数组合起来形成一个巨大的搜索空间靠手工试错基本靠运气。把超参数搜索也看成一个优化问题用贝叶斯优化、TPE采样、早停剪枝这些手段去自动求解就是“Model-Optimizer”在系统层面的含义。三层结合来看一个完整的模型优化工作流应该是先用合适的优化器把模型训练到尽可能好的精度再用压缩手段让模型适配目标硬件最后用自动搜索工具把整个流程中的关键超参数调到最优。下面我从第一层开始逐个展开实操细节。2. 训练优化器选型从SGD到AdamW/LAMB的取舍逻辑2.1 主流优化器原理与适用场景对比先给一张我在实际项目里的选型速查表后面再解释每个选项背后的原因。优化器核心机制最擅长的场景典型配置参考SGDMomentum梯度惯性平滑CV分类/检测泛化性好lr0.1配合batch 256momentum0.9weight_decay5e-4Adam一阶二阶矩自适应Transformer、NLP、多模态lr3e-4betas(0.9, 0.999)eps1e-8AdamWAdam 解耦权重衰减GPT类大模型、ViTlr1e-5~5e-5大模型weight_decay0.01~0.1LAMBAdamW 逐层归一化超大批量分布式训练lr0.001~0.01batch上万时表现稳SGDWSGD 解耦权重衰减需要强泛化且要控制过拟合同SGDweight_decay0.01~0.05这张表的来源不是论文堆砌而是我踩过坑后的经验总结。SGD在CV任务上还牢牢占据一席之地核心原因是它的更新轨迹更“平滑”收敛到的极值点往往更平坦泛化性更好。Adam在Transformer结构上几乎是默认选项因为注意力机制的梯度分布差异大自适应学习率能稳住训练。AdamW和SGDW的价值在于把权重衰减从梯度更新里解耦出来——传统Adam里的L2正则会被二阶矩归一化“稀释”解耦后正则效果才真正可控。2.2 关键参数背后的数学直觉选好优化器只是开始参数配不对等于白选。学习率是全局最重要的参数它决定了每一步更新幅度。经验上SGD用0.1起步配合batch size 256是ImageNet训练的标准开局Adam系则从3e-4起步——这个数值不是拍脑袋而是因为Adam的更新步长近似为“信噪比”的估计天然比SGD能承受的学习率小一个数量级。weight decay权重衰减常被误解为L2正则在AdamW/SGDW之前它们确实可以近似等同但在Adam里直接加L2会被二阶矩的动态缩放干扰。实际操作里CV任务用5e-4是比较稳的起点Transformer微调用0.01到0.1大模型更倾向0.1太重会导致欠拟合太轻则过拟合。betas参数中(0.9, 0.999)是Adam系默认值第一个0.9控制梯度方向的历史平滑第二个0.999控制学习率的历史平滑。你在跑NLP任务时如果发现loss前期抖动厉害可以把beta1调到0.95代价是收敛速度变慢一点。2.3 优化器使用的三个高频坑先说混合精度下的优化器状态问题。用AMP混合精度训练时优化器里的参数状态比如Adam的一二阶矩必须保留FP32精度否则数值下溢会让收敛不稳定。很多框架默认帮你做了但你自己手写训练循环时容易漏掉结果就是loss在某个阶段突然变NaN。第二个坑是学习率调度和优化器的配合。常见做法是warmup加cosine decay前5%到10%的step让学习率从0线性升到目标值避免模型一开始被大步长冲乱后面按余弦曲线降到接近0让模型在收敛后期做精细微调。实际经验是warmup对Transformer类模型几乎是必须的对CV任务则不是。第三个坑是梯度裁剪的阈值。NLP任务里梯度范数超过一定阈值时直接截断阈值通常设在1.0附近CV任务很少需要裁剪加了反而可能拖慢收敛。这里没有万能公式我习惯在训练日志里同时打印梯度范数观察它是否随训练放大再决定要不要裁剪、裁剪到多少。3. 推理侧模型优化量化、剪枝、蒸馏的落地顺序3.1 为什么先动量化PTQ与QAT怎么选推理侧优化我会推荐先做量化原因很现实量化的收益最直接而且在多数框架里工具链最成熟不需要改动模型结构。量化的本质是把连续分布的权重和激活从FP32映射到离散的INT8表示模型体积直接缩到四分之一推理速度在支持INT8的硬件如TensorRT、OpenVINO、部分移动端NPU上可以提升2到4倍。量化落地时首先要面临PTQ和QAT的路线选择。PTQ训练后量化不需要重新训练模型只用一小部分校准数据统计激活的数值范围然后完成权重和激活的定点转换优点是快缺点是掉点相对不可控。QAT量化感知训练在训练过程中模拟量化的舍入误差让模型主动适应低精度效果好但需要重新训练成本高。我的选型经验是先跑PTQ如果掉点在可接受范围内分类任务通常要求掉点小于1%检测任务小于2%就直接用PTQ掉点超标再上QAT并且只对敏感层做量化感知训练而不是整个模型重训。3.2 一种可复现的PTQ实操流程这里给一套我在PyTorch里做PTQ的流程配合ONNX Runtime或TensorRT做后端推理可以直接当作参考模板。第一步准备校准集。校准集不需要带标签但要能代表真实输入分布通常从训练集或验证集里随机抽200到500张图覆盖不同光照、角度、目标类别。第二步用校准集统计激活的min/max或百分位范围。这里有个细节用min/max容易被极端值带偏我一般用0.999百分位截断异常值。第三步做权重和激活的对称/非对称量化权重常用对称量化因为权重分布近似零对称激活常用非对称量化ReLU后全是非负值用非对称能多利用量化区间。第四步在目标后端上做精度验证。下面这段伪代码展示核心流程import torch from torch.ao.quantization import get_default_qconfig_mapping, prepare, convert # 模型设置为评估模式 model.eval() # 配置量化后端这里以fbgemm为例适合x86 CPU model.qconfig get_default_qconfig_mapping()[fbgemm] # 融合常见算子减少量化误差累积点 model_fused torch.ao.quantization.fuse_modules(model, [[conv, bn, relu]]) # 准备量化模型插入观察点 model_prepared prepare(model_fused) # 喂校准数据 with torch.no_grad(): for batch in calibration_loader: model_prepared(batch) # 真正把模型转换成INT8推理模型 model_int8 convert(model_prepared)这套流程跑下来最常见的坑有两个一是模型里有不支持量化的算子比如某些自定义算子、动态shape的op转换时会卡住或报错解决思路是跳过这些层保持FP32。二是校准集分布和真实线上数据差太多导致量化后掉点严重这时候要去检查线上数据分布而不是盲目增加校准集数量。3.3 剪枝和蒸馏的正确配合姿势量化解决的是体积和速度剪枝解决的是结构上的冗余。剪枝分为非结构化剪枝把不重要的单个权重置零和结构化剪枝整行/整列/整个通道去掉。非结构化剪枝理论压缩率高但稀疏矩阵在通用硬件上很难提速我用得更多的是结构化剪枝。通道剪枝的效果直观体现在FLOPs上减少通道数后conv的计算量直接下降配合硬件加速效果明显。剪枝的关键工具是“重要性判断”。常见做法是对权重绝对值做阈值筛选或者用BN层的缩放因子gamma作为通道重要性指标这就是Learning Efficient Convolutional Networks through Network Slimming的思路。实操时我会加上两项保护措施一是一次性剪枝比例不要超过30%超过后精度崩的风险很高二是剪枝后一定要做几轮微调fine-tune把剩余参数重新适配到任务上。蒸馏则是用小模型student去学大模型teacher的输出分布。比起直接用小模型从头训练蒸馏多了一个“软标签”的信息源可以让学生学到类别间的相似关系。这里给出一个经过验证的蒸馏损失配置损失alpha*CE(student_output, hard_label) (1-alpha)*KL(student_output/temperature, teacher_output/temperature)。temperature通常设在4到8之间越高软标签分布越平滑alpha取0.7到0.9让模型更多地从真实标签学习同时保留教师模型的知识。实际做的时候先固定temperature扫alpha再固定alpha扫temperature比同时调两个参数更容易定位问题。4. 用“优化器”的思维做超参数搜索4.1 搜索工具选型Optuna还是Ray Tune超参数搜索本质上是一个黑盒优化问题给定一组超参数跑完训练后得到一个精度指标你要找到让指标最大的那组参数。手工网格搜索在参数多时完全不可行随机搜索比网格好一些但效率依然低。工程上更推荐贝叶斯优化类工具其中Optuna和Ray Tune是我用得最多的两个选择。Optuna的亮点在于定义搜索空间非常简单用装饰器就能把目标函数包装起来内置了TPE采样器和多种剪枝策略适合单机多卡场景。Ray Tune的优势是分布式能力更强适合在多节点集群上大规模并发搜索但部署和配置成本更高。如果你的资源就是一两台GPU服务器直接用Optuna就够了。4.2 搜索空间设计的工程经验搜索空间设计直接决定了搜索效率这里有个反直觉的经验不要一次把所有超参数都扔进去搜。任何一个不重要的参数都会扩大搜索空间稀释采样效率让最优组合更难找到。我的做法是先固定网络结构和数据增强策略只搜索学习率、weight decay、batch size三个核心参数找到相对优的区域后再放开其他参数做第二轮精搜。搜索空间范围可以用经验值设定学习率在1e-4到1e-2之间做对数均匀采样log uniform因为学习率是乘性影响在log尺度上均匀采样更合理weight decay在1e-6到1e-3之间对数采样batch size则在可用显存允许的范围内做离散选择。对数采样这个细节很关键线性均匀采样会让小学习率区域的采样点太少导致你很难撞到最优的低学习率区域。4.3 早停剪枝别把时间浪费在注定失败的组合上超参数搜索最耗时的不是搜索本身而是反复跑完整的训练过程。一个Transformer模型的完整训练可能要几十个小时如果每组参数都跑到底搜索效率不堪设想。这就需要早停策略在训练早期就判断这组参数有没有希望。Optuna里内置的MedianPruner就是一个实用选择。它的逻辑是维护所有已完成trial在某个step的指标中位数如果当前trial在对应step的指标低于中位数就提前终止。合理设置prune的起始step很重要太早判断容易被训练初期的波动骗到我一般设置在训练总step的20%以后开始检查并且用验证集指标而不是训练集loss做判断因为训练loss下降不代表泛化性能好。另外条件的上界也要留足那些前期看起来不出彩但后期会爆发的trial不常见但确实存在——所以我的策略是宽松剪枝只在指标明显落后比如低于中位数一半时才终止宁多花一点时间也不误杀潜力股。5. 常见问题排查与实战避坑清单5.1 训练不收敛或loss震荡的排查路径遇到loss不收敛先别急着换模型按下面这个顺序排查。第一看数据检查输入是否有NaN、标签是否错乱、数据增强是否过强。第二看学习率如果loss一开始就不降多半是学习率太大导致发散可以把学习率降到当前值的十分之一试跑几百步如果loss降得很慢说明学习率偏小。第三看优化器状态使用Adam时检查eps是否过小小于1e-9容易数值不稳使用SGD时检查momentum是否过大超过0.95容易震荡。第四看梯度在训练循环里打印梯度范数如果梯度范数剧烈跳动考虑梯度裁剪。loss震荡还有一个容易被忽略的原因batch size太小导致梯度噪声太大。这时候增加batch size通常比调学习率更有效但需要同步调整学习率。经验比例是batch size翻倍学习率也翻倍这个规则在SGD上比较准在Adam上要保守一些建议只乘1.5。5.2 量化掉点严重时的定位方法量化后精度大幅下降第一步要做的是逐层定位“敏感层”。Polyak和LeCun那篇经典论文已经指出不同层对量化的敏感度差异巨大图像分类里往往是第一层卷积和最后的全连接层最敏感。实操时可以先把所有层量化然后逐层退回FP32看哪一层退回后精度恢复最明显那层就是主要矛盾。用这个方式定位后只对这些敏感层保持高精度其他层仍然量化可以兼顾精度和速度。第二个高频问题是激活值分布过于分散。统计激活的数值范围如果存在极少数远超99.9百分位的异常大值min/max校准会被严重拉宽导致量化步长变大、普通值精度受损。这种情况下我会把校准统计从min/max换成百分位截断用99.9百分位作为上限异常值直接截断。这个方法在检测类模型上尤其管用。5.3 剪枝后精度崩掉的三大常见原因剪枝后精度崩第一大成因是剪枝比例太大结构损伤超过了微调的可恢复范围。应对策略是渐进式剪枝每轮只剪5%到10%微调恢复再剪下一轮而不是一步到位剪30%。第二大成因是微调学习率没调对。剪枝后的模型权重被剧烈改动此时再用原来的大学习率容易冲坏剩余结构建议把学习率降到原训练学习率的十分之一甚至二十分之一跑全量训练的10%到20%的step就够。第三大成因是剪枝的粒度太细碎。通道剪枝时一次性把某层通道数砍到原来的50%以下非常危险这会彻底改变该层输出的特征分布直接影响后续所有层。一般单层通道剪枝比例控制在30%以内并配合BN层的gamma分布来指导剪哪些通道。5.4 模型优化问题速查表现象首要怀疑方向推荐动作训练初始loss不降学习率过大/数据问题学习率降10倍试跑检查数据预处理训练中期loss震荡梯度噪声大/调度策略缺失增大batch size加入warmup准精差一点上不去权重衰减太重/模型容量不足降低weight_decay一个量级复查结构PTQ后分类掉点1%校准集分布不匹配、敏感层未保护重选校准集、逐层定位敏感层检测模型量化后掉点多激活分布长尾严重改用百分位截断校准剪枝后精度骤降单次剪枝比例过大改为渐进式剪枝降低微调学习率蒸馏效果不如预期temperature太极端/alpha设置不合理用4-8范围扫temperaturealpha从0.7起步这张表是我平时排查问题的起始清单大多数情况都能在半小时内定位到方向。最后分享一点个人体会做了这么多次模型优化的项目最深的感触是优化永远不是单点技巧的堆叠而是各个环节的系统配合。选对了优化器后面量化和剪枝的掉点都会更小校准集做得好量化精度和线上表现就更有保障超参数搜索设计合理实验迭代速度就快得多。你在这篇文章里看到的每一条经验几乎都是用实际的训练时间和线上流量换来的——不要怕掉点掉点本身就是定位瓶颈的最好线索。把问题拆小先找到主要矛盾再动手优化这比学一百个花哨技巧都管用。
模型优化全指南：从优化器选型到量化剪枝与超参数搜索
看到“Model-Optimizer”这个名字我第一反应不是某个具体开源库而是这些年被反复问到的三类问题训练半天loss不降到底该换哪个优化器、模型上线前怎么把体积和延迟砍半、还有那些密密麻麻的超参数到底怎么搜才不浪费算力。这三件事本质上都在做同一件事——让模型在给定资源下发挥出最大价值而“Model-Optimizer”这个词恰恰可以看作这三类工作的总称。这篇文章我打算沿着这个思路把模型优化拆成训练侧优化器选型、推理侧模型压缩、超参数搜索三个层面来聊每一层都会给出可以直接参考的选型逻辑、参数配置和避坑经验。不管你是刚跑通第一个模型的入门选手还是已经在调生产环境模型的老兵只要遇到过“模型效果差一口气”“推理太慢被老板催”这类问题这篇文章里应该都有你能直接抄走的答案。1. “Model-Optimizer”到底在优化什么——标题背后的三层任务拆解1.1 训练侧选对优化器比改网络结构更“划算”很多新手会把“模型优化”理解成调网络结构比如把ResNet换成EfficientNet、把Transformer的层数加深。但实际工程里同样的网络结构换一个合适的优化器并配好参数收益往往比改结构来得更快更稳。原因很简单优化器决定了参数更新的方向和步长直接控制了模型能不能收敛、收敛多快、收敛到什么样的极值点。从数学直觉上说优化器就是在回答一个问题知道当前位置的梯度后下一步该往哪走、走多远。朴素SGD只靠当前梯度决定方向容易震荡带动量的SGD把历史梯度方向做了指数滑动平均相当于给更新加了一个“惯性”Adam则是给每个参数单独估计梯度的一阶矩和二阶矩让更新步长对不同参数自适应。理解了这一层你就明白为什么没有“绝对最好”的优化器只有“在某个任务上最合适”的优化器。1.2 推理侧从“能跑”到“跑得快、占得少”模型训练出来只是第一步真正痛苦的往往在部署阶段。一个几百MB的模型在GPU上跑一遍可能只要几十毫秒但换到CPU、手机端、边缘设备上速度立刻变成灾难。推理侧优化要解决的就是三个硬指标延迟、吞吐、内存占用。这个环节常见的技术手段包括量化把FP32权重压到INT8甚至更低精度、剪枝删掉不重要的连接或通道、蒸馏用小模型学习大模型的能力。每一招都有适用边界和代价我在后面的章节里会逐一拆解。这里先给一个核心观点推理侧优化永远要拿“精度掉点”和“性能提升”做权衡不存在无损的白嫖方案关键是控制掉点在可接受范围内。1.3 系统侧超参数搜索同样是优化问题第三层容易被忽略模型训练本身有一堆超参数要设置——学习率、权重衰减、batch size、warmup步数、 dropout……这些参数组合起来形成一个巨大的搜索空间靠手工试错基本靠运气。把超参数搜索也看成一个优化问题用贝叶斯优化、TPE采样、早停剪枝这些手段去自动求解就是“Model-Optimizer”在系统层面的含义。三层结合来看一个完整的模型优化工作流应该是先用合适的优化器把模型训练到尽可能好的精度再用压缩手段让模型适配目标硬件最后用自动搜索工具把整个流程中的关键超参数调到最优。下面我从第一层开始逐个展开实操细节。2. 训练优化器选型从SGD到AdamW/LAMB的取舍逻辑2.1 主流优化器原理与适用场景对比先给一张我在实际项目里的选型速查表后面再解释每个选项背后的原因。优化器核心机制最擅长的场景典型配置参考SGDMomentum梯度惯性平滑CV分类/检测泛化性好lr0.1配合batch 256momentum0.9weight_decay5e-4Adam一阶二阶矩自适应Transformer、NLP、多模态lr3e-4betas(0.9, 0.999)eps1e-8AdamWAdam 解耦权重衰减GPT类大模型、ViTlr1e-5~5e-5大模型weight_decay0.01~0.1LAMBAdamW 逐层归一化超大批量分布式训练lr0.001~0.01batch上万时表现稳SGDWSGD 解耦权重衰减需要强泛化且要控制过拟合同SGDweight_decay0.01~0.05这张表的来源不是论文堆砌而是我踩过坑后的经验总结。SGD在CV任务上还牢牢占据一席之地核心原因是它的更新轨迹更“平滑”收敛到的极值点往往更平坦泛化性更好。Adam在Transformer结构上几乎是默认选项因为注意力机制的梯度分布差异大自适应学习率能稳住训练。AdamW和SGDW的价值在于把权重衰减从梯度更新里解耦出来——传统Adam里的L2正则会被二阶矩归一化“稀释”解耦后正则效果才真正可控。2.2 关键参数背后的数学直觉选好优化器只是开始参数配不对等于白选。学习率是全局最重要的参数它决定了每一步更新幅度。经验上SGD用0.1起步配合batch size 256是ImageNet训练的标准开局Adam系则从3e-4起步——这个数值不是拍脑袋而是因为Adam的更新步长近似为“信噪比”的估计天然比SGD能承受的学习率小一个数量级。weight decay权重衰减常被误解为L2正则在AdamW/SGDW之前它们确实可以近似等同但在Adam里直接加L2会被二阶矩的动态缩放干扰。实际操作里CV任务用5e-4是比较稳的起点Transformer微调用0.01到0.1大模型更倾向0.1太重会导致欠拟合太轻则过拟合。betas参数中(0.9, 0.999)是Adam系默认值第一个0.9控制梯度方向的历史平滑第二个0.999控制学习率的历史平滑。你在跑NLP任务时如果发现loss前期抖动厉害可以把beta1调到0.95代价是收敛速度变慢一点。2.3 优化器使用的三个高频坑先说混合精度下的优化器状态问题。用AMP混合精度训练时优化器里的参数状态比如Adam的一二阶矩必须保留FP32精度否则数值下溢会让收敛不稳定。很多框架默认帮你做了但你自己手写训练循环时容易漏掉结果就是loss在某个阶段突然变NaN。第二个坑是学习率调度和优化器的配合。常见做法是warmup加cosine decay前5%到10%的step让学习率从0线性升到目标值避免模型一开始被大步长冲乱后面按余弦曲线降到接近0让模型在收敛后期做精细微调。实际经验是warmup对Transformer类模型几乎是必须的对CV任务则不是。第三个坑是梯度裁剪的阈值。NLP任务里梯度范数超过一定阈值时直接截断阈值通常设在1.0附近CV任务很少需要裁剪加了反而可能拖慢收敛。这里没有万能公式我习惯在训练日志里同时打印梯度范数观察它是否随训练放大再决定要不要裁剪、裁剪到多少。3. 推理侧模型优化量化、剪枝、蒸馏的落地顺序3.1 为什么先动量化PTQ与QAT怎么选推理侧优化我会推荐先做量化原因很现实量化的收益最直接而且在多数框架里工具链最成熟不需要改动模型结构。量化的本质是把连续分布的权重和激活从FP32映射到离散的INT8表示模型体积直接缩到四分之一推理速度在支持INT8的硬件如TensorRT、OpenVINO、部分移动端NPU上可以提升2到4倍。量化落地时首先要面临PTQ和QAT的路线选择。PTQ训练后量化不需要重新训练模型只用一小部分校准数据统计激活的数值范围然后完成权重和激活的定点转换优点是快缺点是掉点相对不可控。QAT量化感知训练在训练过程中模拟量化的舍入误差让模型主动适应低精度效果好但需要重新训练成本高。我的选型经验是先跑PTQ如果掉点在可接受范围内分类任务通常要求掉点小于1%检测任务小于2%就直接用PTQ掉点超标再上QAT并且只对敏感层做量化感知训练而不是整个模型重训。3.2 一种可复现的PTQ实操流程这里给一套我在PyTorch里做PTQ的流程配合ONNX Runtime或TensorRT做后端推理可以直接当作参考模板。第一步准备校准集。校准集不需要带标签但要能代表真实输入分布通常从训练集或验证集里随机抽200到500张图覆盖不同光照、角度、目标类别。第二步用校准集统计激活的min/max或百分位范围。这里有个细节用min/max容易被极端值带偏我一般用0.999百分位截断异常值。第三步做权重和激活的对称/非对称量化权重常用对称量化因为权重分布近似零对称激活常用非对称量化ReLU后全是非负值用非对称能多利用量化区间。第四步在目标后端上做精度验证。下面这段伪代码展示核心流程import torch from torch.ao.quantization import get_default_qconfig_mapping, prepare, convert # 模型设置为评估模式 model.eval() # 配置量化后端这里以fbgemm为例适合x86 CPU model.qconfig get_default_qconfig_mapping()[fbgemm] # 融合常见算子减少量化误差累积点 model_fused torch.ao.quantization.fuse_modules(model, [[conv, bn, relu]]) # 准备量化模型插入观察点 model_prepared prepare(model_fused) # 喂校准数据 with torch.no_grad(): for batch in calibration_loader: model_prepared(batch) # 真正把模型转换成INT8推理模型 model_int8 convert(model_prepared)这套流程跑下来最常见的坑有两个一是模型里有不支持量化的算子比如某些自定义算子、动态shape的op转换时会卡住或报错解决思路是跳过这些层保持FP32。二是校准集分布和真实线上数据差太多导致量化后掉点严重这时候要去检查线上数据分布而不是盲目增加校准集数量。3.3 剪枝和蒸馏的正确配合姿势量化解决的是体积和速度剪枝解决的是结构上的冗余。剪枝分为非结构化剪枝把不重要的单个权重置零和结构化剪枝整行/整列/整个通道去掉。非结构化剪枝理论压缩率高但稀疏矩阵在通用硬件上很难提速我用得更多的是结构化剪枝。通道剪枝的效果直观体现在FLOPs上减少通道数后conv的计算量直接下降配合硬件加速效果明显。剪枝的关键工具是“重要性判断”。常见做法是对权重绝对值做阈值筛选或者用BN层的缩放因子gamma作为通道重要性指标这就是Learning Efficient Convolutional Networks through Network Slimming的思路。实操时我会加上两项保护措施一是一次性剪枝比例不要超过30%超过后精度崩的风险很高二是剪枝后一定要做几轮微调fine-tune把剩余参数重新适配到任务上。蒸馏则是用小模型student去学大模型teacher的输出分布。比起直接用小模型从头训练蒸馏多了一个“软标签”的信息源可以让学生学到类别间的相似关系。这里给出一个经过验证的蒸馏损失配置损失alpha*CE(student_output, hard_label) (1-alpha)*KL(student_output/temperature, teacher_output/temperature)。temperature通常设在4到8之间越高软标签分布越平滑alpha取0.7到0.9让模型更多地从真实标签学习同时保留教师模型的知识。实际做的时候先固定temperature扫alpha再固定alpha扫temperature比同时调两个参数更容易定位问题。4. 用“优化器”的思维做超参数搜索4.1 搜索工具选型Optuna还是Ray Tune超参数搜索本质上是一个黑盒优化问题给定一组超参数跑完训练后得到一个精度指标你要找到让指标最大的那组参数。手工网格搜索在参数多时完全不可行随机搜索比网格好一些但效率依然低。工程上更推荐贝叶斯优化类工具其中Optuna和Ray Tune是我用得最多的两个选择。Optuna的亮点在于定义搜索空间非常简单用装饰器就能把目标函数包装起来内置了TPE采样器和多种剪枝策略适合单机多卡场景。Ray Tune的优势是分布式能力更强适合在多节点集群上大规模并发搜索但部署和配置成本更高。如果你的资源就是一两台GPU服务器直接用Optuna就够了。4.2 搜索空间设计的工程经验搜索空间设计直接决定了搜索效率这里有个反直觉的经验不要一次把所有超参数都扔进去搜。任何一个不重要的参数都会扩大搜索空间稀释采样效率让最优组合更难找到。我的做法是先固定网络结构和数据增强策略只搜索学习率、weight decay、batch size三个核心参数找到相对优的区域后再放开其他参数做第二轮精搜。搜索空间范围可以用经验值设定学习率在1e-4到1e-2之间做对数均匀采样log uniform因为学习率是乘性影响在log尺度上均匀采样更合理weight decay在1e-6到1e-3之间对数采样batch size则在可用显存允许的范围内做离散选择。对数采样这个细节很关键线性均匀采样会让小学习率区域的采样点太少导致你很难撞到最优的低学习率区域。4.3 早停剪枝别把时间浪费在注定失败的组合上超参数搜索最耗时的不是搜索本身而是反复跑完整的训练过程。一个Transformer模型的完整训练可能要几十个小时如果每组参数都跑到底搜索效率不堪设想。这就需要早停策略在训练早期就判断这组参数有没有希望。Optuna里内置的MedianPruner就是一个实用选择。它的逻辑是维护所有已完成trial在某个step的指标中位数如果当前trial在对应step的指标低于中位数就提前终止。合理设置prune的起始step很重要太早判断容易被训练初期的波动骗到我一般设置在训练总step的20%以后开始检查并且用验证集指标而不是训练集loss做判断因为训练loss下降不代表泛化性能好。另外条件的上界也要留足那些前期看起来不出彩但后期会爆发的trial不常见但确实存在——所以我的策略是宽松剪枝只在指标明显落后比如低于中位数一半时才终止宁多花一点时间也不误杀潜力股。5. 常见问题排查与实战避坑清单5.1 训练不收敛或loss震荡的排查路径遇到loss不收敛先别急着换模型按下面这个顺序排查。第一看数据检查输入是否有NaN、标签是否错乱、数据增强是否过强。第二看学习率如果loss一开始就不降多半是学习率太大导致发散可以把学习率降到当前值的十分之一试跑几百步如果loss降得很慢说明学习率偏小。第三看优化器状态使用Adam时检查eps是否过小小于1e-9容易数值不稳使用SGD时检查momentum是否过大超过0.95容易震荡。第四看梯度在训练循环里打印梯度范数如果梯度范数剧烈跳动考虑梯度裁剪。loss震荡还有一个容易被忽略的原因batch size太小导致梯度噪声太大。这时候增加batch size通常比调学习率更有效但需要同步调整学习率。经验比例是batch size翻倍学习率也翻倍这个规则在SGD上比较准在Adam上要保守一些建议只乘1.5。5.2 量化掉点严重时的定位方法量化后精度大幅下降第一步要做的是逐层定位“敏感层”。Polyak和LeCun那篇经典论文已经指出不同层对量化的敏感度差异巨大图像分类里往往是第一层卷积和最后的全连接层最敏感。实操时可以先把所有层量化然后逐层退回FP32看哪一层退回后精度恢复最明显那层就是主要矛盾。用这个方式定位后只对这些敏感层保持高精度其他层仍然量化可以兼顾精度和速度。第二个高频问题是激活值分布过于分散。统计激活的数值范围如果存在极少数远超99.9百分位的异常大值min/max校准会被严重拉宽导致量化步长变大、普通值精度受损。这种情况下我会把校准统计从min/max换成百分位截断用99.9百分位作为上限异常值直接截断。这个方法在检测类模型上尤其管用。5.3 剪枝后精度崩掉的三大常见原因剪枝后精度崩第一大成因是剪枝比例太大结构损伤超过了微调的可恢复范围。应对策略是渐进式剪枝每轮只剪5%到10%微调恢复再剪下一轮而不是一步到位剪30%。第二大成因是微调学习率没调对。剪枝后的模型权重被剧烈改动此时再用原来的大学习率容易冲坏剩余结构建议把学习率降到原训练学习率的十分之一甚至二十分之一跑全量训练的10%到20%的step就够。第三大成因是剪枝的粒度太细碎。通道剪枝时一次性把某层通道数砍到原来的50%以下非常危险这会彻底改变该层输出的特征分布直接影响后续所有层。一般单层通道剪枝比例控制在30%以内并配合BN层的gamma分布来指导剪哪些通道。5.4 模型优化问题速查表现象首要怀疑方向推荐动作训练初始loss不降学习率过大/数据问题学习率降10倍试跑检查数据预处理训练中期loss震荡梯度噪声大/调度策略缺失增大batch size加入warmup准精差一点上不去权重衰减太重/模型容量不足降低weight_decay一个量级复查结构PTQ后分类掉点1%校准集分布不匹配、敏感层未保护重选校准集、逐层定位敏感层检测模型量化后掉点多激活分布长尾严重改用百分位截断校准剪枝后精度骤降单次剪枝比例过大改为渐进式剪枝降低微调学习率蒸馏效果不如预期temperature太极端/alpha设置不合理用4-8范围扫temperaturealpha从0.7起步这张表是我平时排查问题的起始清单大多数情况都能在半小时内定位到方向。最后分享一点个人体会做了这么多次模型优化的项目最深的感触是优化永远不是单点技巧的堆叠而是各个环节的系统配合。选对了优化器后面量化和剪枝的掉点都会更小校准集做得好量化精度和线上表现就更有保障超参数搜索设计合理实验迭代速度就快得多。你在这篇文章里看到的每一条经验几乎都是用实际的训练时间和线上流量换来的——不要怕掉点掉点本身就是定位瓶颈的最好线索。把问题拆小先找到主要矛盾再动手优化这比学一百个花哨技巧都管用。
