基于知识蒸馏的图像分类模型压缩方法研究

个人观点：蒸馏收益应和部署成本一并报告，单看精度提升不完整。

研究问题

本文聚焦 模型压缩 的核心问题：如何在保证效果的同时，提升可解释性、稳定性与部署可行性。

方法框架（我的理解）

1. 以任务约束定义模型边界，而不是先堆复杂结构。
2. 把主观体验指标和客观指标同时纳入评估。
3. 在训练阶段引入失败样本回放，降低边缘场景风险。

评估建议

• 指标不只看单点峰值，还要看波动和最差分位表现。
• 建议增加跨数据源验证，避免只在单一数据集过拟合。
• 报告推理时延和显存开销，方便工程团队决策。

代表论文与链接

• SatMAE (2022)
• MTAN (2019)
• MIRNet (2020)

业务落地观察

蒸馏收益应和部署成本一并报告，单看精度提升不完整。 在真实项目中，建议把“异常样本回放 + 指标看板 + 回滚预案”作为最小上线闭环。