模型量化工程师

优缺点分析

角色解读

• 向高级量化算法工程师发展，负责更复杂的端到端模型量化优化
• 可横向扩展至模型压缩其他领域（剪枝、蒸馏、NAS）
• 未来可转型为芯片工具链开发或AI编译器工程师
• 负责将自动驾驶模型（CNN/BEV/Transformer等）压缩成低精度（INT8/FP16）以在芯片上高效运行
• 分析量化后精度下降的原因，通过算法技巧（如Bias Correction、AdaRound）恢复精度
• 搭建量化感知训练环境，调整伪量化节点以最小化精度损失
• 使用芯片厂商的工具链（如TensorRT、AIMET）部署模型，并最终输出量化精度报告
• 扎实的深度学习基础，熟悉模型量化原理（PTQ/QAT、对称/非对称量化等）
• 熟练使用PyTorch，至少熟悉一种推理框架（TensorRT、TFLite、TVM）
• 具备量化掉点排查经验，能通过特征图可视化定位精度瓶颈
• 了解主流自动驾驶芯片架构（地平线、英伟达、高通）者优先

申请策略

• 申请时附上过往量化精度对比报告（浮点vs定点）会很有说服力
• 了解轻舟智航的技术栈（BEV、端到端）并在简历中关联
• 突出量化项目经验：具体量化掉了多少点（精度损失 <0.5%），使用哪些方法恢复
• 强调芯片适配经验：列清接触过的芯片平台（地平线J5、Orin、骁龙等）和工具链
• 展示QAT实战能力：说明搭建的微调框架、伪量化节点配置细节
• 提前熟悉地平线的Pytorch Plugin和英伟达的TensorRT量化流程
• 补强混合精度量化知识，了解QAT中的算子融合技巧

面试指南

• 排查步骤思想：先分析输入分布 → 逐层对比激活值 → 定位敏感层 → 针对性优化（校正/回退/QAT）
• 量化原理回答：从量化公式开始，说明零点、缩放因子、截断范围
• 请简述INT8量化的基本原理，对称量化和非对称量化的区别
• 假如一个模型量化后mAP从0.8掉到0.6，你会如何一步步排查？
• 解释一下AdaRound的工作原理，以及它和Bias Correction的配合使用
• 你有使用过TensorRT的INT8 calibrator吗？如何处理calibration数据集？
• 对于多任务模型（检测+分割），量化时需要注意哪些问题？
• 复习量化经典论文（LSQ、QAT、AdaRound、Bias Correction）