模型部署工程师

优缺点分析

角色解读

• 可沿边缘AI/推理优化专家方向发展，深耕模型压缩、编译优化与芯片适配
• 积累机器人、自动驾驶等端侧部署经验后，可承担AI Infra或部署平台负责人角色
• 向人形机器人系统架构、算法工程化落地或技术管理方向拓展
• 将机器人视觉感知、强化学习策略和多模态大模型部署到边缘计算平台，完成工程化落地
• 主导模型转换与部署流程建设，负责训练后量化、量化感知训练、剪枝、蒸馏和算子融合等轻量化工作
• 针对NVIDIA及地平线/辉羲等国产AI芯片做推理加速与异构计算适配，平衡压缩率与精度损失
• 与算法、嵌入式/硬件团队协作，解决模型在资源受限硬件上的性能与稳定性问题
• 扎实的C++/Python工程能力，理解PyTorch/TensorFlow及CNN/Transformer、强化学习、多模态大模型架构
• 精通TensorRT模型转换、FP16/INT8量化和推理加速，熟悉NVIDIA生态
• 熟悉地平线或辉羲等国产AI芯片部署工具链与异构计算，具备嵌入式端部署全流程经验
• CUDA/OpenCL、自定义算子开发和底层硬件感知调优是加分项

申请策略

• 投递前了解均胜电子人形机器人研究院的业务方向，简历中体现对机器人端侧部署的兴趣
• 面试时主动确认团队算力平台、芯片选型和部署工具链现状
• 突出TensorRT部署、FP16/INT8量化、模型压缩（剪枝/蒸馏/算子融合）的项目成果和精度/性能指标
• 量化C++/Python工程能力，展示高并发、低延迟或嵌入式端部署的代码与架构经验
• 罗列NVIDIA及地平线/辉羲等国产芯片工具链使用经验，强调异构计算适配
• 如有机器人、自动驾驶或多模态大模型落地经验，单独用项目案例说明
• 补齐CUDA/OpenCL与自定义算子开发经验，理解底层硬件调优方法
• 系统准备模型量化与压缩知识，能解释PTQ/QAT、剪枝、蒸馏的取舍

面试指南

• 用STAR结构讲清场景、约束、方案与量化结果，重点给出吞吐、延迟、精度和资源占用数据
• 遇到性能/精度问题先定位瓶颈（算力、带宽、算子、量化误差），再说明取舍和验证过程
• 对国产芯片问题，按模型转换、算子支持、精度校准、异构调度分步骤回答
• 请介绍一个你用TensorRT完成模型转换和INT8量化的项目，精度损失和加速比如何？
• PTQ和QAT分别适合什么场景？你如何定位量化后的精度下降问题？
• 在CNN/Transformer模型上做过哪些剪枝、蒸馏或算子融合优化？效果如何？
• 你如何把PyTorch模型部署到地平线或辉羲等国产AI芯片？遇到哪些工具链限制？
• CUDA自定义算子开发或底层调优经历？如何做性能分析？