AI模型端侧开发工程师

优缺点分析

角色解读

• 向端侧AI专家方向发展，深耕推理引擎和模型优化
• 可转向AI算法工程师，结合端侧经验优化模型设计
• 有机会晋升为技术负责人，带领团队负责端侧AI平台建设
• 将训练好的AI模型移植到手机等端侧设备，确保在有限算力和内存下高效运行
• 开发和优化端侧推理引擎，包括算子优化、模型量化、剪枝、蒸馏等压缩技术
• 与算法团队协作，将NLP、CV、语音等多模态模型适配到CPU/GPU/NPU/DSP等平台
• 持续调优模型性能与功耗，降低延迟、内存占用和功耗
• 精通C/C++/Java，熟练掌握Python，具备良好的工程习惯
• 扎实的线性代数、概率统计和数值计算基础，能理解模型原理
• 熟悉模型压缩技术（量化、剪枝、蒸馏）和推理引擎（如MNN、NCNN、TFLite）
• 具备性能分析和调试能力，能定位并解决端侧瓶颈

申请策略

• 了解荣耀的AI战略和产品线，在面试中展示对端侧AI的理解
• 准备一个端侧优化案例，展示问题分析和解决能力
• 突出模型部署或推理优化项目经历，量化性能提升成果
• 强调C/C++/Python编程能力，展示代码质量和工程实践
• 提及对模型压缩技术（量化、剪枝）的理解和实践
• 如有开源贡献或技术博客，可增加亮点
• 学习主流推理引擎（如MNN、NCNN、TensorRT）的使用和原理
• 深入理解模型量化、剪枝、蒸馏等压缩技术，动手实践

面试指南

• 回答技术问题时，采用STAR法则（情境、任务、行动、结果），突出具体技术细节和量化成果
• 对于原理性问题，先阐述基础概念，再结合实际经验
• 请介绍一个你做的模型部署或优化项目，遇到了哪些挑战？
• 如何对模型进行量化？量化对精度的影响如何评估？
• 端侧推理引擎的算子优化有哪些常用方法？
• 如何分析端侧模型的性能瓶颈？
• C++中内存管理有哪些注意事项？
• 复习C++内存管理、多线程、性能优化相关知识