AI 模型加速优化算法工程师

优缺点分析

角色解读

• 初期聚焦模型压缩与加速技术，成为端侧AI优化专家
• 中期可向算法-芯片协同设计方向深入，参与自研芯片架构定义
• 长期可发展为公司AI基础设施技术负责人，或转向AI平台/产品化方向
• 研发大模型、多模态模型在手机等端侧的加速优化算法，包括量化、剪枝、蒸馏等压缩技术
• 与芯片团队合作，进行算法与芯片的联合设计，提升自研芯片上的模型推理效率
• 负责模型从训练到部署的全链路性能优化，确保AI能力在端侧高效运行
• 扎实的深度学习基础，熟悉常见模型结构如Transformer、Diffusion
• 熟练掌握PyTorch，并熟悉至少一种推理优化框架（TensorRT、ONNX Runtime、TVM）
• 了解模型压缩技术（量化、剪枝、蒸馏等），具备实际项目经验者优先
• 对硬件架构有一定理解，能够进行算法与芯片的协同优化

申请策略

• 建议在简历中明确表述对端侧部署的深刻理解和热忱，并展示一项端侧优化的完整案例
• 了解小米在AIoT、汽车等领域的产品布局，在面试中结合业务场景谈优化思路
• 突出模型压缩或加速相关项目，如量化、剪枝、蒸馏的实际落地效果
• 强调对PyTorch等框架的熟练度，以及使用TensorRT/TVM等优化工具的具体经验
• 如果有芯片相关或端侧部署经验，务必突出，这是加分项
• 列出相关论文、专利或开源项目，体现技术深度
• 深入学习TensorRT/TVM的底层优化原理，动手实践常用优化技巧
• 了解硬件架构（如NPU、GPU）基本原理，通过公开资料或课程补充知识

面试指南

• 回答技术问题采用STAR法则：情境（Situation）、任务（Task）、行动（Action）、结果（Result），突出数据指标和权衡
• 对于优化类问题，可按“分析瓶颈—提出方案—实验验证—迭代优化”的流程阐述，体现系统性思维
• 涉及硬件结合的问题，要体现对计算、内存带宽等基础概念的掌握，并强调软硬件协同的思想
• 请介绍一次你进行模型压缩的经历，如何平衡精度与速度？
• 针对Transformer模型，你会如何设计端侧加速方案？
• 谈谈你对量化中PTQ和QAT的理解及适用场景
• 如何评估一个端侧推理引擎的性能？你会关注哪些指标？
• 如果让你优化一个Diffusion模型在手机上的推理，你会从哪些方面入手？