新业务部-大模型部署优化工程师

优缺点分析

角色解读

• 向大模型部署架构师方向发展，主导端侧AI解决方案设计
• 横向拓展至AI芯片设计或算法优化领域，成为复合型技术专家
• 在小米新业务部内部可转向算法研发或产品技术管理岗位
• 负责将大模型（AIGC+LLM）在Android设备上进行部署和优化，实现端侧推理
• 针对NPU、GPU、CPU等异构硬件，实现高性能算子并持续调优
• 分析算子及网络性能瓶颈，提出并实施优化策略以达到性能目标
• 深入理解并行计算和异构计算体系结构，具备NPU/GPU/CPU平台优化经验
• 熟练使用TensorRT、cuDNN、CUDA等高性能库进行算子开发和优化
• 掌握至少一种主流AI框架（如PyTorch、TensorFlow）的模型部署流程
• 具备系统性能分析能力，能够定位瓶颈并制定优化方案

申请策略

• 在面试中展现对大模型端侧落地的热情和对小米AI产品的了解
• 可提前准备一个完整的端侧部署项目展示，突出优化方法和效果
• 突出在GPU/NPU上的模型部署与优化项目经验，展示具体性能提升数据
• 强调使用TensorRT、CUDA等工具的实际成果和优化思路
• 体现对异构计算体系结构的理解，以及解决性能瓶颈的案例
• 深入学习高通或联发科NPU的SDK和工具链
• 掌握模型量化、剪枝、蒸馏等端侧模型压缩技术

面试指南

• 先明确问题边界，然后从算法、算子、内存、编译等层面分层分析
• 结合实际案例，按“问题-分析-方案-效果”结构回答，突出量化结果
• 如何优化一个Transformer模型在手机端的推理速度？
• 请解释TensorRT的工作原理和主要的优化策略
• 描述一次你解决性能瓶颈的经验，具体采用了哪些方法？
• 在异构计算中，如何选择合适的计算单元分配任务？
• 你在多线程或并行编程中遇到过哪些挑战？如何解决的？
• 复习并行计算、GPU架构和内存层次等基础知识