模型优化工程师

优缺点分析

角色解读

• 技术专家路线：在模型压缩、推理优化领域深耕，成为公司内该领域的权威专家
• 架构师路线：从模型优化扩展到整体AI系统架构设计，负责端到端的性能优化
• 管理路线：可向技术团队管理岗位发展，带领团队负责AI模型优化项目
• 负责AI模型在端侧或云侧的压缩与加速，包括量化、蒸馏、剪枝等，以提升推理速度和降低资源消耗
• 针对不同规模的模型（小模型和大模型）设计并实施差异化的优化方案，如SmoothQuant、AWQ等
• 与硬件团队协作，从模型优化角度为芯片设计提供建议，推动软硬协同优化
• 参与模型训练与微调，复现和改进前沿模型结构，保持技术领先
• 扎实的深度学习基础，深入理解模型量化（PTQ/QAT）和推理优化技术
• 熟练使用PyTorch/TensorFlow，具备模型训练和复现能力
• 了解芯片计算特性，有底层算子开发经验（如CUDA）者优先
• 具备较强的论文阅读和工程实现能力，能快速将前沿技术落地

申请策略

• 在面试中展示对模型优化技术的深入理解和实际项目经验
• 了解小米在AI领域的布局，特别是端侧AI和硬件结合的方向
• 突出模型量化、压缩、蒸馏等相关的项目经验，并说明具体成果和量化指标
• 强调模型训练和复现能力，可附上GitHub或技术博客链接
• 如有CUDA或底层算子开发经验，务必重点突出
• 展示对前沿技术的关注，如大模型推理优化、SmoothQuant等
• 系统学习模型量化原理，并动手实践PTQ/QAT
• 关注大模型推理优化前沿技术，如投机采样、KV Cache优化

面试指南

• 对于技术问题，建议采用STAR法则，结合具体项目经验，清晰阐述背景、任务、行动和结果
• 对于原理性问题，建议从问题定义、现有方法、优缺点和适用场景等方面进行结构化回答
• 对于协作类问题，强调沟通能力和跨团队合作经验，突出共同目标
• 请详细介绍一下你做过的一个模型量化项目，包括技术选型和效果
• 如何选择PTQ和QAT？在什么场景下你会优先选择哪种？
• 谈谈你对SmoothQuant或AWQ的理解，它们解决了什么问题？
• 如何优化一个Transformer模型在GPU上的推理速度？
• 你如何与硬件团队协作，推动模型优化和硬件设计的结合？