大模型算法专家

优缺点分析

角色解读

• 技术专家路线：深耕端侧AI算法，成为领域权威，主导核心技术创新
• 技术管理路线：积累团队协作经验后转型为技术Leader，带领团队攻克难题
• 创业或产业结合：端侧大模型是AI落地的重要方向，可延伸至产品、创业等
• 设计并优化端侧大模型架构，实现低功耗、低内存下的高效推理
• 负责模型预训练、后训练、量化感知训练及全链路pipeline建设
• 开发模型压缩算法（剪枝、量化、蒸馏）和推理加速技术（投机解码等）
• 建立端侧评测体系，关注延迟、生成速度、功耗等硬性指标，并输出顶会论文与专利
• 扎实的机器学习与深度学习基础，深入理解Transformer架构与MoE原理
• 熟悉大模型预训练/后训练流程，掌握SFT、RL等训练技术
• 具备模型压缩（量化、剪枝、蒸馏）和推理加速的实际经验
• 熟悉端侧硬件与芯片特性，能做算法-硬件协同设计

申请策略

• 了解小米的AIoT生态和端侧芯片布局，在面试中体现对业务场景的理解
• 准备一份针对Agentic OS场景的技术方案，展示系统思考能力
• 突出大模型训练或压缩相关项目经验，最好有量化、剪枝等实际部署案例
• 列出顶会论文或专利，体现研究创新能力
• 强调对Transformer/MoE的深入理解，可以附上技术博客或开源贡献
• 量化成果指标，如模型压缩率、推理加速倍数、功耗降低等
• 补充强化学习（RL）相关知识，尤其是RLHF或DPO等后训练技术
• 熟悉端侧推理框架，如MNN、NCNN、TensorRT等，以及硬件如高通、联发科NPU的特性

面试指南

• 采用STAR法则：情境-任务-行动-结果，量化展示你的贡献
• 结合硬件特性分析：从内存带宽、算力、功耗角度解释算法选择
• 展示系统思维：从数据、训练、压缩、部署、评测全链路考虑问题
• 请讲讲你在大模型压缩或推理加速方面的项目经验，具体如何实现？
• 如何端侧部署一个7B模型？在量化、内存和速度方面你有哪些优化手段？
• 谈谈你对投机解码（Speculative Decoding）的原理和实现理解
• 如何设计端侧模型的评测体系来兼顾精度与性能？
• 你对MoE模型在端侧的可行性有什么看法？