顶尖应届-软硬协同优化研究员-软件

优缺点分析

角色解读

• 技术纵深发展：成为端侧AI系统优化专家，主导芯片-算法协同设计
• 横向拓展：向AI框架开发、编译器开发或芯片架构设计方向延伸
• 项目管理方向：未来可担任技术Lead或项目经理，带领团队完成复杂优化项目
• 负责手机端侧AI大模型（30B-100B）的性能优化与能效分析，确保模型在移动设备上高效运行
• 进行软硬协同优化，包括算法、编译器、推理引擎、算子以及芯片特性的全栈调优
• 探索GPU/NPU/CPU异构并行方案，推动SoC芯片的定制开发，提升端侧AI推理能力
• 建立硬件benchmark模型，分析移动端硬件瓶颈，辅助模型能效优化
• 扎实的AI模型知识：深入理解MoE、Transformer、LLM的推理原理及端侧优化技术
• 系统能力：熟悉异构计算、推理引擎架构、内存/IO布局优化
• 工程经验：有移动端模型部署和调优经验，熟悉端侧推理框架
• 编程与工具：熟练使用Python/C++，了解编译优化技术（如TVM、MLIR）者优先

申请策略

• 在简历和面试中强调结果导向，用具体性能提升数据（如延迟、功耗）证明能力
• 了解小米端侧AI产品（如小爱同学）的技术路线，展示对业务场景的理解
• 突出AI模型部署和优化项目经验，特别是移动端或嵌入式平台的调优案例
• 展示对MoE、Transformer等模型结构的深入理解，如相关论文、开源贡献
• 强调异构计算或编译优化相关经历，如使用TVM、XLA等工具的经验
• 如果有芯片设计或体系结构背景，务必提及，体现软硬协同能力
• 补强端侧推理框架（如MNN、TNN、NCNN）的使用和源码理解
• 学习GPU/NPU编程模型（如CUDA、OpenCL、Vulkan），了解移动端硬件特性

面试指南

• 对于优化类问题，使用“瓶颈分析-方案对比-实施与效果”框架，先定位关键瓶颈，再提出多种方案并分析权衡，最后给出实施路径和预期收益
• 对于架构设计问题，采用“需求分析-模块划分-关键设计-验证”框架，从业务需求出发，分解功能模块，重点突出创新点和权衡取舍
• 请详细解释MoE模型在推理时如何实现稀疏激活，以及端侧部署的挑战
• 如何优化一个LLM在手机端的推理延迟？请从算法、系统、硬件三个层面说明
• 你如何理解软硬协同优化？请举例说明你之前项目中是如何平衡软件和硬件的
• 请描述一下TVM或MLIR的工作流程，以及它们在端侧优化中的角色
• 如果让你设计一个端侧AI芯片的微架构来加速Transformer，你会考虑哪些特性？
• 复习深度学习编译器知识，了解TVM、MLIR、XLA等的工作原理