Senior Machine Learning Engineer

优缺点分析

角色解读

• 技术路线：高级工程师 → 技术专家（Staff/Principal Engineer） → 架构师，专注于AI推理或系统优化
• 管理路线：技术领导者（Tech Lead） → 工程经理，带领团队推进AI平台项目
• 横向发展：可转向AI芯片设计、编译器优化或更广泛的系统软件领域
• 设计并实现生成式AI推理运行时（Genie）和AI协处理器的核心模块，确保边缘设备上的模型高效运行
• 对LLM和多模态模型进行推理优化，包括内存管理、执行效率提升和资源调度
• 解决系统级性能和稳定性问题，推动AI推理技术在平台级场景的落地
• 精通C++，熟悉Python或Java，具备系统级编程能力
• 深入理解LLM/LVM推理工作流，有相关系统设计和实现经验
• 熟悉Android/Linux开发环境，有嵌入式或异构计算平台经验
• 掌握资源受限环境下的性能、内存和并发优化技术

申请策略

• 了解高通在AI领域的最新布局（如Snapdragon平台），在面试中展示对业务方向的理解
• 准备一个端到端的AI推理优化案例，从模型到部署，突出系统思维
• 突出AI推理运行时或相关系统项目的个人贡献，尤其是性能优化成果
• 详细列出C++和Python项目经验，特别是嵌入式或Android/Linux平台
• 如果有Qualcomm NPU或类似硬件加速经验，重点强调
• 展示对LLM/LVM推理工作流的系统级理解，如模型压缩、内存管理
• 复习C++11/14/17新特性，熟悉现代C++编程范式
• 学习Android NDK或Linux内核驱动开发基础知识

面试指南

• 对于性能优化问题，采用STAR框架（情境、任务、行动、结果），先描述问题背景，再说明具体优化措施（如内存池、算子融合、量化），最后用数据展示提升
• 对于系统设计问题，先明确约束条件（资源限制、实时性要求），再提出候选方案并权衡利弊，最后给出推荐方案
• 对于C++语言特性问题，结合具体使用场景解释，避免纯理论背诵
• 请描述一个你优化过LLM推理性能的项目，具体做了哪些工作，取得了什么效果？
• 在资源受限的嵌入式设备上，你会如何平衡模型精度和推理速度？
• 你如何分析并解决多线程并发中的性能瓶颈？请举例
• 解释C++中的移动语义和完美转发，以及它们在性能优化中的应用
• 你对高通NPU的架构有什么了解？如何将AI模型映射到NPU上？