Machine Learning Engineer

优缺点分析

角色解读

• 在GenAI推理领域深耕，成为该技术的专家或技术负责人
• 向系统架构师方向发展，负责整体推理系统的设计与优化
• 深入NPU和硬件加速方向，成为芯片-算法交叉领域的核心人才
• 参与生成式AI推理运行时(Genie)和AI协处理器的开发与优化，提升大模型在边缘设备上的执行效率
• 开发和维护GenAI Runtime核心模块，包括模型执行流程、资源调度和运行时工具
• 支持大语言模型(LLM)和多模态模型在边缘平台的部署与调优，优化性能、内存占用和稳定性
• 协助分析解决推理运行时问题，并与跨职能团队合作推动GenAI技术落地
• 熟悉大模型(LLM/LVM)部署方法，具备扎实的工程编码能力
• 精通C++，熟悉Java或Python至少一种
• 了解Android/Linux开发环境和调试工具，掌握性能与内存优化策略
• 具有AI推理运行时、AI加速或边缘AI部署的实际经验

申请策略

• 提前了解高通AI产品线及Genie项目的技术背景，在面试中展示热情
• 准备系统设计问题，关注低延迟和高吞吐量场景的解决方案
• 突出AI模型部署和推理优化的项目经验，尤其是涉及LLM或边缘设备的案例
• 展示扎实的C++编程能力，以及与Android/Linux相关的开发经验
• 如有NPU或硬件加速经验，务必详细描述
• 强调性能调优和内存优化的具体成果，如量化后的性能提升数据
• 深入学习LLM部署框架，如TensorRT、ONNX Runtime或MLIR
• 掌握NPU编程，如Qualcomm SNPE或QNN SDK

面试指南

• 对于技术问题，先阐述原理，再结合实践经验说明优化步骤和量化结果
• 使用STAR方法回答行为问题：情境(Situation)、任务(Task)、行动(Action)、结果(Result)
• 对于开放性问题，结构化地列出多种方案并比较优缺点，展示系统思维
• 如何将一个大模型（如LLaMA）部署到移动设备上？会面临哪些挑战？
• 解释C++中的内存管理机制，以及如何优化内存使用？
• 描述一次你调试性能瓶颈的经历，使用了哪些工具和方法？
• 你了解Qualcomm Hexagon NPU吗？谈谈它的架构和编程模型
• 在模型精度和推理速度之间如何权衡？实际项目中你如何选择？