Machine Learning Engineer

优缺点分析

角色解读

• 可在AI推理引擎方向深入成为架构师，主导下一代运行时设计
• 可向AI芯片协同方向拓展，成为系统级优化专家
• 未来可晋升为技术领导或专家，带领团队攻克复杂AI落地难题
• 设计并实现生成式AI推理运行时的关键模块，确保复杂模型在嵌入式设备上高效运行
• 优化大语言模型和多模态模型的推理过程，提升执行效率、减少内存占用
• 与硬件团队协作，优化推理运行时与高通芯片的协同，提升系统性能
• 解决生成式AI平台中的系统级性能与稳定性问题，并推动技术落地
• 精通C++编程，并有Python/Java在系统或AI工程中的使用经验
• 深入理解LLM/LVM推理流程，具备系统级设计与实现能力
• 熟悉Android/Linux开发环境，有嵌入式或异构计算平台经验
• 掌握资源受限环境下的性能、内存和并发优化技术

申请策略

• 在简历和面试中展示对生成式AI推理链路的整体理解，而不仅仅是单点技能
• 了解Qualcomm在边缘AI的战略方向，体现与公司愿景的契合
• 突出C++和Python的深入使用经验，特别是性能优化项目
• 强调AI推理框架（如TensorRT、ONNX Runtime）或LLM部署经验
• 展示嵌入式平台（如Android、Linux）开发与调优的实际案例
• 如有Qualcomm平台或NPU开发经验，务必重点提及
• 复习LLM推理原理和常用优化技术（如量化、剪枝、KV cache）
• 熟悉Qualcomm SNPE/QNN等工具链，或类似NPU开发环境

面试指南

• 对于开放性问题，采用“问题-分析-方案-验证”的结构，先阐明背景再深入
• 技术问题回答时，先给出核心概念，再结合自身项目经验举例说明
• 系统设计题注意权衡不同方案，并关注与硬件的协同
• 请描述LLM推理的完整流程，并指出主要的性能瓶颈
• 在资源受限的嵌入式设备上，你会如何优化Transformer模型的推理？
• 解释C++中的移动语义和完美转发，并举例在AI推理中的使用场景
• 如何设计一个跨平台的推理运行时接口来支持不同硬件加速器？
• 你过去如何解决一个系统级别的性能问题？请具体说明