Machine Learning Engineer

优缺点分析

角色解读

• 成长为AI推理系统专家，领导关键模块的架构设计
• 晋升为技术主管，管理小团队并推动技术方向
• 跨领域发展至芯片设计或系统软件架构师，深度参与软硬件协同优化
• 设计和实现生成式AI推理运行时的关键模块，确保复杂模型在边缘设备上高效运行
• 优化大型语言模型和多模态模型的推理性能，包括执行效率、内存管理和资源利用
• 与芯片团队协作，优化推理运行时与高通芯片组之间的协同，解决系统级性能和稳定性问题
• 深入理解LLM/LVM推理执行流程，具备系统级设计和实现经验
• 精通C++，熟练使用Python和Java，在系统或AI工程上下文中有扎实实践
• 熟悉Android/Linux开发环境，有嵌入式或异构计算平台经验
• 掌握资源受限环境下的性能、内存和并发优化技术

申请策略

• 投递时附上相关开源贡献或技术博客，展示技术深度和热情
• 关注高通的AI开发者资源，了解其技术栈，面试中展现熟悉度
• 突出LLM/多模态模型推理优化的项目经验，用数据展示性能提升成果
• 强调C++系统编程和性能优化能力，如内存管理、并发优化实例
• 展示嵌入式平台开发经验，尤其是Android/Linux环境下的项目
• 如有Qualcomm或类似NPU开发经历，务必重点描述
• 学习Qualcomm SNPE/QNN等NPU开发工具，熟悉模型量化与部署流程
• 深入理解Transformer架构及其在边缘设备上的优化方法

面试指南

• 使用STAR方法（情境-任务-行动-结果）结构化回答项目经验
• 从系统角度分析性能优化：先定位瓶颈（CPU/内存/IO），再针对性优化
• 对于开放性问题，展示你的思考过程，结合理论和实践
• 如何优化LLM推理在嵌入式设备上的延迟？
• 请解释C++中内存池的设计及其在性能优化中的作用
• 描述一次你解决系统级性能瓶颈的经历
• 你了解哪些模型压缩技术？如何在保持精度下减少模型大小？
• 高通NPU相比GPU在AI推理上有何优势？如何适配？