Machine Learning Engineer

优缺点分析

角色解读

• 技术纵深发展：成为AI推理引擎专家，主导核心模块架构设计
• 横向扩展：转向AI芯片驱动、系统架构或平台级优化
• 管理路径：未来可晋升为技术负责人或团队主管，带领推理引擎团队
• 设计和实现生成式AI推理运行时（Genie）的核心模块，确保在边缘设备上高效运行复杂模型
• 优化大语言模型和多模态模型的推理性能，包括内存管理、执行效率和资源利用
• 与芯片组团队协作，提升推理运行时与硬件的协同性能，解决系统级问题
• 深入理解LLM/LVM推理执行流程，有系统级设计与实现经验
• 精通C++，并熟练使用Python或Java进行系统或AI工程开发
• 熟悉Android/Linux开发环境，有嵌入式或异构计算平台经验
• 掌握资源受限环境下的性能、内存和并发优化技术

申请策略

• 了解Qualcomm的AI平台（如SNPE、QNN）及其在手机、IoT上的应用，面试中展现对业务的理解
• 强调跨团队协作和解决问题的能力，因为岗位需要与芯片组等部门合作
• 突出AI推理引擎或相关运行时（如TensorRT、ONNX Runtime）的优化经验，详细说明性能提升数据
• 展示C++系统级开发项目，特别是内存管理和并发优化方面
• 如果有NPU或硬件加速经验（如Qualcomm Hexagon、ARM ML），务必强调
• 深入学习LLM推理优化技术（如KV cache、量化、剪枝）
• 熟悉Android NDK和Linux系统编程，掌握perf、ftrace等调优工具

面试指南

• 技术问题：先明确约束条件（资源限制、实时性要求），再给出具体方案（如缓存策略、内存池），最后用实际数据支撑
• 系统设计：从架构分层、模块接口、并发控制等方面展开，强调可扩展性和稳定性
• 行为问题：使用STAR法则（情境、任务、行动、结果），突出跨团队协作和问题解决
• 请描述你如何优化一个LLM推理过程的内存使用？
• 解释C++中虚函数和多态的实现原理，以及如何在嵌入式环境中减少开销？
• 你如何设计一个线程安全的模型推理队列？
• 谈谈你在Android/Linux环境下进行性能分析的经验
• 复习C++的底层特性（内存管理、RAII、移动语义）和常见优化技巧