具身模型性能优化工程师实习生

优缺点分析

角色解读

• 从实习转正为正式员工，进入安克创新核心研发团队，专注端侧AI部署与优化
• 向高级性能优化工程师发展，成为大模型端侧部署专家，主导关键技术方案
• 未来可转向AI系统架构师或技术管理者，负责更广泛的AI软硬件协同项目
• 负责在智能硬件上部署大模型，包括开发推理框架、优化算子，并适配不同硬件平台
• 调研前沿的端侧大模型优化技术（如量化、推测解码、连续批处理）并将其实践落地
• 参与模型、系统和硬件的协同设计，提升整体推理效率
• 扎实的编程基础：熟练掌握C/C++、Python，有良好的编码习惯
• 深入理解大模型架构：熟悉LLM/VLM的原理和常用优化技术
• 熟练使用推理引擎：至少掌握llama.cpp、vLLM、TensorRT等框架之一
• 并行计算与异构开发：熟悉CUDA/OpenCL和Qualcomm NPU开发，了解异构系统

申请策略

• 在申请信中明确表达对端侧AI部署的热情，并提及自己对安克创新智能硬件产品的了解
• 关注安克创新官网或技术博客，了解其技术栈和近期成果，在面试中展现主动学习的态度
• 突出大模型相关项目经验，尤其是涉及模型部署、推理加速或算子优化的实战经历
• 列举熟悉的推理引擎和并行编程工具（如TensorRT、CUDA），并注明熟练程度
• 如有系统顶会论文（OSDI、NSDI、MLSys）或其他学术成果，务必提及
• 强调编程竞赛、开源贡献或相关实习经历，展示技术实力和团队协作能力
• 如果对某些推理引擎不熟，建议提前学习llama.cpp或vLLM的源码和使用方法
• 复习量化、推测解码等LLM优化技术的原理，并尝试在本地复现相关实验

面试指南

• 对于技术原理类问题，先给出定义，再举例说明应用场景，最后对比其他方案
• 对于优化类问题，按照“问题分析→方案设计→实现细节→效果评估”的结构回答，突出量化结果
• 对于项目经验类问题，采用STAR法则（情境、任务、行动、结果），强调你的技术贡献和学习收获
• 请解释Continuous-Batching和Speculative-Decoding的原理及适用场景
• 如何优化一个LLM在端侧设备上的推理延迟？请从模型、系统、硬件三个层面说明
• 比较vLLM和TensorRT在推理优化上的主要区别和各自优势
• 描述一个你参与过的性能优化项目，你遇到了哪些挑战？如何解决的？
• 谈谈你对异构计算的理解，以及Qualcomm NPU开发中需要注意的关键点