阿里巴巴
移动端AI推理引擎优化工程师
移动端AI推理引擎优化工程师
发布于 1 天前普通员工/个人贡献者
全职员工仅现场办公移动端开发
移动端开发
Arm架构
Llm
Mnn
Ncnn
Pytorch
Tnn
并行计算
模型量化
算子优化
值不值得投
78综合评分
综合评分 78
技术深度高、前沿AI系统优化岗位，成长性强，工作节奏可能较快。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
35K
比移动端开发中位数高
发布情况
新岗位 · 昨天发布
公司情况
这家公司招聘很活跃
约 2250 个在招 · 其中移动端开发 7 个
市场机会
选择适中
杭州 · 移动端开发 · 13 个在招
职位详情
关于这个职位
该职位负责优化移动端AI模型的推理性能，涉及针对ARM CPU、GPU、NPU等异构硬件的算子深度优化
工作内容包括深度学习模型的低精度量化研究、大语言模型在端侧的部署加速（如KV Cache管理、显存优化），以及提升模型转换、性能分析等工具的效率，旨在实现高效、低功耗的端侧AI推理
最低要求
本科及以上学历，计算机、电子工程、数学、人工智能等相关专业
精通 C/C++，熟悉现代C++标准（C++17/20），具备良好的代码风格和内存管理能力
熟悉Python脚本编写
深入理解计算机体系结构，熟悉ARM架构特性（NEON指令集、缓存机制、内存对齐等），有汇编优化经验者优先
熟悉主流深度学习框架（PyTorch, TensorFlow, ONNX），理解常见神经网络结构及算子原理
了解多线程编程（pthread, std::thread）及并行计算技术（OpenCL, Vulkan, CUDA）
工作职责
参与公司自研或开源（如MNN, TNN, NCNN, TVM, MLIR等）移动端推理引擎的开发，针对ARM CPU、GPU (Adreno/Mali)、NPU (Hexagon/Neural Engine) 进行算子性能优化
负责深度学习模型的量化策略研究（PTQ/QAT），实现INT8/INT4甚至更低精度的推理加速，同时保证模型精度损失最小化
参与LLM（大语言模型）或多模态模型在移动端的部署优化，包括KV Cache管理、显存优化、流式生成加速及低功耗推理策略
研究和实现基于不同硬件后端的自动调度策略，提升模型在复杂场景下的推理效率和能效比
参与模型转换工具、性能分析Profiler、调试工具的开发，提升算法工程师的端侧部署效率
优先资格
有实际的移动端AI部署经验，或在GitHub上有相关开源项目贡献（如MNN, TNN, ncnn, llama.cpp等）
熟悉模型量化原理，有处理过量化敏感模型或自定义量化算子的经验
熟悉Transformer架构，有在移动端部署Llama, Qwen, ChatGLM等大模型的经验，了解Speculative Decoding等技术
熟悉MLIR、TVM、XLA等编译器基础设施，有算子融合（Operator Fusion）或自动代码生成经验
在ACM/ICPC、Kaggle或各类AI系统优化竞赛中获得过优异成绩
AI 洞察
优缺点分析
优点
- 技术深度与前沿性：工作内容直接接触AI模型部署的最底层优化，技术含量高，能锻炼系统级编程和硬件感知优化能力
- 行业影响力：参与的自研或开源引擎可能被广泛使用，技术成果直接影响产品性能和用户体验
- 大平台资源：依托头部科技公司，能够接触到大规模的数据、丰富的硬件平台和顶尖的同事，成长空间大
- 知识更新快：移动端硬件迭代快，AI模型架构不断演进，需要持续学习新技术以保持竞争力
缺点 / 挑战
- 技术挑战大：需要同时理解算法、软件和硬件，跨领域知识要求高，性能优化工作复杂且可能需要反复调试
- 可能存在性能压力：针对特定硬件或场景的优化可能需要在有限的资源下追求极致效果，对细节要求苛刻
- 适合对计算机底层系统有浓厚兴趣，具备扎实的C++和体系结构知识，乐于挑战性能极限，且希望将AI技术转化为实际产品能力的工程师
角色解读
- 技术专家路径：深耕移动端AI推理优化领域，成为该领域的技术权威，参与制定技术方案和标准
- 技术管理路径：在积累深厚技术经验后，可转向技术团队管理，负责整个端侧AI优化方向
- 架构师路径：向更上层的AI系统架构设计发展，或转向AI编译器、AI芯片软硬件协同等更前沿领域
- 深度参与移动端AI推理引擎的底层开发与性能优化，确保模型在手机等设备上高效、低功耗运行
- 研究并实现模型量化、大模型端侧部署等核心技术，解决内存、算力瓶颈，推动前沿AI应用落地
- 开发和维护模型转换、性能分析等工具链，提升整个AI团队在移动端的工作效率
- 需要具备扎实的C++编程能力，并深入理解计算机体系结构和ARM硬件特性，以进行底层性能调优
- 需要熟悉深度学习框架和模型原理，并掌握模型量化、异构计算（OpenCL/Vulkan）等专业技能
- 需要具备一定的系统工程能力和算法理解力，能够处理模型部署中遇到的内存、调度等复杂问题
申请策略
- 在面试中，准备好深入讨论你过去处理过的性能瓶颈案例，展示你的分析思路和解决问题的能力
- 可以提前了解阿里巴巴在移动端AI（如MNN引擎、手机淘宝/支付宝AI功能）方面的技术博客和开源动态
- 重点突出C++/底层系统开发经验，以及在性能优化、内存管理、多线程等方面的具体项目成果
- 详细描述与移动端AI部署、模型量化、异构计算（如OpenCL/Vulkan）或参与相关开源项目（如MNN/llama.cpp）的经验
- 如有在AI系统竞赛、ACM竞赛中的优异成绩，或相关的技术博客、开源贡献，应作为亮点展示
- 深入学习ARM架构及GPU/NPU编程接口，可以尝试在开源推理引擎上进行贡献或复现论文中的优化技术
- 系统学习模型量化（PTQ/QAT）和大模型推理优化（如KV Cache、Flash Attention）的原理与实践
面试指南
- 采用STAR法则（情境、任务、行动、结果）来结构化回答项目经验问题，突出你的技术决策和量化成果
- 对于技术原理问题，结合你的知识和项目经验进行回答，展现对硬件特性、软件实现和算法原理的综合理解
- 如果遇到不了解的细节，可以诚实地说明你的思考方向或学习路径，展现学习能力和解决问题的思路
- 请描述一个你过去优化过的移动端性能瓶颈，你是如何分析和解决的？
- 对于在ARM CPU上进行深度学习算子优化，你会考虑哪些关键因素？
- 谈谈你对模型量化（如INT8）的理解，以及在实际部署中可能遇到的精度和性能平衡问题
- 如果让你在移动端部署一个大语言模型，你会考虑哪些关键挑战和优化方向？
- 你如何看待MNN/TNN等开源推理引擎的设计？你有贡献过代码吗？
职位点评
薪资福利80
成长发展85
工作生活65
使命价值75
薪资福利
80较高
作为顶级科技公司的核心岗位，薪酬福利体系通常具有市场竞争力，能够提供有吸引力的经济回报和稳定性。
薪资信号面议 (25K-45K/月)
成长发展
85较高
岗位涉及AI推理引擎、模型量化、大模型部署等前沿技术领域，技术深度和挑战性高，有利于个人在系统优化和AI工程领域的深度积累与成长。
技术前沿前沿/新兴技术
技术栈C++、ARM架构、PyTorch、模型量化、LLM、MNN、NCNN、TVM
业务类型ambiguous
工作生活
65中等
JD未明确提及工作模式和工作强度信息。通常此类核心优化岗位对交付和性能有较高要求，工作节奏可能较快。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
75中等
岗位工作直接提升移动端AI应用的性能与体验，推动AI技术在终端的普及，具有积极的社会价值。所处赛道技术迭代快，发展前景好。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs