蚂蚁集团-端侧异构计算工程师-具身智能方向

优缺点分析

角色解读

• 技术深耕方向：成为端侧AI计算优化领域的专家，主导核心推理引擎的设计与演进
• 管理方向：带团队负责整个端侧计算平台，从工程师晋升为技术负责人
• 横向拓展：向机器人操作系统架构师或AI基础设施架构师方向发展
• 负责将AI算法模型（如大模型、视觉模型）部署到嵌入式硬件平台，开发统一的端侧异构推理引擎
• 利用GPU/NPU/DSP等多核异构芯片的加速能力，进行图像处理、视频编解码、模型推理等全链路性能优化
• 使用Profiling工具进行系统级性能分析，定位瓶颈并实施软硬协同调优
• 结合大模型趋势和业务需求，为下一代机器人操作系统提供架构改进方案
• 扎实的C++和Python编程能力，精通数据结构和算法，具备规范的工程化能力
• 熟悉至少一种推理框架（如TensorRT、ONNXRuntime、vLLM等），并理解其底层实现
• 熟悉GPU/NPU/DSP等硬件架构，掌握性能建模与分析方法，有实际异构计算优化经验
• 具备深度学习和计算机视觉基本知识，熟悉常用图像处理算法及硬件加速技巧

申请策略

• 了解蚂蚁集团在具身智能和机器人方向的最新布局，在面试中展现对该领域的热情和见解
• 准备1-2个深入的项目故事，详细描述问题背景、分析过程、优化方案和量化结果
• 突出异构计算项目经历，如使用TensorRT/ONNXRuntime做模型加速的具体成果（延迟、吞吐提升）
• 强调C++/Python编程功底和系统级调优能力，展示在Profiling和性能瓶颈定位方面的实战案例
• 如果有大模型推理优化（如FlashAttention、vLLM）经验，务必重点体现
• 展示对硬件架构（GPU/NPU/DSP）的理解，以及跨团队协作推动项目的经验
• 补充NVIDIA编译优化技术栈（如CUDA、cutlass、cute）的知识，加深对底层原理的理解
• 学习主流大模型推理引擎的源码，掌握并行计算、内存管理、低比特计算等优化技术

面试指南

• 回答技术问题时，建议采用STAR结构（情境-任务-行动-结果），突出量化指标
• 对于系统设计题，先明确约束（算力、内存、功耗），再分模块讨论方案
• 展示思考过程比给出最终答案更重要，要体现分析问题的逻辑性
• 请讲讲你过去做过的端侧模型优化项目，遇到了哪些瓶颈，如何定位和解决的？
• 如何选择GPU/NPU/DSP不同的加速核来分配任务？请举例说明你的调度策略
• 你如何理解FlashAttention？它在端侧部署时有什么挑战？
• 在资源受限的嵌入式平台上，如何平衡模型精度和推理速度？
• 介绍一下你对下一代机器人OS架构的看法，端侧计算应如何设计？