智元机器人
高级AI推理优化工程师
高级AI推理优化工程师
发布于 大约 17 小时前普通员工/个人贡献者
上海市
高级经验
全职员工
仅现场办公
硕士
软件工程
Cuda
Flashattention
Gpu优化
Pytorch
Tensorrt
Vllm
混合精度
量化
高性能计算
AI 估算 · 30k–60k
高级AI推理优化岗位技能稀缺，市场需求大，上海地区薪资竞争力强，通常有年终奖。
职位详情
关于这个职位
该职位专注于为具身智能、多模态大模型等前沿AI场景开发和优化GPU/CPU高性能算子，提升模型推理速度与运行效率
你将负责从性能瓶颈排查、算子工程化落地到软硬协同优化，与算法和平台团队联动，推动AI模型在云端和机器人边缘端的高效部署
适合热爱底层技术、享受性能挑战的资深工程师
最低要求
【任职要求】
硕士及以上学历，计算机、高性能计算、电子信息、应用数学等相关专业，3年及以上GPU开发、算子优化、异构计算相关工作经验
熟练掌握C/C++、Python，熟悉计算机底层架构，了解CPU/GPU内存逻辑与并行计算核心原理
精通CUDA开发与性能调优，熟悉各类GPU优化方法，有cuBLAS、cuDNN、CUTLASS、Triton等工具库实际开发经验优先
熟悉PyTorch等主流深度学习框架底层，能够独立开发框架CUDA扩展，了解AI编译优化、TVM等技术者优先
具备良好的代码规范和逻辑思维，能读懂算法逻辑并转化为高效的底层硬件实现，擅长分析和解决复杂性能问题
工作职责
【岗位职责】
高性能算子开发与优化：针对具身智能、多模态大模型、3D重建、物理仿真等业务场景，基于GPU/NPU开发和优化自定义算子，提升AI模型整体推理速度与运行效率
性能瓶颈排查与调优：使用各类性能分析工具，对大模型训练、分布式仿真任务做全链路性能排查，针对性解决算力利用率低、内存/显存占用高、带宽瓶颈等各类性能问题
算子工程化落地：将优化后的算子集成到PyTorch、TensorRT、vLLM等主流AI框架中，配合团队完成异构算力适配、自动化流水线部署与线上服务落地
前沿技术与硬件适配：跟进英伟达GPU、国产NPU等主流硬件架构，落地量化、混合精度、算子融合、显存优化、FlashAttention等主流提速方案，持续迭代模型推理性能
软硬协同全链路优化：联动算法、平台架构团队，打通模型云端训练、仿真评测、机器人端侧部署的全流程，实现模型在云端和机器人边缘设备的高效稳定运行
优先资格
【加分项】
有自动驾驶、大模型/多模态模型底层算子落地优化经验（Attention、量化、RoPE等）优先
熟悉分布式并行训练，有NCCL通信、大模型并行策略调优实战经验优先
有机器人物理仿真引擎（Isaac Sim、MuJoCo等）GPU加速、仿真算子优化经验优先
AI 洞察
优缺点分析
优点
- 位于AI和机器人交叉前沿领域，技术成长空间大，积累稀缺的GPU优化经验
- 公司处于B轮快速发展期，项目落地机会多，个人影响力容易凸显
- 薪资水平在市场中具有竞争力，且技能稀缺性带来长期职业保障
- 技术门槛高，需要持续学习最新硬件架构和优化方法，学习曲线陡峭
- 性能调优工作可能涉及高强度排错和反复迭代，工作节奏紧凑
- 对跨团队协作能力要求高，需要与算法、平台、硬件等多方高效沟通
- 适合热爱底层技术、享受性能极致优化的工程师，尤其是对CUDA、深度学习框架底层有浓厚兴趣，并希望在AI基础设施方向深耕的人
缺点 / 挑战
暂无明显挑战项
角色解读
- 技术深度方向：成为GPU/异构计算专家，主导核心算子库设计与优化
- 架构方向：参与AI推理系统架构设计，负责分布式训练与推理的软硬协同
- 跨领域发展：结合具身智能、机器人仿真等业务，转型为AI系统架构师或技术负责人
- 开发并优化GPU/NPU自定义算子，提升具身智能、多模态大模型等场景下的推理速度
- 使用性能分析工具排查AI训练和推理的全链路瓶颈，解决算力利用率、显存占用等问题
- 将优化后的算子集成到PyTorch、TensorRT、vLLM等框架，配合团队完成部署落地
- 跟踪最新硬件架构，实现量化、混合精度、算子融合等提速方案，并联动算法团队进行全链路优化
- 精通CUDA开发和性能调优，熟悉cuBLAS、cuDNN、CUTLASS、Triton等工具库
- 熟练掌握C/C++和Python，理解计算机底层架构和并行计算原理
- 熟悉PyTorch框架底层，能独立开发CUDA扩展，了解AI编译优化技术如TVM
- 具备良好的代码规范、逻辑思维和复杂性能问题分析解决能力
申请策略
- 在简历和面试中突出对具身智能、多模态大模型场景的理解，展示业务敏感度
- 提前了解智元机器人的技术栈和产品方向，思考自己如何为团队贡献价值
- 突出CUDA算子开发或性能调优的实战项目，详细描述优化效果（如推理速度提升百分比）
- 强调对PyTorch、TensorRT等框架底层的理解，以及独立开发CUDA扩展的经历
- 展示在分布式训练、NCCL通信或硬件适配方面的经验，尤其是与国产NPU相关
- 如果有机器人仿真或自动驾驶相关优化经验，务必重点呈现
- 系统学习CUDA编程模型和性能分析工具（如Nsight Systems、ncu）
- 熟悉Triton、TVM等AI编译优化框架，了解算子融合、图优化等概念
面试指南
- STAR法则：描述项目背景、任务、行动和结果，重点突出性能量化指标
- 分层回答：从算法层面（如算子融合、量化）到系统层面（如显存管理、计算流）逐步展开
- 对比分析：比较不同优化方案的优劣，体现技术深度和决策能力
- 请详细描述你做过的一个CUDA算子优化项目，包括遇到的问题和解决方案
- 如何优化一个Transformer模型在GPU上的推理性能？请从算子融合、显存优化等角度回答
- 你对FlashAttention的实现原理了解多少？如何在工程中落地？
- 如何处理大模型训练中的显存不足问题？请列举并行策略和显存优化技术
- 请解释CUDA kernel launch的参数设置对性能的影响，以及如何调优
职位点评
68
综合评分
前沿AI推理优化岗，技术成长空间大，薪资竞争力强，但工作强度高，无灵活办公。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
最适合追求技术深度和职业成长，能接受高强度工作节奏的工程师。
表现最好
成长发展
相对薄弱
工作生活
薪资福利70
成长发展85
工作生活40
使命价值70
薪资福利
70中等
薪资未明确披露，但根据市场行情和岗位稀缺性，预计处于较高水平，福利项JD未提及。
薪资信号未披露（AI估算：30K-60K/月）
成长发展
85较高
该职位涉及具身智能、多模态大模型等前沿技术，使用CUDA、PyTorch、TensorRT等主流工具，技术成长空间巨大，但JD未明确提及晋升通道或培训。
技术前沿前沿/新兴技术
技术栈CUDA、PyTorch、TensorRT、vLLM、FlashAttention、量化、混合精度
业务类型profit_center
工作生活
40较低
仅现场办公，没有灵活工作安排，工作强度可能较高，JD未提及WLB相关描述。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
行业处于高速增长期（AI+机器人），但社会影响力偏中性，JD未强调使命或社会价值。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
智元机器人 的其他在招职位
相似职位推荐
Watch Jobs