智元机器人
优才-模型推理AI Infra开发工程师-中央研发部
优才-模型推理AI Infra开发工程师-中央研发部
发布于 3 天前普通员工/个人贡献者
上海市 / 北京市
高级经验
全职员工
仅现场办公
学历未注明
研究与开发 (研发)
Cuda
Tensorrt
Vllm
具身智能
推理优化
模型量化
Ai编译器
Mlir
AI 估算 · 35k–55k
具身智能赛道火热，AI Infra岗位稀缺，薪资竞争力强，结合B轮融资和一线城市，月薪约35-55K。
职位详情
关于这个职位
作为模型推理AI Infra开发工程师，你将设计面向具身机器人的轻量化高性能推理框架，优化GPU/NPU算子，实现模型量化与软硬协同加速
该岗位技术深度高，直接决定机器人智能水平，适合对AI底层优化有热情的你
最低要求
熟练掌握C/C++/Python/Go至少一种编程语言，具备CUDA/OpenCL/CANN优化经验
深入理解至少一种推理引擎架构(如tensorrt/vllm/sglang/ktransformer/llama-cpp)推理框架架构
熟悉模型量化原理(KL 散度、MinMax、LSQ、AWQ、GPTQ等)及相关工具链
熟悉常见典型算子实现与优化(卷积、矩阵乘、激活、LayerNorm、Softmax、flashattention等)
熟悉MLIR、IREE、Triton、TileLang等至少一中AI编译框架
工作职责
设计面向具身机器人本体亲和的轻量化、高性能推理框架，支持CNN、Transformer、Mamba、GNN等主流网络结构
面向GPU/NPU的具身多模态算子开发与性能优化，实现内存复用、算子融合、数据排布优化、多流并行等通用加速策略;
对模型推理过程进行时间、功耗、内存占用分析，定位瓶颈并设计软硬协同优化策略
实现支持 PTQ/QAT 的量化工具链(INT8/INT4/FP8/MXFP8等浮点混合精度)
跟进VLA、世界模型、空间智能等最新算法架构趋势，及时洞察捕捉低精度量化、AI KernelGen、投机推理等在具身本体上的模型高效推理适配技术
AI 洞察
优缺点分析
优点
- 深度参与具身智能核心技术栈，积累稀缺的推理优化经验
- 公司处于B轮快速发展期，技术影响力大，成长空间广阔
- 与顶尖算法和工程团队合作，技术氛围浓厚
- 技术栈涉及广泛，需要持续学习最新推理技术和硬件架构
- 具身智能赛道尚在早期，技术方向迭代快，需保持敏锐
- 适合对AI底层优化有强烈兴趣，享受从算子到框架的全链路性能调优，并乐意在高速发展的机器人领域深耕的技术极客
缺点 / 挑战
- 工作强度可能较高，需要应对复杂的性能优化问题
角色解读
- 成为AI Infra领域的资深专家，主导推理框架设计
- 向技术Leader发展，带领团队攻关性能瓶颈
- 转型AI芯片架构师，参与软硬协同设计
- 设计面向具身机器人的轻量化推理框架，支持多种网络结构
- 针对GPU/NPU进行算子级性能优化，实现内存复用、算子融合等加速策略
- 构建模型量化工具链，支持INT8/INT4等混合精度推理
- 跟踪VLA、世界模型等前沿算法，探索高效推理技术
- 精通C++/CUDA，具备底层性能优化经验
- 熟悉至少一种推理引擎（如TensorRT、vllm）的架构
- 掌握模型量化原理及常用工具（如AWQ、GPTQ）
- 了解AI编译框架（MLIR、Triton等）
申请策略
- 面试前了解具身智能行业动态，结合公司产品（如智元机器人）准备技术方案
- 展示对技术细节的追求，准备深挖算子优化的案例
- 突出过往推理或高性能计算项目，量化性能提升（如延迟、吞吐）
- 展示CUDA或量化相关经验，注明使用的工具链和框架
- 如有编译器或硬件优化经历，重点描述
- 深入学习TensorRT和vllm源码，理解其架构设计
- 动手实践模型量化，熟悉AWQ、GPTQ等算法
- 了解MLIR或Triton，尝试编写简单的算子编译流程
面试指南
- 使用STAR法则：情境-任务-行动-结果，突出技术细节和量化指标
- 对于原理类问题，先阐述基础概念，再结合实际场景讨论优缺点
- 对于开放问题，展现逻辑思维：现状-问题-创新思路-可能收益
- 请介绍你做过的最复杂的推理优化项目，包括遇到的挑战和解决方案
- 解释模型量化中KL散度和MinMax的区别，以及适用场景
- 如何优化一个自定义算子（如FlashAttention）？谈谈从算法到CUDA实现的考虑
- 你对具身智能中VLA模型推理效率的看法？目前瓶颈在哪？
- 描述MLIR的Dialect机制，如何用它构建推理优化pass？
职位点评
68
综合评分
前沿AI Infra岗位，深度技术栈，高成长潜力，但现场办公且可能高负荷。
更适合这类人
追求技术深度和前沿探索的求职者，不在意高强度工作，志在AI底层优化领域成为专家。
表现最好
成长发展
相对薄弱
工作生活
薪资福利60
成长发展90
工作生活40
使命价值80
薪资福利
60中等
薪资未在JD中明确，但AI Infra岗位市场薪酬较高，且公司处于B轮融资，有望提供有竞争力的薪资和期权。
薪资信号未披露（AI估算：35K-55K/月）
成长发展
90较高
岗位涉及最前沿的AI推理技术，包括具身智能、模型量化、编译器，成长空间巨大，且能深入参与核心技术研发。
技术前沿前沿/新兴技术
技术栈推理框架、量化、CUDA、编译器、具身智能
业务类型ambiguous
工作生活
40较低
职位要求现场办公（上海或北京），未提及弹性工作或远程选项，可能面临较高工作强度。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
具身智能是未来科技制高点，推动机器人智能化发展，社会价值高；公司在该领域处于领先地位，技术创新性强。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
Watch Jobs