智元机器人
AI Infra 工程师
AI Infra 工程师
发布于 40 分钟前普通员工/个人贡献者
上海市
高级经验
全职员工
仅现场办公
学历未注明
信息技术与基础设施
Cuda
Deepspeed
Megatron-Lm
Mlir
Pytorch
Tensorrt
Vllm
分布式训练
推理优化
AI 估算 · 35k–60k
AI Infra工程师要求高，千卡级经验稀缺，上海B轮中大型企业薪资竞争力强，月薪35-60K合理。
职位详情
关于这个职位
作为AI Infra工程师，你将负责构建和维护大规模分布式训练系统，优化千卡级GPU集群上的训练效率，并开发面向具身机器人的轻量化推理引擎
工作涉及分布式训练框架、并行策略、性能优化以及模型量化与部署，是推动具身智能落地的关键技术岗位
最低要求
训练方向：
千卡级训练实战经验：有千卡级 GPU 集群上的大模型训练实战经验，熟悉大规模训练中的常见问题与解决方案
分布式训练框架：精通 PyTorch 分布式训练机制（DDP/FSDP），熟悉 DeepSpeed、Megatron-LM 等大规模训练框架的原理与使用
并行策略：深入理解多维并行（Data Parallel / Tensor Parallel / Pipeline Parallel）的实现原理与适用场景，能够根据模型特点设计最优并行策略
性能分析与调优：熟练使用 PyTorch Profiler、NVIDIA Nsight 等工具进行性能分析，能够定位并解决计算、通信、I/O 瓶颈
推理方向：
熟练掌握C/C++/Python/Go至少一种编程语言，具备CUDA/OpenCL/CANN优化经验
深入理解至少一种推理引擎架构(如tensorrt/vllm/sglang/ktransformer/llama-cpp)推理框架架构
熟悉模型量化原理(KL 散度、MinMax、LSQ、AWQ、GPTQ等)及相关工具链
熟悉常见典型算子实现与优化(卷积、矩阵乘、激活、LayerNorm、Softmax、flashattention等)
具备AI处理器profiling能力(perf、简单性能计数器、硬件事件、功耗测量)与AI计算负载量化分析能力
工作职责
训练方向：
大规模分布式训练系统：在千卡级 GPU 集群上构建稳定、高效的分布式训练系统，支持 VLA 等具身大模型的预训练与微调
训练效率优化：优化大规模训练中的计算效率、通信效率与 I/O 效率，消除训练瓶颈，提升集群整体利用率
训练数据加载流水线：构建从存储到 GPU 显存的高吞吐数据流水线，实现高效的数据预取、采样与加载，消除训练过程中的 I/O Stall
训练稳定性保障：解决大规模训练中的故障恢复、Checkpoint 管理、梯度异常等问题，确保长时间训练任务的稳定运行
推理方向：
设计面向具身机器人本体亲和的轻量化、高性能推理框架，支持CNN、Transformer、Mamba、GNN等主流网络结构
面向GPU/NPU的具身多模态算子开发与性能优化，实现内存复用、算子融合、数据排布优化、多流并行等通用加速策略
开发模型解析、转换、性能剖析、可视化profiling工具
对模型推理过程进行时间、功耗、内存占用分析，定位瓶颈并设计软硬协同优化策略
实现支持 PTQ/QAT 的量化工具链(INT8/INT4/FP8/MXFP8等浮点混合精度)
探索结构化剪枝、算子重参数化、神经架构搜索与推理引擎的联合优化
前沿探索：
跟进VLA、世界模型、空间智能等最新算法架构趋势，及时洞察捕捉低精度量化、AI KernelGen、投机推理等在具身本体上的模型高效推理适配技术
优先资格
加分项：
参与过开源推理引擎贡献(MNN、Tengine、OpenCV、TVM、vLLM、SGLang等)
熟悉MLIR、IREE、Triton、TileLang等编译栈或Dialect开发
AI 洞察
优缺点分析
优点
- 身处具身智能风口赛道，技术前沿性强，可深度参与VLA、世界模型等最新研究
- 公司处于B轮融资阶段，技术团队扩张期，有较大技术影响力和成长空间
- 工作内容覆盖训练与推理，技术栈全面，能积累大规模分布式系统和低延迟推理的宝贵经验
- 工作强度较大，需解决千卡级训练稳定性问题，可能需要on-call
- 技术门槛高，要求同时精通分布式训练与推理优化，学习曲线陡峭
- 公司尚处成长期，基础设施和流程可能不如大厂成熟，需要一定自驱力
- 适合技术自驱力强、热爱底层系统优化、对具身智能有浓厚兴趣的资深AI工程师，尤其适合有分布式训练或推理引擎开发背景的候选人
缺点 / 挑战
暂无明显挑战项
角色解读
- 从分布式训练或推理优化专家，成长为AI Infra团队技术负责人或架构师
- 转向具身智能全栈方向，覆盖训练-推理-部署全链路，成为稀缺的全栈AI工程专家
- 在创业公司快速成长，有机会伴随公司上市或并购，获得丰厚回报
- 负责在千卡级GPU集群上搭建分布式训练系统，优化训练效率与稳定性，支持VLA等具身大模型训练
- 开发轻量化、高性能的推理引擎，面向具身机器人部署，包括算子优化、模型量化与编译技术
- 跟踪前沿算法趋势，探索低精度量化、投机推理等新技术在机器人本体上的高效推理方案
- 精通PyTorch分布式训练（DDP/FSDP）及DeepSpeed/Megatron-LM等框架，熟悉多维并行策略
- 掌握CUDA/OpenCL编程，有TensorRT/vLLM等推理引擎开发经验，熟悉模型量化与算子优化
- 具备性能剖析能力（Nsight、perf等），能定位并解决计算、通信、I/O瓶颈
申请策略
- 了解智元机器人的产品方向（如具身机器人），在面试中展示对业务的理解
- 准备一个从训练到推理的全链路优化案例，体现系统思维能力
- 突出大规模分布式训练实战经验，如千卡级集群上的训练任务、性能优化成果
- 展示推理引擎开发或优化项目，包括算子优化、量化、部署落地等具体案例
- 强调对开源社区的贡献（如vLLM、DeepSpeed等），体现技术影响力
- 如果缺乏推理经验，可自学TensorRT或vLLM，动手实现一个简单的算子优化
- 补充MLIR/Triton等编译栈知识，为面试加分项做准备
面试指南
- 答分布式问题时：问题现象→排查工具（Profiler/日志）→根因分析（计算/通信/I/O）→解决方案（策略调整/代码优化/资源调度）→效果验证
- 答量化问题时：量化目标→算法选型（MinMax/KL散度/PTQ-QAT）→校准过程→精度与性能权衡→工程实现（量化工具链）
- 请描述你在千卡级分布式训练中遇到的一个稳定性问题，如何定位和解决？
- 如何为Transformer模型选择最优的并行策略？比较Data Parallel、Tensor Parallel、Pipeline Parallel的优缺点
- 请说明模型量化的原理，INT8量化有哪些常见方法？如何在推理引擎中实现？
- 如何优化一个卷积算子在GPU上的性能？请从内存布局、算子融合、并行计算等角度分析
- 你如何看待具身智能的未来？VLA模型在部署上面临哪些挑战？
- 复习分布式训练核心概念（Ring All-Reduce、FSDP sharding策略等），准备实际调优案例
职位点评
74
综合评分
具身智能赛道、前沿技术栈、高成长性，但工作强度和加班可能偏高。
更适合这类人
最適合追求技术成长、对具身智能有热情、能接受高强度工作的工程师。
表现最好
成长发展
相对薄弱
工作生活
薪资福利70
成长发展90
工作生活50
使命价值85
薪资福利
70中等
薪资较高但未明确具体数字，B轮公司股权有潜力，但稳定性不如大厂。
薪资信号未披露（AI估算：35K-60K/月）
成长发展
90较高
技术栈前沿，涉及千卡训练、推理优化、具身智能，成长空间极大。
技术前沿前沿/新兴技术
技术栈VLA、世界模型、空间智能、GPTQ、AWQ、MLIR、Triton
业务类型profit_center
工作生活
50较低
上海现场办公，未提及弹性工作或WLB，AI Infra高强度工作可能常态化。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
85较高
具身智能是前沿领域，推动机器人智能化有社会价值，公司专注机器人，使命感强。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
Watch Jobs