初速度
AI Infra 高级研发工程师
AI Infra 高级研发工程师
发布于 6 小时前普通员工/个人贡献者
全职员工仅现场办公高性能计算
高性能计算
Cuda
Deepspeed
Megatron-Lm
Nccl
Pytorch
Rdma
Vllm
分布式训练
值不值得投
80综合评分
综合评分 80
自动驾驶核心底层 Infra 岗，技术前沿且薪资顶尖，成长空间巨大，但工作强度与挑战较高。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
6万
比高性能计算中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
18 个在招
职位详情
关于这个职位
负责自动驾驶大模型与世界模型的分布式训练推理框架研发，深度优化计算效率、通信延迟与显存占用
结合模型算法设计高效并行策略，开发高性能算子并探索低精度训练极限，同时优化强化学习训练框架与在线推理性能
最低要求
学历背景：计算机相关专业硕士及以上学历，具备扎实的理论基础和强大的动手能力
编程能力：熟悉 Python/C++/CUDA/CUTLASS/Triton 编程，熟悉 PyTorch 框架及其底层实现
熟悉分布式系统开发与调试，熟悉分布式通信开发 NCCL/RDMA/IB/RoCE，有多进程调度与并行算法优化经验者优先
训练与推理经验：熟悉大模型结构与算法（LLM/VLM/VLA/DiT、MoE 架构、各种 RL 算法等）
熟悉分布式训练/推理的常用策略（DP/TP/PP/EP/CP、recompute、offloading、PD 分离等）
有主流开源分布式训练框架（如 Megatron-LM、DeepSpeed、VeRL）或推理框架（如 SGLang、vLLM）的深度二次开发与优化经验
工作职责
参与设计、研发、维护团队内部的模型分布式训练框架，擅长分析并深度优化训练各个阶段的性能瓶颈，包括计算效率、通信延迟、显存占用等
结合不断迭代的模型算法逻辑，设计并实现针对性的高效分布式并行训练策略
深入研究 CUDA、NCCL、RDMA 等编程范式和通信库，针对团队内部的 GPU 和集群拓扑约束，开发高性能算子并优化分布式通信效率，达到行业 SOTA 水平
深入研究低精度混合精度训练策略，在保证模型精度满足预期的情况下，探索低精度（FP8、FP4）训练的性能极限
配合算法需求，开发 RL 训练框架、迭代 RL 训练算法逻辑，优化在线 Rollout 推理性能，深度优化分布式 On-Policy/异步 RL 训练效率
优先资格
有多进程调度与并行算法优化经验者优先
AI 洞察
优缺点分析
优点
- 处于 AI 大模型与自动驾驶交叉的最核心底层领域，技术壁垒极高，个人成长空间巨大
- 接触行业 SOTA 级别的算力优化与分布式架构，履历含金量极高
- 技术迭代极快，需要持续跟进最新的模型架构与硬件特性
- 适合对底层系统、高性能计算有浓厚兴趣，具备扎实 C++/CUDA 功底，且喜欢钻研极致性能优化的技术极客
缺点 / 挑战
- 底层性能优化工作极具挑战性，对数学、计算机体系结构和编程功底要求极为苛刻
角色解读
- 可向 AI Infra 技术专家、首席架构师方向发展，或转型为大模型系统优化总监，成为自动驾驶或通用 AI 领域底层系统核心骨干
- 研发和维护自动驾驶大模型的分布式训练与推理框架，解决计算、通信和显存瓶颈
- 开发高性能算子，优化底层通信效率，并探索低精度训练与强化学习框架的极致性能
- 精通 C++/CUDA/Python 及 PyTorch 底层，熟悉 NCCL/RDMA 等分布式通信库
- 深入理解大模型架构及分布式并行策略，有主流开源框架二次开发经验
申请策略
- 准备好过往项目中解决过的最复杂的性能瓶颈案例，能够清晰阐述从问题分析到最终优化的完整技术链路
- 突出在 CUDA 算子开发、分布式通信优化方面的具体性能提升数据
- 详细列出参与过的开源框架的 PR 贡献或深度二次开发经验
- 深入学习 CUTLASS/Triton 等现代 GPU 编程范式，了解 FP8/FP4 等低精度训练的前沿论文与实现细节
面试指南
- STAR 法则：情境（模型规模与硬件约束）-> 任务（具体的性能瓶颈指标）-> 行动（底层算子修改/通信拓扑调整/框架魔改）-> 结果（量化的性能提升数据，如吞吐量提升百分比、延迟降低幅度）
- 请详细描述一次你优化分布式训练通信延迟的经历，具体使用了什么技术？
- 在 Megatron-LM 或 DeepSpeed 中，TP 和 PP 的底层实现原理是什么？你在二次开发时遇到过什么坑？
- 如何设计一个高效的 FP8 混合精度训练策略以保证模型精度不下降？
- 针对在线 Rollout 推理，你们是如何优化 PD 分离和显存占用的？
- 复习 CUDA 编程模型、GPU 内存层级结构以及 RDMA/NCCL 的通信原理
- 熟悉当前主流大模型推理框架的核心优化点
职位点评
薪资福利90
成长发展95
工作生活40
使命价值85
薪资福利
90较高
岗位属于当前 AI 领域最核心且稀缺的底层 Infra 研发，对学历和技术深度要求极高，薪资回报处于市场顶尖水平。
薪资信号未披露（AI估算：4千–8万/月）
成长发展
95较高
处于大模型与自动驾驶交叉的最前沿，接触 SOTA 级别的分布式训练与推理技术，技术视野和深度成长空间极大。
技术前沿前沿/新兴技术
技术栈CUDA、NCCL、RDMA、PyTorch、Megatron-LM、DeepSpeed、vLLM、FP8、RL
成长机会达到行业 SOTA 水平、深入研究
业务类型profit_center
工作生活
40较低
JD 未提及工作模式与加班情况，但作为核心底层研发且要求达到行业 SOTA 水平，工作强度与压力通常较大。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
85较高
致力于自动驾驶大模型与世界模型的研发，推动自动驾驶技术的落地，具有较高的社会价值与行业使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
Watch Jobs