DiDi logo
滴滴出行
Ai Infra开发工程师

Ai Infra开发工程师

发布于 2 小时前

普通员工/个人贡献者

AI 估算 · 3.5–6.5万 · AI 参考估算
中级经验
学历未注明
全职员工仅现场办公机器学习工程
机器学习工程
Cuda/Triton
Gpu Kernel
Megatron-Lm
Pytorch
Sglang
Tensorflow
Vllm
分布式训练

值不值得投

74综合评分

综合评分 74

前沿AI基础设施岗位,技术成长强、业务落地深,办公与生活平衡信息未披露

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

5.0万

比机器学习工程中位数高

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 2400 个在招 · 其中机器学习工程 26 个

市场机会

选择面较广

北京 · 机器学习工程 · 约 550 个在招

职位详情

关于这个职位

该岗位面向滴滴搜索、广告、推荐业务,负责机器学习训练与推理基础设施建设,重点优化 CTR、LLM 等模型的训练吞吐、推理性能与资源成本

你需要深入框架、算子、GPU Kernel、分布式训练与在线推理链路,与算法和系统团队协作落地高性能机器学习平台

最低要求

具备扎实的计算机基础,熟悉数据结构与算法、操作系统、计算机网络及并发编程

熟练掌握 C++、Python 等编程语言,具备良好的工程实现和问题排查能力
理解深度学习训练与推理的基本原理,深入掌握至少一种主流训练或推理框架,如 PyTorch、TensorFlow、Megatron-LM、vLLM、SGLang 等,能够深入源码分析执行流程和性能问题
熟悉性能分析与调优方法,能够使用 Profiling 工具定位系统瓶颈,设计优化方案,并通过可复现的实验验证性能收益、数值正确性与模型效果
在以下至少一个方向具备实际研发经验:分布式训练,熟悉数据并行、模型并行、参数服务器或参数分片机制,理解集合通信及计算通信重叠
在线推理,熟悉模型服务、RPC、批处理、并发调度与性能优化,具备吞吐、延迟和资源成本的权衡能力
GPU 高性能计算、理解 GPU 执行模型与存储层次,具备 CUDA、Triton 等算子开发或优化经验
具备较强的自驱力、责任心和协作能力,能够与算法及业务团队共同定义问题,推动技术方案落地并持续迭代

工作职责

负责面向搜索、广告、推荐业务的机器学习训练与推理基础设施研发,支持 CTR、LLM 等模型的高效训练与部署,在保障模型效果和系统稳定性的前提下,提升训练吞吐、推理性能与资源利用效率,降低算力成本

深入模型训练与推理全链路,通过性能分析定位计算、访存、通信、数据供给和调度等瓶颈,从模型结构、执行框架、计算图、算子与运行时等层面开展优化
根据业务需求与个人技术方向,参与以下一个或多个方向的研发:训练优化,大规模稀疏 Embedding、分布式并行策略、显存管理、混合精度训练、计算与通信重叠等
推理优化,高并发低延迟服务、动态批处理、模型量化、KV Cache 管理及推理调度等
框架与算子优化,框架执行机制、图优化、算子融合及高性能 GPU Kernel 开发
跟踪并评估业界先进技术,结合真实业务负载完成方案验证、工程实现与上线落地,建设可复用的优化能力和性能评测体系
与算法、系统及平台协作,推进模型、框架与硬件的Co-design,参与新一代大规模机器学习平台的架构设计与演进

AI 洞察

优缺点分析

优点

  • 岗位处在 AI 基础设施与大模型工程化的核心方向,技术栈覆盖训练、推理、框架、算子和 GPU 优化,能力积累深
  • 业务场景来自搜索、广告、推荐等真实大规模负载,优化成果容易转化为可衡量的性能与成本收益
  • 与算法、系统、平台团队协作,有机会参与新一代机器学习平台架构演进
  • 技术链路长且复杂,既要理解模型训练和推理,也要掌握底层系统、框架源码和硬件性能特征
  • 优化工作需要大量实验验证和性能归因,对问题分析能力、工程严谨性和耐心要求高
  • 适合计算机基础扎实、喜欢底层系统与性能优化、希望长期深耕 AI Infra 的工程师
  • 尤其适合有分布式训练、推理引擎、CUDA/Triton 或深度学习框架源码经验的人

缺点 / 挑战

  • 搜索、广告、推荐业务对性能和稳定性要求高,线上落地压力可能较大

角色解读

  • 短期可以成长为 AI Infra 方向的性能优化和平台研发骨干,深耕训练加速、推理服务、框架内核或 GPU 算子优化
  • 中期可向大规模机器学习平台架构师、AI 系统技术专家方向发展,负责跨模型、框架、硬件的协同设计
  • 长期也可转向技术管理,带领训练平台、推理引擎或基础设施团队建设
  • 负责搜索、广告、推荐业务背后的机器学习训练与推理基础设施建设,支撑 CTR、LLM 等模型高效训练和上线部署
  • 你需要围绕训练吞吐、推理延迟、资源利用率和算力成本做系统性优化
  • 工作会深入 Profiling、计算图、执行框架、算子、GPU Kernel、分布式通信和调度链路,而不只是调用现成框架
  • 还需要与算法、系统、平台团队协作,推动模型、框架与硬件的 Co-design
  • 需要扎实的计算机基础,包括数据结构与算法、操作系统、计算机网络和并发编程,并熟练掌握 C++、Python
  • 需要理解深度学习训练与推理原理,至少深入掌握 PyTorch、TensorFlow、Megatron-LM、vLLM、SGLang 等一种框架,并能做源码级分析
  • 需要具备性能分析和调优能力,能通过 Profiling 定位计算、访存、通信、数据供给和调度瓶颈
  • 还需要在分布式训练、在线推理或 GPU 高性能计算至少一个方向有实际研发经验

申请策略

  • 申请前建议了解滴滴搜索、广告、推荐业务对训练与推理基础设施的典型需求,尤其是高并发、低延迟和成本优化场景
  • 面试中尽量用量化结果说明优化价值,并准备解释方案在不同业务负载下的适用边界
  • 突出你参与过的训练或推理基础设施项目,明确说明负责的模块、技术难点和最终性能收益,如吞吐提升、延迟下降、显存节省或成本降低
  • 重点展示 C++、Python、PyTorch、vLLM、Megatron-LM、CUDA、Triton 等实际使用经验,最好能体现源码级理解
  • 补充 Profiling、性能归因、可复现实验和线上落地经历,证明你不仅能写优化方案,还能验证效果
  • 若有大规模稀疏 Embedding、动态批处理、KV Cache、混合精度、算子融合等项目经历,应单独强调
  • 可提前准备一个完整的性能优化案例,覆盖问题定义、Profiling 工具、瓶颈定位、优化方案、实验设计和结果复盘
  • 加强对分布式训练、集合通信、显存管理、推理调度和 GPU 执行模型的理解,补齐系统底层知识

面试指南

  • 回答项目类问题时,按“业务背景—瓶颈定位—方案设计—实验验证—上线结果—复盘沉淀”的结构展开,并给出可量化指标
  • 回答技术原理类问题时,先讲清楚问题场景和核心矛盾,再对比不同方案的适用条件、代价和工程实现难点
  • 回答源码或底层优化问题时,尽量结合具体模块、调用链、内存/通信/调度行为,不要停留在概念层面
  • 请介绍一个你做过的训练或推理性能优化项目,瓶颈是什么,如何定位,最终收益如何验证?
  • 分布式训练中数据并行、模型并行、参数分片和集合通信分别解决什么问题,计算通信重叠如何实现?
  • 在线推理服务中如何权衡吞吐、延迟和资源成本,动态批处理和 KV Cache 管理有哪些关键难点?
  • 如果使用 Profiling 工具发现 GPU 利用率低,你会从哪些层面排查原因?
  • 请解释你对 PyTorch、vLLM 或 Megatron-LM 执行流程的理解,是否做过源码级修改或扩展?

职位点评

薪资福利78
成长发展90
工作生活45
使命价值72

薪资福利

78中等

JD 未披露薪资与福利信息,因此无法直接判断薪酬竞争力;但该岗位技术门槛较高,涉及 AI Infra、分布式训练和推理优化,通常对相关人才有较强市场吸引力。稳定性与福利信息未提及,需面试中进一步确认。

薪资信号未披露(AI估算:3.5千–6.5万/月)

成长发展

90较高

岗位覆盖训练优化、推理优化、框架与算子优化、GPU Kernel、Co-design 和平台架构演进,技术深度和成长空间非常强。JD 明确要求跟踪业界先进技术、完成方案验证与上线落地,并建设可复用优化能力和性能评测体系。

技术前沿前沿/新兴技术
技术栈机器学习训练与推理基础设施、CTR、LLM、分布式训练、大规模稀疏 Embedding、混合精度训练、动态批处理、模型量化、KV Cache、GPU Kernel、CUDA、Triton、PyTorch、Megatron-LM、vLLM、SGLang
成长机会跟踪并评估业界先进技术、建设可复用的优化能力和性能评测体系、参与新一代大规模机器学习平台的架构设计与演进
业务类型ambiguous

工作生活

45较低

JD 仅明确地点为北京市,未提及远程、混合办公、弹性工时、双休或加班情况,因此生活化动机满足程度难以判断。岗位涉及大规模系统优化和线上落地,但JD未直接说明工作强度。

工作模式未明确
办公地点未明确
加班情况未提及(无法判断)

使命价值

72中等

岗位服务于搜索、广告、推荐业务和 LLM 模型基础设施建设,具有较强技术价值与工程影响力,尤其通过降低算力成本、提升资源效率可产生明确业务贡献。JD 未直接表达社会使命或公共价值导向,因此意义感更多来自技术挑战和业务落地。

行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs