DiDi logo
滴滴出行
Ai Infra开发工程师

Ai Infra开发工程师

发布于 2 小时前

普通员工/个人贡献者

AI 估算 · 3.5–6.5万 · AI 参考估算
中级经验
学历未注明
全职员工仅现场办公机器学习工程
机器学习工程
Cuda
Gpu Kernel
Megatron-Lm
Pytorch
Sglang
Tensorflow
Vllm
分布式训练

值不值得投

75综合评分

综合评分 75

前沿AI Infra核心岗位,技术与成长价值突出,WLB信息未披露

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

5.0万

比机器学习工程中位数高

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 2400 个在招 · 其中机器学习工程 26 个

市场机会

选择面较广

北京 · 机器学习工程 · 约 550 个在招

职位详情

关于这个职位

该岗位面向搜索、广告、推荐业务,负责机器学习训练与推理基础设施建设,重点优化 CTR、LLM 等模型的训练吞吐、推理性能与资源效率

你将深入框架、算子、GPU Kernel、分布式训练与在线推理链路,推动性能优化方案在真实业务中落地

最低要求

具备扎实的计算机基础,熟悉数据结构与算法、操作系统、计算机网络及并发编程

熟练掌握 C++、Python 等编程语言,具备良好的工程实现和问题排查能力
理解深度学习训练与推理的基本原理,深入掌握至少一种主流训练或推理框架,如 PyTorch、TensorFlow、Megatron-LM、vLLM、SGLang 等,能够深入源码分析执行流程和性能问题
熟悉性能分析与调优方法,能够使用 Profiling 工具定位系统瓶颈,设计优化方案,并通过可复现的实验验证性能收益、数值正确性与模型效果
在以下至少一个方向具备实际研发经验:分布式训练,熟悉数据并行、模型并行、参数服务器或参数分片机制,理解集合通信及计算通信重叠
在线推理,熟悉模型服务、RPC、批处理、并发调度与性能优化,具备吞吐、延迟和资源成本的权衡能力
GPU 高性能计算、理解 GPU 执行模型与存储层次,具备 CUDA、Triton 等算子开发或优化经验
具备较强的自驱力、责任心和协作能力,能够与算法及业务团队共同定义问题,推动技术方案落地并持续迭代

工作职责

负责面向搜索、广告、推荐业务的机器学习训练与推理基础设施研发,支持 CTR、LLM 等模型的高效训练与部署,在保障模型效果和系统稳定性的前提下,提升训练吞吐、推理性能与资源利用效率,降低算力成本

深入模型训练与推理全链路,通过性能分析定位计算、访存、通信、数据供给和调度等瓶颈,从模型结构、执行框架、计算图、算子与运行时等层面开展优化
根据业务需求与个人技术方向,参与以下一个或多个方向的研发:训练优化,大规模稀疏 Embedding、分布式并行策略、显存管理、混合精度训练、计算与通信重叠等
推理优化,高并发低延迟服务、动态批处理、模型量化、KV Cache 管理及推理调度等
框架与算子优化,框架执行机制、图优化、算子融合及高性能 GPU Kernel 开发
跟踪并评估业界先进技术,结合真实业务负载完成方案验证、工程实现与上线落地,建设可复用的优化能力和性能评测体系
与算法、系统及平台协作,推进模型、框架与硬件的Co-design,参与新一代大规模机器学习平台的架构设计与演进

AI 洞察

优缺点分析

优点

  • 岗位处于 AI Infra 与大模型基础设施核心方向,技术栈前沿,能积累训练与推理全链路优化经验
  • 业务场景覆盖搜索、广告、推荐,真实负载复杂,适合做有实际业务影响的性能优化工作
  • 与算法、系统、平台多方协作,有机会参与新一代机器学习平台架构设计
  • 技术栈跨度大,既要懂系统、框架,也要理解模型训练与推理机制,学习曲线较陡
  • 性能优化需要基于真实业务负载反复验证,对实验设计、问题拆解和工程落地能力要求高
  • 需要同时平衡吞吐、延迟、模型效果、稳定性和算力成本,技术权衡复杂
  • 适合具备扎实系统编程能力、对深度学习框架和 GPU 性能优化有深入兴趣,并希望在大规模业务场景中做 AI Infra 的工程师

缺点 / 挑战

  • 工作内容涉及分布式训练、推理服务、GPU Kernel、框架源码等,技术深度和稀缺性较高

角色解读

  • 可向 AI Infra 资深工程师或技术专家方向发展,深耕训练加速、推理加速、GPU 算子与框架内核优化
  • 可逐步承担平台架构设计职责,演进为大规模机器学习平台架构师,负责训练、推理、调度和资源效率体系
  • 也可向技术管理方向发展,带领基础设施团队与算法、业务团队协同推进平台建设和性能优化
  • 建设机器学习训练与推理基础设施,支撑搜索、广告、推荐业务中的 CTR、LLM 等模型高效训练和部署
  • 对训练、推理全链路做性能分析,定位计算、访存、通信、数据供给和调度瓶颈,并推动优化落地
  • 参与分布式训练、在线推理、框架执行机制、图优化、算子融合和 GPU Kernel 开发等方向的技术研发
  • 与算法、系统、平台团队协作,参与模型、框架与硬件 Co-design,以及新一代机器学习平台架构演进
  • 需要扎实的计算机基础,包括数据结构与算法、操作系统、计算机网络、并发编程,以及 C++、Python 工程实现能力
  • 需要理解深度学习训练与推理原理,并深入掌握 PyTorch、TensorFlow、Megatron-LM、vLLM、SGLang 等至少一种框架
  • 需要掌握 Profiling 与性能调优方法,能用实验验证性能收益、数值正确性和模型效果
  • 至少具备分布式训练、在线推理或 GPU 高性能计算之一的实际研发经验,如并行策略、KV Cache、动态批处理、CUDA/Triton 算子优化等

申请策略

  • 面试前重点了解搜索、广告、推荐业务中 CTR 与 LLM 模型的训练和推理特点,准备结合业务负载谈优化思路
  • 关注岗位所属 Trans MP Algo&Strategy Product 部门方向,表达自己对算法与系统 Co-design、平台化能力建设的兴趣
  • 突出 C++、Python 工程能力,以及参与过的高性能系统、并发服务、底层优化项目
  • 重点展示 PyTorch、TensorFlow、Megatron-LM、vLLM、SGLang 等框架源码阅读、二次开发或性能调优经历
  • 用量化结果呈现优化成果,如训练吞吐提升、推理延迟下降、GPU 利用率提升、显存占用降低或成本下降
  • 强调分布式训练、在线推理、CUDA/Triton 算子开发、KV Cache、动态批处理、混合精度等相关经验
  • 补强 Profiling 方法论,熟悉 Nsight、PyTorch Profiler、TensorBoard 等工具,并能形成可复现的性能分析案例
  • 深入理解分布式并行策略、集合通信、计算通信重叠、显存管理和推理调度机制

面试指南

  • 性能类问题按“现象定义—Profiling 定位—瓶颈归因—优化方案—实验验证—上线风险”展开,强调可复现实验和量化收益
  • 技术原理类问题先讲核心机制和适用条件,再结合具体业务负载说明取舍,避免只背概念
  • 项目经历类问题用 STAR 框架,重点说明个人贡献、技术难点、验证指标和最终业务影响
  • 如何定位一个大模型训练任务中的性能瓶颈?你会从计算、访存、通信、数据供给和调度哪些方面入手?
  • 请解释数据并行、模型并行、参数分片和计算通信重叠的适用场景与实现难点
  • 在线推理中如何平衡吞吐、延迟和成本?动态批处理、模型量化和 KV Cache 分别解决什么问题?
  • 你是否做过 CUDA 或 Triton 算子优化?请说明一个具体算子的优化过程和收益验证方法
  • 如何深入 PyTorch、vLLM 或 Megatron-LM 源码分析执行流程,并推动一个优化方案上线?

职位点评

薪资福利82
成长发展90
工作生活45
使命价值72

薪资福利

82较高

JD未披露薪资与福利信息,但岗位技术门槛较高,涉及AI基础设施、分布式训练和推理优化,通常对高阶工程人才有较强薪资吸引力。稳定性与福利信息未提及,无法进一步判断。

薪资信号未披露(AI估算:3.5千–6.5万/月)

成长发展

90较高

岗位明确涉及训练优化、推理优化、框架与算子优化、GPU Kernel、Co-design和新一代平台架构设计,技术成长空间很大。JD还提到跟踪业界先进技术、建设可复用优化能力和性能评测体系,发展性信号强。

技术前沿前沿/新兴技术
技术栈CTR、LLM、PyTorch、TensorFlow、Megatron-LM、vLLM、SGLang、分布式训练、混合精度训练、KV Cache、模型量化、GPU Kernel、CUDA、Triton、Co-design
成长机会跟踪并评估业界先进技术、建设可复用的优化能力和性能评测体系、参与新一代大规模机器学习平台的架构设计与演进
业务类型profit_center

工作生活

45较低

JD仅明确地点为北京市,未提及远程、混合办公、弹性工时、双休或加班情况,因此生活化动机满足程度难以判断。办公模式信息缺失是主要限制。

工作模式未明确
办公地点未明确
加班情况未提及(无法判断)

使命价值

72中等

岗位服务于搜索、广告、推荐业务,并通过提升资源利用效率、降低算力成本产生工程价值,也参与大规模机器学习平台演进。JD未直接表达社会使命或公共价值导向,意义感主要来自技术挑战和业务影响。

行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs