DiDi logo
滴滴出行
Ai Infra开发工程师

Ai Infra开发工程师

发布于 1 小时前

普通员工/个人贡献者

AI 估算 · 3.5–6.5万 · AI 参考估算
中级经验
学历未注明
全职员工仅现场办公AI算法
AI算法
Cuda/Triton
Gpu Kernel
Megatron-Lm
Pytorch
Sglang
Tensorflow
Vllm
分布式训练

值不值得投

76综合评分

综合评分 76

前沿AI Infra平台岗,技术成长强,业务价值明确,办公灵活性未披露。

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

5.0万

比AI算法中位数高

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 2400 个在招 · 其中AI算法 7 个

市场机会

选择面较广

北京 · AI算法 · 约 240 个在招

职位详情

关于这个职位

该岗位面向搜索、广告、推荐业务,负责机器学习训练与推理基础设施建设,重点优化 CTR、LLM 等模型的训练吞吐、推理性能与资源成本

你将深入框架、算子、GPU Kernel、分布式训练与在线推理链路,与算法和系统团队协作打造大规模机器学习平台

最低要求

具备扎实的计算机基础,熟悉数据结构与算法、操作系统、计算机网络及并发编程

熟练掌握 C++、Python 等编程语言,具备良好的工程实现和问题排查能力
理解深度学习训练与推理的基本原理,深入掌握至少一种主流训练或推理框架,如 PyTorch、TensorFlow、Megatron-LM、vLLM、SGLang 等,能够深入源码分析执行流程和性能问题
熟悉性能分析与调优方法,能够使用 Profiling 工具定位系统瓶颈,设计优化方案,并通过可复现的实验验证性能收益、数值正确性与模型效果
在以下至少一个方向具备实际研发经验:分布式训练,熟悉数据并行、模型并行、参数服务器或参数分片机制,理解集合通信及计算通信重叠
在线推理,熟悉模型服务、RPC、批处理、并发调度与性能优化,具备吞吐、延迟和资源成本的权衡能力
GPU 高性能计算、理解 GPU 执行模型与存储层次,具备 CUDA、Triton 等算子开发或优化经验
具备较强的自驱力、责任心和协作能力,能够与算法及业务团队共同定义问题,推动技术方案落地并持续迭代

工作职责

负责面向搜索、广告、推荐业务的机器学习训练与推理基础设施研发,支持 CTR、LLM 等模型的高效训练与部署,在保障模型效果和系统稳定性的前提下,提升训练吞吐、推理性能与资源利用效率,降低算力成本

深入模型训练与推理全链路,通过性能分析定位计算、访存、通信、数据供给和调度等瓶颈,从模型结构、执行框架、计算图、算子与运行时等层面开展优化
根据业务需求与个人技术方向,参与以下一个或多个方向的研发:训练优化,大规模稀疏 Embedding、分布式并行策略、显存管理、混合精度训练、计算与通信重叠等
推理优化,高并发低延迟服务、动态批处理、模型量化、KV Cache 管理及推理调度等
框架与算子优化,框架执行机制、图优化、算子融合及高性能 GPU Kernel 开发
跟踪并评估业界先进技术,结合真实业务负载完成方案验证、工程实现与上线落地,建设可复用的优化能力和性能评测体系
与算法、系统及平台协作,推进模型、框架与硬件的Co-design,参与新一代大规模机器学习平台的架构设计与演进

AI 洞察

优缺点分析

优点

  • 岗位直接服务搜索、广告、推荐等核心业务,技术优化效果容易体现在吞吐、延迟和成本等业务指标上
  • 技术栈覆盖分布式训练、LLM 推理、GPU Kernel、框架源码和 Co-design,成长密度高,适合深耕 AI Infra
  • 与算法、系统、平台多团队协作,有机会理解真实大规模业务负载,积累复杂系统落地经验
  • 工作内容强调可复用能力和性能评测体系建设,有利于形成平台化、体系化的技术沉淀
  • 技术跨度大,既要懂模型训练和推理,也要懂底层系统、GPU 执行模型和框架源码,学习曲线陡峭
  • 优化工作需要基于真实业务负载反复实验,对问题拆解、数据验证和工程严谨性要求高
  • 适合具备扎实系统编程能力、对深度学习框架和 GPU 性能优化有浓厚兴趣,并希望在大规模 AI 基础设施方向长期深耕的工程师

缺点 / 挑战

  • 需要跨算法、系统、平台团队推进方案落地,沟通协调成本和持续迭代压力可能较高

角色解读

  • 初期可在训练优化、推理优化、框架算子等方向沉淀专项能力,逐步成为 AI Infra 某一领域的深度技术专家
  • 中期可向大规模机器学习平台架构师发展,负责训练推理一体化平台、性能评测体系和软硬件协同设计
  • 长期可拓展到 AI 系统技术负责人、平台架构负责人,或转向模型系统与算法工程结合的技术管理路线
  • 负责搜索、广告、推荐场景下机器学习训练与推理基础设施建设,支撑 CTR、LLM 等模型高效训练和上线部署
  • 对训练、推理全链路做性能分析,定位计算、访存、通信、数据供给和调度瓶颈,并推动系统性优化
  • 参与分布式训练、在线推理、框架与算子优化等方向,包括显存管理、动态批处理、模型量化、KV Cache、GPU Kernel 开发等具体工作
  • 与算法、系统、平台团队协作,推进模型、框架和硬件的 Co-design,并参与新一代机器学习平台架构演进
  • 需要扎实的计算机基础,包括数据结构与算法、操作系统、网络和并发编程,并能熟练使用 C++、Python 进行工程实现
  • 需要理解深度学习训练与推理原理,深入掌握 PyTorch、TensorFlow、Megatron-LM、vLLM、SGLang 等至少一种框架,并能做源码级分析
  • 需要掌握 Profiling 与性能调优方法,能用实验验证性能收益、数值正确性和模型效果
  • 至少具备分布式训练、在线推理或 GPU 高性能计算之一的实际经验,如并行策略、集合通信、RPC 服务、CUDA/Triton 算子开发等

申请策略

  • 投递前梳理自己在训练优化、推理优化、框架算子三个方向中最强的一条主线,并在简历和面试中形成清晰叙事
  • 面试前了解搜索、广告、推荐业务中 CTR 与 LLM 模型对训练吞吐、推理延迟和算力成本的典型要求
  • 突出 C++、Python 工程能力,以及参与过的高性能系统、并发编程、问题排查和稳定性保障经历
  • 重点展示与 JD 匹配的实际项目,如分布式训练、模型推理服务、vLLM/SGLang/PyTorch 优化、CUDA/Triton 算子开发等
  • 用量化结果呈现优化成果,例如吞吐提升、延迟下降、显存节省、资源成本降低,并说明实验方法和分析路径
  • 强调跨团队协作经历,尤其是与算法、平台或业务团队共同定义问题、推动方案上线和持续迭代的案例
  • 可提前准备 Profiling 工具使用经验,熟悉从计算、访存、通信、调度等维度定位瓶颈的方法
  • 建议补强 PyTorch、Megatron-LM、vLLM、SGLang 等框架的源码阅读和执行流程分析能力

面试指南

  • 优化类问题可按“背景指标—瓶颈定位—方案设计—实验验证—上线收益—复盘沉淀”的结构回答
  • 系统设计类问题可先明确业务约束,如模型规模、流量特征、延迟目标和成本目标,再分层说明训练、推理、调度和硬件侧方案
  • 源码或底层类问题建议结合具体框架执行流程说明,从计算图、算子、运行时、通信和数据加载等角度展开
  • 请介绍一个你做过的训练或推理性能优化项目,瓶颈如何定位,最终收益如何验证?
  • 分布式训练中数据并行、模型并行、参数分片和集合通信分别适合什么场景?
  • 在线推理服务中如何权衡吞吐、延迟和资源成本,动态批处理和 KV Cache 分别解决什么问题?
  • 如果 PyTorch 训练吞吐不达预期,你会如何使用 Profiling 工具定位计算、访存、通信或数据供给瓶颈?
  • 请说明你使用 CUDA 或 Triton 优化算子的经历,包括性能瓶颈、优化手段和数值正确性验证方法

职位点评

薪资福利82
成长发展92
工作生活45
使命价值76

薪资福利

82较高

JD未披露薪资与福利信息,但岗位技术门槛高,涉及大规模机器学习基础设施、分布式训练和GPU优化,通常对高阶AI Infra人才具备较强薪酬吸引力。福利部分无法基于JD判断。

薪资信号未披露(AI估算:3.5千–6.5万/月)

成长发展

92较高

岗位覆盖训练优化、推理优化、框架与算子优化、GPU Kernel、Co-design和平台架构演进,技术深度和成长空间非常突出。JD还明确提到跟踪业界先进技术和建设可复用能力,发展性动机匹配度高。

技术前沿前沿/新兴技术
技术栈机器学习训练与推理基础设施、CTR、LLM、分布式并行策略、混合精度训练、动态批处理、模型量化、KV Cache、GPU Kernel、PyTorch、Megatron-LM、vLLM、SGLang、CUDA、Triton
成长机会跟踪并评估业界先进技术、建设可复用的优化能力和性能评测体系、参与新一代大规模机器学习平台的架构设计与演进
业务类型ambiguous

工作生活

45较低

JD仅明确地点为北京市,未提及远程、弹性办公、双休或加班情况,因此生活化动机无法得到明确验证。岗位需要跨团队协作和复杂系统落地,但具体工作节奏需面试确认。

工作模式未明确
办公地点未明确
加班情况未提及(无法判断)

使命价值

76中等

岗位服务搜索、广告、推荐业务,并通过提升训练吞吐、推理性能和资源利用效率来降低算力成本,具有明确的技术价值与工程影响力。JD未直接表达社会使命或公共价值导向,意义感主要来自技术挑战和平台建设。

行业发展高速增长赛道
社会影响中性/一般
使命信号降低算力成本、建设可复用的优化能力和性能评测体系、参与新一代大规模机器学习平台的架构设计与演进
创新程度积极采用新技术
Watch Jobs