
Ai Infra开发工程师
发布于 1 小时前普通员工/个人贡献者
值不值得投
综合评分 76
前沿AI Infra平台岗,技术成长强,业务价值明确,办公灵活性未披露。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。
薪资怎么样
5.0万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2400 个在招 · 其中AI算法 7 个
市场机会
选择面较广
北京 · AI算法 · 约 240 个在招
职位详情
关于这个职位
该岗位面向搜索、广告、推荐业务,负责机器学习训练与推理基础设施建设,重点优化 CTR、LLM 等模型的训练吞吐、推理性能与资源成本
最低要求
具备扎实的计算机基础,熟悉数据结构与算法、操作系统、计算机网络及并发编程
工作职责
负责面向搜索、广告、推荐业务的机器学习训练与推理基础设施研发,支持 CTR、LLM 等模型的高效训练与部署,在保障模型效果和系统稳定性的前提下,提升训练吞吐、推理性能与资源利用效率,降低算力成本
AI 洞察
优缺点分析
优点
- 岗位直接服务搜索、广告、推荐等核心业务,技术优化效果容易体现在吞吐、延迟和成本等业务指标上
- 技术栈覆盖分布式训练、LLM 推理、GPU Kernel、框架源码和 Co-design,成长密度高,适合深耕 AI Infra
- 与算法、系统、平台多团队协作,有机会理解真实大规模业务负载,积累复杂系统落地经验
- 工作内容强调可复用能力和性能评测体系建设,有利于形成平台化、体系化的技术沉淀
- 技术跨度大,既要懂模型训练和推理,也要懂底层系统、GPU 执行模型和框架源码,学习曲线陡峭
- 优化工作需要基于真实业务负载反复实验,对问题拆解、数据验证和工程严谨性要求高
- 适合具备扎实系统编程能力、对深度学习框架和 GPU 性能优化有浓厚兴趣,并希望在大规模 AI 基础设施方向长期深耕的工程师
缺点 / 挑战
- 需要跨算法、系统、平台团队推进方案落地,沟通协调成本和持续迭代压力可能较高
角色解读
- 初期可在训练优化、推理优化、框架算子等方向沉淀专项能力,逐步成为 AI Infra 某一领域的深度技术专家
- 中期可向大规模机器学习平台架构师发展,负责训练推理一体化平台、性能评测体系和软硬件协同设计
- 长期可拓展到 AI 系统技术负责人、平台架构负责人,或转向模型系统与算法工程结合的技术管理路线
- 负责搜索、广告、推荐场景下机器学习训练与推理基础设施建设,支撑 CTR、LLM 等模型高效训练和上线部署
- 对训练、推理全链路做性能分析,定位计算、访存、通信、数据供给和调度瓶颈,并推动系统性优化
- 参与分布式训练、在线推理、框架与算子优化等方向,包括显存管理、动态批处理、模型量化、KV Cache、GPU Kernel 开发等具体工作
- 与算法、系统、平台团队协作,推进模型、框架和硬件的 Co-design,并参与新一代机器学习平台架构演进
- 需要扎实的计算机基础,包括数据结构与算法、操作系统、网络和并发编程,并能熟练使用 C++、Python 进行工程实现
- 需要理解深度学习训练与推理原理,深入掌握 PyTorch、TensorFlow、Megatron-LM、vLLM、SGLang 等至少一种框架,并能做源码级分析
- 需要掌握 Profiling 与性能调优方法,能用实验验证性能收益、数值正确性和模型效果
- 至少具备分布式训练、在线推理或 GPU 高性能计算之一的实际经验,如并行策略、集合通信、RPC 服务、CUDA/Triton 算子开发等
申请策略
- 投递前梳理自己在训练优化、推理优化、框架算子三个方向中最强的一条主线,并在简历和面试中形成清晰叙事
- 面试前了解搜索、广告、推荐业务中 CTR 与 LLM 模型对训练吞吐、推理延迟和算力成本的典型要求
- 突出 C++、Python 工程能力,以及参与过的高性能系统、并发编程、问题排查和稳定性保障经历
- 重点展示与 JD 匹配的实际项目,如分布式训练、模型推理服务、vLLM/SGLang/PyTorch 优化、CUDA/Triton 算子开发等
- 用量化结果呈现优化成果,例如吞吐提升、延迟下降、显存节省、资源成本降低,并说明实验方法和分析路径
- 强调跨团队协作经历,尤其是与算法、平台或业务团队共同定义问题、推动方案上线和持续迭代的案例
- 可提前准备 Profiling 工具使用经验,熟悉从计算、访存、通信、调度等维度定位瓶颈的方法
- 建议补强 PyTorch、Megatron-LM、vLLM、SGLang 等框架的源码阅读和执行流程分析能力
面试指南
- 优化类问题可按“背景指标—瓶颈定位—方案设计—实验验证—上线收益—复盘沉淀”的结构回答
- 系统设计类问题可先明确业务约束,如模型规模、流量特征、延迟目标和成本目标,再分层说明训练、推理、调度和硬件侧方案
- 源码或底层类问题建议结合具体框架执行流程说明,从计算图、算子、运行时、通信和数据加载等角度展开
- 请介绍一个你做过的训练或推理性能优化项目,瓶颈如何定位,最终收益如何验证?
- 分布式训练中数据并行、模型并行、参数分片和集合通信分别适合什么场景?
- 在线推理服务中如何权衡吞吐、延迟和资源成本,动态批处理和 KV Cache 分别解决什么问题?
- 如果 PyTorch 训练吞吐不达预期,你会如何使用 Profiling 工具定位计算、访存、通信或数据供给瓶颈?
- 请说明你使用 CUDA 或 Triton 优化算子的经历,包括性能瓶颈、优化手段和数值正确性验证方法
职位点评
薪资福利
JD未披露薪资与福利信息,但岗位技术门槛高,涉及大规模机器学习基础设施、分布式训练和GPU优化,通常对高阶AI Infra人才具备较强薪酬吸引力。福利部分无法基于JD判断。
成长发展
岗位覆盖训练优化、推理优化、框架与算子优化、GPU Kernel、Co-design和平台架构演进,技术深度和成长空间非常突出。JD还明确提到跟踪业界先进技术和建设可复用能力,发展性动机匹配度高。
工作生活
JD仅明确地点为北京市,未提及远程、弹性办公、双休或加班情况,因此生活化动机无法得到明确验证。岗位需要跨团队协作和复杂系统落地,但具体工作节奏需面试确认。
使命价值
岗位服务搜索、广告、推荐业务,并通过提升训练吞吐、推理性能和资源利用效率来降低算力成本,具有明确的技术价值与工程影响力。JD未直接表达社会使命或公共价值导向,意义感主要来自技术挑战和平台建设。
滴滴出行 的其他在招职位