
Ai Infra开发工程师
发布于 1 小时前普通员工/个人贡献者
值不值得投
综合评分 75
前沿AI Infra核心岗,技术成长强、业务价值高,办公灵活性未披露
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。
薪资怎么样
5.0万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2400 个在招 · 其中AI算法 7 个
市场机会
选择面较广
北京 · AI算法 · 约 240 个在招
职位详情
关于这个职位
该岗位面向滴滴搜索、广告、推荐业务,负责机器学习训练与推理基础设施建设,重点优化 CTR、LLM 等模型的训练吞吐、推理性能与资源效率
最低要求
具备扎实的计算机基础,熟悉数据结构与算法、操作系统、计算机网络及并发编程
工作职责
负责面向搜索、广告、推荐业务的机器学习训练与推理基础设施研发,支持 CTR、LLM 等模型的高效训练与部署,在保障模型效果和系统稳定性的前提下,提升训练吞吐、推理性能与资源利用效率,降低算力成本
AI 洞察
优缺点分析
优点
- 岗位直接服务搜索、广告、推荐等核心业务,技术优化效果容易在真实业务场景中体现
- 技术栈覆盖分布式训练、LLM 推理、GPU Kernel、框架源码与性能优化,专业壁垒高、成长空间大
- 能参与模型、框架与硬件 Co-design 和新一代平台架构演进,适合希望深入 AI 基础设施的工程师
- 工作内容强调性能评测体系和可复用能力建设,有助于沉淀通用方法论
- 需要同时理解算法、系统、框架和硬件,技术跨度大,学习曲线较陡
- 性能优化需要基于真实业务负载反复实验,对问题拆解、实验设计和工程严谨性要求高
- 适合具备扎实系统编程能力、对深度学习框架源码和 GPU 性能优化有兴趣,并希望在 AI Infra 方向长期深耕的工程师
缺点 / 挑战
- 训练与推理基础设施通常涉及稳定性、成本和效率的多目标权衡,落地复杂度较高
角色解读
- 可向 AI Infra 资深工程师或技术专家方向发展,深耕训练加速、推理加速、框架与算子优化等高壁垒方向
- 可逐步承担平台架构设计职责,演进为大规模机器学习平台架构师或技术负责人
- 也可横向拓展到算法工程、性能优化、云原生 AI 平台或算力效率治理等相关领域
- 负责机器学习训练与推理基础设施建设,支撑搜索、广告、推荐业务中的 CTR、LLM 等模型高效训练和部署
- 对训练、推理全链路做性能分析,定位计算、访存、通信、数据供给和调度瓶颈,并推动优化落地
- 参与分布式训练、在线推理、框架执行机制、图优化、算子融合和 GPU Kernel 开发等方向的技术研发
- 与算法、系统、平台团队协作,参与模型、框架与硬件 Co-design 以及新一代机器学习平台架构演进
- 需要扎实的计算机基础,包括数据结构与算法、操作系统、计算机网络、并发编程,以及 C++、Python 工程实现能力
- 需要理解深度学习训练与推理原理,并深入掌握 PyTorch、TensorFlow、Megatron-LM、vLLM、SGLang 等至少一种框架
- 需要具备 Profiling 与性能调优能力,能通过可复现实验验证性能收益、数值正确性和模型效果
- 需要在分布式训练、在线推理或 GPU 高性能计算中至少一个方向有实际研发经验
申请策略
- 面试前建议了解滴滴搜索、广告、推荐业务中 AI 基础设施的典型挑战,尤其是吞吐、延迟和算力成本之间的权衡
- 投递时尽量选择与你最强方向匹配的关键词,如分布式训练、推理优化或 GPU 高性能计算,并在简历中前置对应项目
- 突出 C++、Python 工程能力,以及参与过的高性能系统、并发编程或底层优化项目
- 重点展示分布式训练、在线推理、模型服务、GPU Kernel、CUDA/Triton、算子融合等相关经历
- 用量化结果说明优化成果,如训练吞吐提升、推理延迟下降、资源成本降低或 GPU 利用率提升
- 强调跨团队协作经历,尤其是与算法、平台、系统团队共同定义问题并推动方案上线的案例
- 可提前准备 PyTorch、vLLM、Megatron-LM 等框架的源码阅读与执行流程分析,理解训练/推理关键路径
- 补充 Profiling、混合精度训练、动态批处理、KV Cache、集合通信、显存管理等专项知识
面试指南
- 性能类问题可按“现象定义—指标拆解—Profiling 定位—假设验证—优化实现—回归评估”的结构回答
- 系统设计类问题可按“业务约束—瓶颈分析—候选方案—权衡取舍—上线与监控”的逻辑展开
- 项目经历类问题建议使用 STAR 框架,并重点补充量化结果,如吞吐、延迟、成本、稳定性或资源利用率变化
- 如何定位一个 LLM 训练任务中的性能瓶颈?你会从计算、通信、访存、数据供给和调度哪些方面入手?
- 请解释数据并行、模型并行、参数分片和集合通信重叠的适用场景与实现难点
- 在线推理服务中,如何在吞吐、延迟和成本之间做权衡?动态批处理和 KV Cache 管理分别解决什么问题?
- 你是否做过 CUDA 或 Triton 算子优化?请说明一个具体算子的优化思路和验证方法
- 如何设计一个可复现的性能评测体系,确保优化收益、数值正确性和模型效果都可靠?
职位点评
薪资福利
JD未披露薪资与福利信息,但该岗位属于高门槛AI基础设施方向,要求分布式训练、推理优化和GPU性能调优能力,通常对资深技术人才具备较强薪酬吸引力。
成长发展
岗位覆盖训练优化、推理优化、框架与算子优化、GPU Kernel、模型与硬件Co-design等方向,技术深度和平台架构参与度都很高。JD明确提到跟踪业界先进技术、建设可复用能力和参与新一代平台架构演进,发展性很强。
工作生活
JD仅明确地点为北京市,未提及远程、弹性办公、双休或加班信息,因此生活化动机只能基于有限信息判断。岗位涉及复杂系统优化和跨团队协作,但JD未直接说明工作强度。
使命价值
岗位通过提升训练吞吐、推理性能与资源利用效率、降低算力成本,对AI平台效率和业务模型落地有明确价值。JD未直接描述社会使命或公共价值导向,意义感主要来自技术基础设施建设和业务支撑。
滴滴出行 的其他在招职位