滴滴出行
模型推理优化工程师
模型推理优化工程师
发布于 3 天前普通员工/个人贡献者
北京市
中级经验
全职员工
仅现场办公
学历未注明
软件工程
Cuda
Gpu
Nvidia Thor
Pytorch
Qwen
Sglang
Tensorrt
Tensorrt-Llm
Vllm
AI 估算 · 25k–40k
滴滴已上市，北京技术岗，GPU推理优化技能稀缺，薪资竞争力强
职位详情
关于这个职位
作为模型推理优化工程师，你将负责车载端AI模型的优化、部署与调度，保障车端系统高效稳定运行
你需要深入参与系统稳定性建设，排查并解决复杂问题，同时支持大模型在仿真、标注等环境中的服务化部署，推动业务模型快速迭代
该职位要求扎实的Python/C++编程能力，熟悉TensorRT、vLLM等推理引擎，并对GPU架构有深入了解
最低要求
任职要求：
掌握Python/C++编程语言
熟悉至少一种主流推理引擎（如TensorRT、OnnxRuntime等），并熟练使用至少一种大模型推理部署框架（如vLLM、SGLang、TensorRT-LLM等）
熟悉GPU架构（如NVIDIA Hopper、ThorX），有CUDA/OpenMP编程经验者优先
具备优秀的沟通协作能力和扎实的问题分析与解决能力
工作职责
参与车载端AI模型的优化、部署与调度，保障车端系统高效、稳定运行
深入参与车端系统稳定性建设，对系统级风险与问题具备独立排查与根因分析能力，高效解决复杂疑难问题
支持大模型在仿真、标注等环境中的服务化部署与验证，助力业务模型快速迭代
跟踪业界前沿技术动态，持续探索并引入先进的性能优化方法与工具链
优先资格
加分项：
熟悉PyTorch等深度学习训练框架
有大模型（LLaMA、Qwen、GPT等）服务化部署经验者优先
熟悉vLLM、TGI、LightLLM、SGLang等大模型专用推理框架者优先
熟悉NVIDIA Thor芯片架构，具备在其上进行模型部署、推理加速与资源调度优化的实际经验者优先
AI 洞察
优缺点分析
优点
- 滴滴作为自动驾驶领域的重要玩家，Voyager部门提供前沿技术场景，如车端实时AI推理
- 工作内容涉及最新GPU架构（Thor）和大模型推理框架，技术前沿性强，积累稀缺技能
- 已上市大厂，薪资福利稳定，团队技术氛围浓厚，有较多与业界交流的机会
- 北京核心地段办公，团队规模大，有明确的专业发展路径
- 车端部署对延迟和资源限制要求极高，优化难度大，需深入底层硬件编程
- 技术栈更新快（如新一代GPU和推理框架），需持续学习，保持技术敏感度
- 适合热爱底层系统优化、对GPU架构和模型加速有浓厚兴趣的工程师，愿意在自动驾驶AI基础设施领域深耕
缺点 / 挑战
- 自动驾驶行业竞争激烈，项目节奏可能较快，工作强度较高
角色解读
- 从模型推理优化工程师起步，逐步成长为自动驾驶系统架构师或AI基础设施专家
- 深耕GPU编程和模型加速领域，发展为技术专家或团队技术负责人
- 积累车端部署经验，转向自动驾驶全栈系统工程师或算法工程化方向
- 负责车载AI模型的推理优化，使用TensorRT、vLLM等框架对模型进行加速和部署，确保在车端高效运行
- 参与车端系统稳定性建设，排查并解决系统级风险与问题，保障自动驾驶系统的可靠性
- 支持大模型在仿真和标注环境中的服务化部署，为模型迭代提供高效验证平台
- 跟踪业界前沿技术，引入新的性能优化方法，如CUDA编程和GPU架构优化
- 精通Python和C++编程语言，能够高效实现模型推理代码
- 熟悉主流推理引擎（TensorRT、OnnxRuntime）和大模型推理框架（vLLM、SGLang等）
- 深入理解GPU架构（NVIDIA Hopper、Thor），具备CUDA/OpenMP编程经验
- 具备优秀的问题分析和沟通协作能力，能够独立解决复杂系统问题
申请策略
- 关注滴滴自动驾驶的技术博客或开源项目，在面试中展示对其技术栈的熟悉
- 准备一个模型优化全流程的项目案例，从问题定义到加速方案再到效果评估
- 突出Python/C++项目经验，尤其是性能优化相关代码（如CUDA加速）
- 详细描述使用TensorRT、vLLM等框架部署模型的经历，包括优化前后的性能对比
- 强调对GPU架构的理解，如H100或Thor平台的调优经验
- 展示问题分析和解决能力，例如根因分析和稳定性优化案例
- 深入学习NVIDIA CUDA编程和GPU架构知识，如Hopper和Thor的特性
- 动手实践vLLM、SGLang等大模型推理框架的部署和调优
面试指南
- STAR法则：背景-任务-行动-结果，突出优化前后的指标变化
- 从系统层面分析：先定位瓶颈（计算/内存/IO），再针对性优化（算子融合/量化/并行）
- 结合具体框架：使用vLLM时如何配置KV cache和调度策略
- 请描述你使用TensorRT优化一个模型的具体步骤
- 如何排查一个车端模型推理延迟过高的问题？
- 你对NVIDIA Hopper架构的SM和Tensor Core有什么理解？
- 在大模型推理中，如何平衡吞吐量和延迟？请举例说明
- 请解释CUDA stream和event在异步操作中的作用
职位点评
71
综合评分
滴滴自动驾驶核心部门，前沿GPU推理优化，高成长高回报，但WLB一般。
更适合这类人
最适合追求技术深度和前沿领域、愿意投入高强度学习与工作的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展90
工作生活40
使命价值80
薪资福利
75中等
滴滴已上市，薪资竞争力强，有年终奖和股票激励，但具体福利未在JD中明确，整体薪资水平位于市场前列。
薪资信号未披露（AI估算：25K-40K/月）
成长发展
90较高
职位涉及前沿GPU架构和大模型推理框架，技术栈新且深度高，能快速积累稀缺的系统优化经验。虽然JD未明确晋升通道，但行业本身成长性极强。
技术前沿前沿/新兴技术
技术栈TensorRT、vLLM、SGLang、CUDA、NVIDIA Hopper、NVIDIA Thor、LLaMA、Qwen
业务类型profit_center
工作生活
40较低
仅现场办公，北京办公地点，JD未提及弹性工时或WLB措施，自动驾驶行业通常项目节奏较快。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
80较高
自动驾驶是高速增长赛道，且车载AI直接提升出行安全性和效率，社会价值较高。技术方向创新性强。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs