中国平安
大模型推理优化工程师
大模型推理优化工程师
发布于 38 分钟前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Cuda
Gpu Optimization
Moe
Tensorrt-Llm
Vllm
值不值得投
80综合评分
综合评分 80
高薪前沿技术岗，侧重底层性能优化，适合追求技术成长的极客型人才
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
2.5万
比AI算法中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 13000 个在招
市场机会
选择适中
深圳 · AI算法 · 24 个在招
职位详情
关于这个职位
负责大语言模型及多模态模型的推理性能优化，通过量化、投机解码、算子优化等技术降低延迟与成本
需掌握主流推理框架（如vLLM），具备分布式并行训练/推理架构理解能力，建立性能评测体系以解决GPU资源利用率瓶颈
最低要求
熟练掌握 Python，熟悉 C++、Go、Rust 中至少一种语言，具备扎实的工程能力，能够使用 AI Coding 工具辅助开发
熟悉 Transformer、Attention、MoE 等模型架构，理解主流大模型的核心特征及 Prefill/Decode 推理流程
熟悉至少一种主流推理框架，具备性能调优或源码分析经验，能使用性能分析工具定位解决问题
理解 PagedAttention、Prefix Caching、投机解码、模型量化及 KV Cache 管理等技术，熟悉其适用场景与性能权衡
熟悉 TP/PP/DP/EP 等并行技术，了解智能路由、PD 分离和分布式 KV Cache 架构，具备独立分析问题和推进工程落地的能力
工作职责
基于 vLLM、SGLang、TensorRT-LLM 等主流框架，优化大语言模型及多模态模型的推理性能，提升吞吐与 GPU 资源利用率
推进模型量化、投机解码、KV Cache 及算子优化等技术落地，降低推理延迟与成本
优化智能路由、PD 分离和分布式 KV Cache 能力，结合缓存命中、请求长度及实例负载，优化请求调度、缓存复用与弹性扩缩容
优化 TP/PP/DP/EP 等多机多卡推理方案，针对 MoE、长上下文等场景，提升显存利用率、通信与计算效率
建立性能评测与分析体系，围绕 TTFT、TPOT、吞吐量及 P95/P99 延迟等指标，定位并解决性能瓶颈
优先资格
有 vLLM、SGLang、TensorRT-LLM 等框架二次开发或开源贡献经验
有缓存感知路由、PD 分离、Expert Parallel、分布式 KV Cache 等生产实践，或高并发、多租户推理平台建设经验
有 CUDA/Triton Kernel 开发、算子融合或 GPU 底层调优经验
AI 洞察
优缺点分析
优点
- 接触最前沿的大模型推理技术栈，积累高并发、大规模分布式系统的实战经验
- 技术门槛极高，需同时兼顾算法理论与底层工程实现，调试难度大
- 具备深厚计算机基础、对系统性能极致追求且喜欢钻研底层技术的工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向AI基础设施架构师、高性能计算专家方向发展，或转型为大模型全栈算法工程师
- 专注于大语言模型推理阶段的性能调优，通过代码级优化提升系统吞吐量并降低硬件成本
- 精通Python/C++编程，深入理解Transformer/MoE架构及vLLT等推理框架原理，具备GPU底层调优能力
申请策略
- 准备一个完整的性能优化案例，展示从问题定位到解决方案落地的全过程
- 突出在vLLM等框架上的二次开发经历、CUDA算子优化案例及具体的性能提升数据（如吞吐量提升百分比）
- 复习分布式并行策略（TP/PP/DP）细节，熟悉常见性能分析工具（如Nsight Systems）
面试指南
- 采用STAR法则（情境、任务、行动、结果），重点阐述技术选型的理由、遇到的瓶颈及具体的优化手段
- 请解释PagedAttention的工作原理及其优势
- 如何在MoE架构下优化Expert Parallel的通信开销？
- 对比vLLM和TensorRT-LLM在推理性能上的差异
- 如何设计一个支持动态批处理和高并发请求的调度器？
- 深入阅读vLLM和SGLang的核心论文或源码，梳理Prefill/Decode阶段的数据流转过程
职位点评
薪资福利85
成长发展92
工作生活60
使命价值70
薪资福利
85较高
起薪25k+在深圳属于较高水平，加上上市国企的稳定性和潜在年终奖，整体薪酬竞争力强。
薪资信号偏高 (2.5千–2.5万/月)
成长发展
92较高
岗位涉及大模型推理这一前沿领域，技术栈先进，对个人技术成长和行业视野提升极大。
技术前沿前沿/新兴技术
技术栈vLLM、SGLang、TensorRT-LLM、MoE、CUDA、Triton
业务类型profit_center
工作生活
60中等
未明确提及弹性工作制，但作为头部企业核心研发岗，通常工作强度较大，WLB一般。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
致力于降低AI推理成本、提升效率，具有推动人工智能普惠化的社会价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
中国平安 的其他在招职位
相似职位推荐
Forward Deployment Manager
辉瑞 · 上海市
AI 估算 · 4.5–7.5万31 分钟前发布
Forward Deployment Manager
辉瑞 · 上海市
AI 估算 · 4.5–7.5万38 分钟前发布
Forward Deployment Sr. Manager
辉瑞 · 上海市
AI 估算 · 4.5–7.5万38 分钟前发布
Senior Manager, AI Platform & Foundation
辉瑞 · 上海市
AI 估算 · 8.0–15.0万38 分钟前发布
南京实习基地-AGI算法实习生
影石创新 · 南京市
AI 估算 · 0.2–0.4千1 小时前发布
AI首席科学家（技术专家）
海尔 · 青岛市
AI 估算 · 8.0–15.0万1 小时前发布
大模型强化学习算法工程师（RL/RM）
哔哩哔哩 · 上海市
AI 估算 · 3.5–6.0万2 小时前发布
多模态算法实习生（J107216）
百度 · 北京市
AI 估算 · 0.4–0.6千2 小时前发布
Watch Jobs