中国平安
算力模型优化专家/工程师
算力模型优化专家/工程师
发布于 3 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Cuda
Gpu集群
Llm推理优化
Pytorch
Sglang
Tensorrt-Llm
Vllm
性能调优
模型量化
值不值得投
72综合评分
综合评分 72
顶尖大厂、前沿AI推理技术栈、高技术壁垒、发展性极强
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.8万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 12980 个在招
职位详情
关于这个职位
负责搭建和优化自有算力集群的LLM及多模态推理服务，通过深度调优vLLM等引擎、实施量化方案及优化核心链路（如KV Cache、批处理），最大化GPU利用率并降低延迟
需具备故障排查与性能压测能力，保障高并发下的服务稳定性
最低要求
计算机、软件工程、电子信息等相关专业，硕士及以上
优秀可放宽本科
年及以上大模型推理/深度学习系统优化相关经验
有GPU 推理集群、LLM 在线推理服务调优经验优先
熟练Python，熟悉 PyTorch
精通至少一款主流推理引擎（vLLM/SGLang/TensorRT-LLM），理解其内部调度、KV 缓存、批调度原理
熟悉LLM基础架构，熟悉AWQ/GPTQ/FP8 等推理量化方案，能够独立做量化精度与性能对比验证
不需要自研量化算法
熟悉 GPU 基础指标：SM 利用率、显存、HBM 带宽、NCCL，能看懂 nvidia-smi、nsys 等工具，独立定位推理瓶颈（显存瓶颈/算力瓶颈/调度瓶颈）
具备基准测试能力，会设计压测脚本，对比不同参数、不同模型的吞吐、延迟、GPU 利用率指标，用数据驱动优化决策
具备良好工程落地能力，擅长排查线上推理故障，能把调研方案快速 POC、上线
有在线推理服务、多模型混部、负载调度经验加分
工作职责
负责 LLM、多模态模型推理系统调优，基于 vLLM、TensorRT-LLM、SGLang 等主流开源推理引擎做深度适配、参数调优、调度策略优化
负责推理侧量化方案选型、验证与落地：GPTQ、AWQ、FP8、INT4/INT8 量化，评估量化对精度、吞吐、显存占用的影响，输出上线可用的量化方案
优化推理核心链路：连续批处理、PagedAttention、KV Cache 管理、长上下文、投机解码、请求负载调度，设计合理的队列、限流、分片策略，解决流量波动下 GPU 资源浪费、排队、OOM 等问题
负责 GPU 集群推理服务的观测、瓶颈定位与故障排查：监控 GPU 显存、算力、SM 利用率、带宽、请求延迟、错误栈，定位推理引擎、调度、模型加载层面的瓶颈，输出优化方案
对接各类开源LLM、多模态模型，完成接入、格式转换、推理验证，评估不同模型在我们 GPU 集群上的性能表现，输出报告
优先资格
加分项：懂Docker/K8s、GPU集群调度、多模态模型推理、长上下文优化、投机解码落地经验
AI 洞察
优缺点分析
优点
- 接触前沿的大模型推理技术栈，拥有公司级海量算力资源进行实战优化，技术壁垒高
- 需要深入理解GPU硬件特性与编译器底层，调试难度大，对系统稳定性要求极高
- 喜欢钻研底层系统、对性能极致追求、具备扎实计算机体系结构基础的工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向AI基础设施架构师、大模型系统专家方向发展，成为连接算法与硬件的关键角色
- 专注于LLM和多模态模型在GPU集群上的推理加速与系统优化，而非模型训练
- 精通vLLM/TensorRT-LLM等推理引擎底层原理，掌握GPU量化技术与性能调优手段
申请策略
- 准备关于KV Cache管理、连续批处理等核心机制的深度面试题，展现理论结合实践的能力
- 突出展示使用vLLM/TensorRT-LLM优化具体模型吞吐量的案例，量化提升百分比
- 深入学习CUDA编程、NCCL通信库原理，掌握nsys等性能分析工具的进阶用法
面试指南
- 采用STAR法则（情境、任务、行动、结果），重点强调数据驱动的优化过程和最终的性能指标提升
- 请解释vLLM中PagedAttention的工作原理及其优势
- 如何评估INT8量化对LLM精度的影响？有哪些补偿策略？
- 面对突发流量高峰，如何设计推理服务的限流与降级策略？
- 请描述一次你定位并解决GPU OOM问题的经历
- 复习Transformer架构细节，熟悉常见GPU性能瓶颈（Memory Bound vs Compute Bound）的判断方法
职位点评
薪资福利75
成长发展90
工作生活50
使命价值60
薪资福利
75中等
作为上市巨头企业，虽然薪资面议，但通常提供具有竞争力的薪酬包和完善的福利体系，符合市场水准。
薪资信号面议 (3.5千–6.0万/月)
成长发展
90较高
职位涉及最前沿的LLM推理优化技术，技术栈先进，成长空间巨大，能满足强烈的技术发展动机。
技术前沿前沿/新兴技术
技术栈LLM、vLLM、TensorRT-LLM、SGLang、GPU、PyTorch、Quantization
业务类型profit_center
工作生活
50较低
未明确提及弹性工作制，且大厂核心研发岗通常工作强度较大，WLB一般。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
60中等
属于金融科技领域的基础设施支撑，虽无直接社会公益属性，但提升了AI服务的效率与普及度。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs