中科曙光
AI应用研发工程师(J14472)
AI应用研发工程师(J14472)
发布于 6 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Cuda
Gpu编程
Pytorch
Sglang
Vllm
高性能计算
值不值得投
75综合评分
综合评分 75
前沿大模型推理优化岗，技术壁垒高、成长空间大，薪资竞争力强，但底层调优工作强度与压力可能较大。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
3.5万
与算法优化工程师中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 540 个在招 · 其中算法优化工程师 17 个
市场机会
选择不多
天津 · 算法优化工程师 · 7 个在招
职位详情
关于这个职位
该职位主要负责大模型推理框架（如vLLM、SGLang）的升级、适配与部署调优，分析并解决推理过程中的性能瓶颈
你需要深入理解大模型结构与底层计算模式，参与关键链路优化及算子性能分析，沉淀模型部署的最佳实践
最低要求
本科以上学历，计算机、人工智能、软件工程等相关专业优先
熟悉 C/C++ 或 Python，了解 PyTorch 或 Transformers 基础使用
熟悉 Linux、Docker，了解 Kubernetes 或容器化部署优先
理解主流大模型结构、推理流程、显存占用和 batch 机制
了解 CUDA、GPU 编程、并行计算或高性能计算基础
理解矩阵计算、Attention、MoE、量化等大模型核心计算模式
工作职责
参与 vLLM、SGLang、Transformers 等主流推理框架的版本升级、插件适配和镜像交付
支持模型上线、部署调参、压测验证和问题定位
分析 TTFT、TPOT、吞吐、显存占用和稳定性等推理性能瓶颈
参与 KV Cache、batching、并发调度、模型加载等关键链路优化
沉淀模型部署最佳实践、适配文档和问题解决方案
优先资格
参与 GEMM、Attention、MoE、量化/反量化等核心算子的性能分析与优化
分析 AllReduce、AllGather、All-to-All 等分布式通信开销
参与 kernel fusion、算子调度、编译优化和硬件特性适配
使用 profiler 工具定位 GPU kernel、显存访问、通信链路等性能瓶颈
配合框架和部署团队完成端到端性能优化验证
AI 洞察
优缺点分析
优点
- 处于大模型落地核心环节，推理优化是当前AI行业最紧缺、最具技术壁垒的方向之一，职业前景广阔
- 能够深入接触vLLM、SGLang等前沿开源框架及底层GPU硬件特性，技术栈极具含金量
- 公司在算力基础设施领域具有深厚积累，能提供丰富的算力资源与真实的业务场景支撑
- 大模型推理优化涉及底层硬件、算子、框架等多个维度，技术深度大，学习曲线陡峭
- 适合对底层技术有浓厚兴趣、具备扎实C++/CUDA基础，且渴望在AI基础设施与大模型部署领域深耕的技术极客
缺点 / 挑战
- 性能调优往往需要反复压测与排查，对问题定位能力和耐心有较高要求，工作可能面临较大压力
角色解读
- 纵向可深耕AI基础设施与高性能计算领域，成长为大模型推理优化专家或底层系统架构师
- 横向可向AI平台工程、大模型部署架构或AI算力调度等方向拓展，成为复合型AI工程人才
- 负责vLLM、SGLang等主流大模型推理框架的版本升级、插件适配与镜像交付，保障模型高效上线
- 深入分析TTFT、TPOT、吞吐量等推理性能指标，定位并解决显存占用、并发调度等底层性能瓶颈
- 参与KV Cache、算子融合、分布式通信等关键链路的优化，并沉淀模型部署的最佳实践与文档
- 扎实的C/C++或Python编程能力，熟悉PyTorch/Transformers框架及Linux/Docker/K8s等容器化部署技术
- 深入理解大模型结构、推理流程及Attention、MoE、量化等核心计算模式
- 具备CUDA、GPU编程及高性能计算基础，能使用profiler工具定位GPU kernel及通信链路瓶颈
申请策略
- 提前了解公司在智算中心及AI算力底座方面的业务布局，面试时可结合其硬件生态探讨软硬协同优化的思路
- 重点突出在vLLM、SGLang或TensorRT-LLM等推理框架上的实际项目经验，包括版本升级、插件开发或适配成果
- 详细列举使用profiler工具定位GPU kernel、显存访问或分布式通信瓶颈的具体案例及优化收益
- 展示对Attention、MoE、量化等核心算子的优化经验，或参与kernel fusion、算子调度的底层开发经历
- 深入学习CUDA编程与GPU体系结构，掌握Nsight Compute等性能分析工具的使用
- 熟悉分布式训练与推理中的通信原语，了解AllReduce、AllGather等集合通信的底层实现与开销分析
面试指南
- STAR法则：针对性能优化问题，按照情境（业务背景）、任务（性能指标要求）、行动（使用的工具、分析的链路、优化的手段）、结果（具体的性能提升数据）来结构化回答
- 原理+实践：先简述底层原理（如Attention计算流程、显存占用机制），再结合具体代码或工具说明排查和优化过程
- 请详细描述一次你使用profiler工具定位并解决GPU kernel或显存访问性能瓶颈的经历
- 在vLLM或SGLang中，KV Cache的管理机制是怎样的？你是如何参与相关链路优化的？
- 针对大模型推理中的Attention或MoE算子，你做过哪些性能分析与优化？取得了怎样的收益？
- 如何分析和优化分布式推理中的AllReduce、AllGather等通信开销？
- 请解释大模型推理中TTFT和TPOT的含义，以及在实际压测中如何平衡吞吐量与延迟？
- 复习大模型推理的核心机制（如PagedAttention、Continuous Batching），并了解vLLM/SGLang的最新特性与源码结构
职位点评
薪资福利75
成长发展90
工作生活50
使命价值80
薪资福利
75中等
大模型推理优化属于当前市场高薪紧缺方向，薪资具备较强竞争力，但JD未明确披露具体薪资与福利细节。
薪资信号未披露（AI估算：2.5千–4.5万/月）
成长发展
90较高
岗位深入大模型底层推理框架与GPU算子优化，技术壁垒高，处于AI技术最前沿，个人技术成长空间极大。
技术前沿前沿/新兴技术
技术栈vLLM、SGLang、Transformers、PyTorch、CUDA、GPU编程、KV Cache、Attention、MoE、量化
业务类型ambiguous
工作生活
50较低
JD未提及工作模式与加班情况，且底层性能调优与压测验证通常需要跟进项目进度，工作强度可能较大。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
推动大模型高效落地与算力基础设施优化，对AI行业发展具有积极的底层支撑作用，社会与行业价值较高。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs