中科曙光
【2027】AI应用研发工程师-西安(J14448)
【2027】AI应用研发工程师-西安(J14448)
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Cuda
Gpu编程
Pytorch
Sglang
Vllm
大模型推理优化
值不值得投
76综合评分
综合评分 76
西安中科曙光大模型推理优化核心岗，技术栈前沿且极具成长性，薪资竞争力强，但WLB未明确。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
2万
比算法优化工程师中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 540 个在招 · 其中算法优化工程师 17 个
市场机会
选择不多
西安 · 算法优化工程师 · 10 个在招
职位详情
关于这个职位
该职位主要负责大模型推理框架（如vLLM、SGLang）的升级、适配与部署优化，分析并解决TTFT、吞吐、显存等性能瓶颈
你需要深入参与KV Cache、并发调度等关键链路优化，并沉淀模型部署的最佳实践，是连接大模型算法与高效落地的核心研发角色
最低要求
硕士以上学历，计算机、人工智能、软件工程等相关专业优先
熟悉 C/C++ 或 Python，了解 PyTorch 或 Transformers 基础使用
熟悉 Linux、Docker，了解 Kubernetes 或容器化部署优先
理解主流大模型结构、推理流程、显存占用和 batch 机制
了解 CUDA、GPU 编程、并行计算或高性能计算基础
理解矩阵计算、Attention、MoE、量化等大模型核心计算模式
工作职责
参与 vLLM、SGLang、Transformers 等主流推理框架的版本升级、插件适配和镜像交付
支持模型上线、部署调参、压测验证和问题定位
分析 TTFT、TPOT、吞吐、显存占用和稳定性等推理性能瓶颈
参与 KV Cache、batching、并发调度、模型加载等关键链路优化
沉淀模型部署最佳实践、适配文档和问题解决方案
优先资格
参与 GEMM、Attention、MoE、量化/反量化等核心算子的性能分析与优化
分析 AllReduce、AllGather、All-to-All 等分布式通信开销
参与 kernel fusion、算子调度、编译优化和硬件特性适配
使用 profiler 工具定位 GPU kernel、显存访问、通信链路等性能瓶颈
配合框架和部署团队完成端到端性能优化验证
AI 洞察
优缺点分析
优点
- 处于AI大模型落地的核心环节，技术壁垒高，能积累深厚的底层优化与系统架构经验
- 接触vLLM、SGLang等前沿开源框架及CUDA/GPU底层编程，技术栈极具市场竞争力
- 大模型推理优化涉及底层硬件与复杂算法，技术难度大，需要持续跟进最新学术与工业界进展
- 适合对底层系统、GPU编程及大模型推理机制有浓厚兴趣，具备扎实计算机基础与性能调优经验的硕士及以上技术人才
缺点 / 挑战
- 性能调优过程可能面临复杂的分布式通信与显存瓶颈问题，排查难度较高
角色解读
- 从大模型部署工程师成长为推理优化专家，深入底层算子与硬件架构
- 未来可向AI基础架构架构师、高性能计算专家或AI平台技术负责人方向发展
- 负责大模型推理框架（如vLLM、SGLang）的升级、适配与交付，确保模型高效上线
- 深入分析并优化TTFT、吞吐、显存占用等推理性能瓶颈，参与KV Cache、并发调度等关键链路优化
- 沉淀模型部署的最佳实践与解决方案，提升整体部署效率与稳定性
- 熟练掌握C/C++或Python，熟悉PyTorch/Transformers及Linux/Docker/K8s等容器化技术
- 深入理解大模型结构、推理流程及CUDA/GPU编程，具备高性能计算基础
- 掌握矩阵计算、Attention、MoE等核心计算模式，能使用profiler工具定位性能瓶颈
申请策略
- 了解中科曙光在智算中心及AI服务器领域的业务布局，面试时可结合其硬件特性探讨软硬协同优化的思路
- 突出在CUDA编程、GPU性能优化、大模型推理框架（vLLM/SGLang）方面的项目经验
- 展示使用profiler工具定位并解决显存、通信或计算瓶颈的具体案例与量化收益
- 强调在分布式训练/推理、算子优化（如GEMM、Attention）方面的实践
- 深入学习CUDA编程及Triton等GPU编程语言，熟悉主流推理框架的底层源码
- 补充分布式系统通信原理（如NCCL、AllReduce）及编译器优化（如TVM、MLIR）知识
面试指南
- 采用“背景-问题-分析-解决-收益”的STAR法则回答项目经验，突出量化指标
- 对于原理性问题，先阐述核心概念，再结合具体场景说明实现细节，最后对比优化前后的性能数据
- 请简述vLLM中PagedAttention的原理及其对显存利用率的提升机制
- 在模型推理中，如何分析和优化TTFT与TPOT指标？
- 请分享一次使用profiler定位GPU kernel或通信链路性能瓶颈的经历
- 在分布式推理中，AllReduce和AllGather的通信开销如何优化？
- 针对MoE模型，其推理过程中的显存占用和计算特点是什么？如何优化？
- 复习大模型推理核心机制（如KV Cache、Batching、量化）及CUDA编程基础
职位点评
薪资福利75
成长发展90
工作生活50
使命价值80
薪资福利
75中等
硕士学历且从事大模型核心推理优化，薪资在西安地区具有较强竞争力，但JD未明确披露具体薪资与福利细节。
薪资信号未披露（AI估算：1.5千–2.5万/月）
成长发展
90较高
岗位涉及大模型底层推理优化、CUDA编程及分布式通信，技术栈极其前沿，能极大提升个人在AI基础架构领域的硬核技术壁垒。
技术前沿前沿/新兴技术
技术栈vLLM、SGLang、Transformers、CUDA、GPU编程、KV Cache、MoE、量化、kernel fusion
业务类型ambiguous
工作生活
50较低
JD未提及工作模式与WLB相关信息，但大模型底层优化岗位通常面临较高的技术挑战与项目交付压力，工作强度可能较大。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
大模型推理优化是推动AI技术落地的关键环节，具有较高的行业前景与技术使命感，能直接赋能各类AI应用的规模化落地。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs