中科曙光
【2027】AI应用研发工程师-昆山(J14447)
【2027】AI应用研发工程师-昆山(J14447)
发布于 5 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Cuda
Gpu编程
Pytorch
Sglang
Vllm
大模型推理优化
值不值得投
75综合评分
综合评分 75
AI大模型推理优化核心岗，技术前沿且成长空间大，薪资竞争力强，但技术门槛高且工作强度可能较大。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
3.5万
与算法优化工程师中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 540 个在招 · 其中算法优化工程师 17 个
市场机会
选择不多
苏州 · 算法优化工程师 · 8 个在招
职位详情
关于这个职位
该职位主要负责大模型推理框架（如vLLM、SGLang）的升级与适配，支持模型部署与性能调优
你需要分析推理性能瓶颈，优化KV Cache、并发调度等关键链路，并沉淀部署最佳实践
最低要求
硕士以上学历，计算机、人工智能、软件工程等相关专业优先
熟悉 C/C++ 或 Python，了解 PyTorch 或 Transformers 基础使用
熟悉 Linux、Docker，了解 Kubernetes 或容器化部署优先
理解主流大模型结构、推理流程、显存占用和 batch 机制
了解 CUDA、GPU 编程、并行计算或高性能计算基础
理解矩阵计算、Attention、MoE、量化等大模型核心计算模式
工作职责
参与 vLLM、SGLang、Transformers 等主流推理框架的版本升级、插件适配和镜像交付
支持模型上线、部署调参、压测验证和问题定位
分析 TTFT、TPOT、吞吐、显存占用和稳定性等推理性能瓶颈
参与 KV Cache、batching、并发调度、模型加载等关键链路优化
沉淀模型部署最佳实践、适配文档和问题解决方案
优先资格
参与 GEMM、Attention、MoE、量化/反量化等核心算子的性能分析与优化
分析 AllReduce、AllGather、All-to-All 等分布式通信开销
参与 kernel fusion、算子调度、编译优化和硬件特性适配
使用 profiler 工具定位 GPU kernel、显存访问、通信链路等性能瓶颈
配合框架和部署团队完成端到端性能优化验证
AI 洞察
优缺点分析
优点
- 处于AI大模型基础设施核心领域，技术壁垒高，能积累深厚的底层算力优化经验
- 接触vLLM、CUDA等前沿技术栈，行业前景广阔，个人技术价值提升快
- 昆山地区生活成本相对一线城市较低，结合该岗位的高技术溢价，性价比突出
- 技术难度极大，需要深入理解GPU底层架构、分布式通信及算子优化，学习曲线陡峭
- 适合对底层系统、GPU编程和高性能计算有浓厚兴趣，具备扎实计算机基础且愿意深耕AI基础设施的硕士及以上研发人才
缺点 / 挑战
- 性能调优和压测验证工作通常面临严格的交付指标，排查底层疑难杂症的压力较大
角色解读
- 可向大模型推理优化专家、AI系统架构师方向发展，掌握行业前沿的算力优化技术
- 在AI基础设施团队担任核心技术骨干，主导端到端性能优化与硬件特性适配
- 负责大模型推理框架（如vLLM、SGLang）的升级、适配与交付，支持模型上线部署与压测验证
- 深入分析推理性能瓶颈，优化KV Cache、并发调度、模型加载等关键链路
- 沉淀模型部署最佳实践、适配文档和问题解决方案，提升整体部署效率
- 精通C/C++或Python，熟悉PyTorch/Transformers及Linux/Docker/K8s等容器化技术
- 深入理解大模型结构、推理流程、显存机制，掌握CUDA/GPU编程及高性能计算基础
- 理解矩阵计算、Attention、MoE、量化等大模型核心计算模式，具备底层性能分析能力
申请策略
- 了解中科曙光在算力基础设施和超算领域的业务布局，准备关于大模型推理性能指标（TTFT、TPOT、吞吐量）优化的深度思考
- 关注公司在AI服务器、液冷技术及智算中心建设方面的最新动态，展现对公司业务方向的契合度
- 突出在CUDA编程、算子优化、分布式通信或大模型推理框架（vLLM/SGLang）方面的实际项目经验
- 展示使用profiler工具定位并解决GPU显存或计算瓶颈的具体案例，附带量化性能提升指标
- 强调对大模型核心计算模式（如Attention、MoE、量化）的深入理解及工程落地能力
- 深入学习CUDA编程模型、Triton语言或底层算子开发，熟悉主流大模型推理加速技术（如PagedAttention、FlashAttention）
- 研究分布式推理中的通信开销优化策略，如计算与通信重叠、拓扑感知调度等
面试指南
- 采用STAR法则：先说明遇到的性能瓶颈背景，再阐述使用的分析工具（如profiler）和定位思路，接着详细说明优化方案（如算子融合、通信重叠），最后量化优化带来的性能提升指标
- 对于底层原理问题，采用‘概念解释+核心机制+工程实现’的结构，先讲清楚理论原理，再结合代码或框架实现细节进行说明
- 请详细描述你如何分析和优化大模型推理过程中的显存占用和吞吐量瓶颈？
- 在CUDA编程中，你是如何进行kernel fusion或算子调度的？
- 请解释vLLM中PagedAttention的原理及其对显存管理的优化作用
- 在分布式推理中，如何分析和优化AllReduce等通信开销？
- 复习大模型推理核心机制（如KV Cache、Batching、量化），准备1-2个自己主导的底层性能优化项目案例
- 了解中科曙光的算力产品线及智算中心解决方案，思考大模型推理优化在实际业务场景中的落地价值
职位点评
薪资福利75
成长发展90
工作生活50
使命价值80
薪资福利
75中等
岗位属于AI核心研发，技术门槛高，薪资在昆山地区具有较强竞争力，但JD未明确披露具体薪资和福利细节。
薪资信号未披露（AI估算：2.5千–4.5万/月）
成长发展
90较高
涉及大模型推理框架、CUDA底层优化等前沿技术，技术壁垒极高，能极大提升个人在AI基础设施领域的核心竞争力。
技术前沿前沿/新兴技术
技术栈vLLM、SGLang、Transformers、CUDA、GPU编程、PyTorch、Kubernetes、kernel fusion
业务类型ambiguous
工作生活
50较低
岗位位于昆山，生活成本相对较低，但底层性能优化和压测验证工作通常伴随较高的交付压力，JD未提及工作模式和WLB相关信息。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
致力于大模型推理性能优化，推动AI技术的高效落地，对人工智能基础设施发展具有积极意义。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs