中科曙光
【2027】推理框架与部署适配/算子/编译/通信优化(J14398)
【2027】推理框架与部署适配/算子/编译/通信优化(J14398)
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Cuda
Pytorch
Sglang
Vllm
大模型推理
高性能计算
值不值得投
76综合评分
综合评分 76
AI大模型底层推理优化核心岗，技术前沿且成长空间大，薪资具竞争力，但WLB情况未知。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
2万
比算法优化工程师中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 630 个在招 · 其中算法优化工程师 34 个
市场机会
选择适中
天津 · 算法优化工程师 · 12 个在招
职位详情
关于这个职位
该职位主要负责大模型推理框架（如vLLM、SGLang）的适配、部署与性能优化，涉及算子、编译及通信层面的底层调优
你需要分析并解决推理过程中的性能瓶颈，提升模型的吞吐量与稳定性，并沉淀相关的部署最佳实践
最低要求
计算机、人工智能、软件工程等相关专业，硕士优先
熟悉 C/C++ 或 Python，了解 PyTorch 或 Transformers 基础使用
熟悉 Linux、Docker，了解 Kubernetes 或容器化部署优先
理解主流大模型结构、推理流程、显存占用和 batch 机制
了解 CUDA、GPU 编程、并行计算或高性能计算基础
理解矩阵计算、Attention、MoE、量化等大模型核心计算模式
工作职责
参与 vLLM、SGLang、Transformers 等主流推理框架的版本升级、插件适配和镜像交付
支持模型上线、部署调参、压测验证和问题定位
分析 TTFT、TPOT、吞吐、显存占用和稳定性等推理性能瓶颈
参与 KV Cache、batching、并发调度、模型加载等关键链路优化
沉淀模型部署最佳实践、适配文档和问题解决方案
优先资格
使用过 vLLM、SGLang、TensorRT-LLM、TGI 等推理框架
了解 CUDA 基础、GPU 性能分析或分布式推理
有模型部署、模型压测、RAG/Agent 应用或开源贡献经验
有 CUDA、Triton、TVM、MLIR、NCCL、CUTLASS 等实践经验
参加过 HPC、编译器、并行计算、深度学习系统相关项目
AI 洞察
优缺点分析
优点
- 处于AI大模型基础设施的核心赛道，技术壁垒高，个人能力成长快
- 接触vLLM、CUDA等前沿技术，积累底层系统优化经验
- 中科曙光在算力领域具有深厚的行业背景，平台资源丰富
- 大模型推理优化涉及底层硬件与复杂算法，技术难度大，学习曲线陡峭
- 适合对底层系统、高性能计算和AI基础设施有浓厚兴趣，具备扎实编程功底和钻研精神的计算机或AI专业求职者
缺点 / 挑战
- 需要持续跟进快速迭代的开源框架和前沿论文，技术更新压力较大
角色解读
- 可向大模型系统架构师、高性能计算专家或AI基础设施技术负责人方向发展
- 在AI算力需求爆发的背景下，底层推理优化人才具有极高的行业稀缺性和广阔前景
- 负责大模型推理框架（如vLLM、SGLang）的部署、适配与性能调优
- 分析并解决TTFT、TPOT、显存占用等推理瓶颈
- 优化KV Cache、并发调度等关键链路
- 扎实的C/C++/Python编程能力，熟悉Linux与容器化部署
- 深入理解大模型结构、推理流程及CUDA/GPU编程基础
- 掌握Attention、MoE、量化等核心计算模式
申请策略
- 了解中科曙光在智算中心和AI服务器领域的业务布局，面试时可结合其硬件生态探讨软硬协同优化的思路
- 突出在CUDA编程、GPU性能分析或大模型推理框架（如vLLM）方面的项目经验
- 展示在模型部署、压测或开源社区（如Triton、TVM）的贡献
- 强调对大模型底层计算模式（Attention、MoE）的理解
- 深入学习vLLM或SGLang的源码及核心机制（如PagedAttention）
- 动手实践CUDA编程或Triton内核编写，提升底层算子开发能力
面试指南
- 采用“原理阐述+实际场景+优化手段+结果收益”的结构
- 先准确解释技术原理，再结合具体项目或模型场景，说明采取了什么优化策略（如算子融合、内存复用），最后用具体指标（如吞吐提升、延迟降低）量化成果
- 请简述vLLM中PagedAttention的原理及其如何解决显存碎片化问题？
- 在模型推理中，TTFT和TPOT分别受哪些因素影响？如何针对性优化？
- 请解释KV Cache的机制，以及在长文本推理时如何进行优化？
- 你在使用CUDA或Triton进行算子开发时，遇到过哪些性能瓶颈？是如何解决的？
- 复习大模型推理的核心概念（如Prefill/Decode阶段、Batching策略）
- 准备1-2个自己主导或深度参与的底层优化/部署项目，能够清晰画出架构图并解释技术细节
职位点评
薪资福利75
成长发展90
工作生活50
使命价值80
薪资福利
75中等
大模型推理优化属于高壁垒技术岗，薪资在同类二线城市中具备竞争力，但JD未明确披露具体薪资与福利细节。
薪资信号未披露（AI估算：1.5千–2.5万/月）
成长发展
90较高
岗位处于AI大模型基础设施的核心前沿领域，技术栈极具深度，能接触到vLLM、CUDA等顶尖技术，个人技术成长空间巨大。
技术前沿前沿/新兴技术
技术栈vLLM、SGLang、CUDA、PyTorch、Triton、TVM、Kubernetes
业务类型ambiguous
工作生活
50较低
JD未提及工作模式与加班情况，且底层系统优化岗位通常面临较大的项目交付和性能攻坚压力，WLB情况无法判断。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
岗位致力于大模型推理性能优化，直接推动AI技术的落地与普及，具有较高的技术使命感与行业社会价值。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs