中科曙光
【2027】大模型推理引擎研发工程师-天津(J14433)
【2027】大模型推理引擎研发工程师-天津(J14433)
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Ascend
Cuda
Fastertransformer
Opencl
Sglang
Tensorrt-Llm
Vllm
分布式部署
大模型推理
值不值得投
78综合评分
综合评分 78
核心算力赛道、前沿技术栈、技术成长空间极大，但工作强度与WLB情况未明确。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
3.5万
与算法优化工程师中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 540 个在招 · 其中算法优化工程师 17 个
市场机会
选择不多
天津 · 算法优化工程师 · 7 个在招
职位详情
关于这个职位
该职位主要负责大语言模型及多模态模型推理引擎的研发与优化，支持新一代自研AI芯片的推理引擎开发
你需要运用C/C++和Python等语言，结合CUDA等底层编程技术，优化大模型推理性能并打造极致性能优势
最低要求
熟练掌握C/C++、Python编程语言，具备良好的coding和调试能力
熟悉GPU/AI芯片编程，如CUDA, OpenCL, Ascend等，熟悉cutlass等加速库是加分项
熟悉主流大模型推理框架，如vLLM，sglang，tensorrt-llm，FasterTransformer等
熟悉各类深度学习网络和算子底层实现细节，训练和推理模型调试、调优有实操经验优先
熟悉并行策略，如模型并行、流水线并行等，了解NVLINK、GPU通信者优先
具备GPU、AI芯片体系结构知识，熟悉芯片特性，具备系统性能分析和调优经验优先
工作职责
研发及优化语言大模型及多模态等推理引擎、PD分离推理调度系统
支持新一代自研AI芯片推理引擎开发优化，优化大模型推理性能，打造极致性能优势
优先资格
参与vllm、sglang等开源项目贡献者
熟悉推理服务框架，具备服务部署经验者优先，有超大模型分布式部署经验优先
熟悉deepep、RCCL等分布式通信库
AI 洞察
优缺点分析
优点
- 处于AI算力与大模型核心赛道，技术壁垒高，个人技术护城河深
- 能够接触到新一代自研AI芯片及前沿推理框架，积累稀缺的软硬协同优化经验
- 底层系统开发与芯片级调优难度极大，需要深厚的计算机体系结构和编译原理功底
- 适合对底层系统、编译器和硬件架构有浓厚兴趣，具备扎实C++功底和极客精神，渴望在AI算力基础设施领域深耕的技术人才
缺点 / 挑战
- 大模型技术迭代极快，需要持续跟进最新的推理框架和硬件架构，学习压力较大
角色解读
- 可向大模型底层系统架构师、AI芯片软件栈专家方向发展
- 随着算力需求的爆发，具备软硬协同优化能力的专家在行业内极具稀缺性，未来可主导核心推理引擎的演进
- 研发和优化大语言模型及多模态模型的推理引擎，设计并实现PD分离推理调度系统
- 支持新一代自研AI芯片的推理引擎开发，通过底层算子优化和并行策略提升大模型推理性能
- 精通C/C++和Python，具备扎实的代码和调试能力
- 熟悉GPU/AI芯片底层编程（如CUDA、OpenCL）及主流大模型推理框架（如vLLM、TensorRT-LLM）
- 掌握模型并行、流水线并行等分布式策略及GPU通信原理，了解芯片体系结构
申请策略
- 了解中科曙光在自研AI芯片（如海光DCU）及算力集群方面的业务布局，面试时可结合其硬件特性探讨推理优化方案
- 重点突出在CUDA编程、算子优化或主流推理框架（vLLM/sglang）上的实际项目经验
- 若有相关开源项目贡献（如PR被合并）或超大模型分布式部署经验，务必放在显眼位置
- 深入理解Transformer底层计算逻辑及显存优化技术（如PagedAttention）
- 熟悉分布式通信库（如NCCL/RCCL）及GPU互联拓扑（NVLink）对通信性能的影响
面试指南
- 采用STAR法则，重点突出“问题背景-底层原理分析-具体优化手段（如算子融合、显存管理、通信重叠）-量化收益”
- 对于架构设计问题，先明确设计目标（如最大化吞吐或最小化延迟），再展开模块划分和核心数据结构设计
- 请详细描述你在vLLM或TensorRT-LLM中做过的性能优化，具体提升了多少指标？
- 在模型并行和流水线并行中，如何解决通信瓶颈和显存碎片问题？
- 针对自研AI芯片（如Ascend或DCU），在适配CUDA生态或进行算子迁移时遇到过哪些挑战？
- 请解释PD分离推理调度系统的核心设计思路及其对吞吐量和延迟的影响
- 复习GPU体系结构、CUDA编程模型及主流大模型推理框架的源码实现
- 准备1-2个自己主导的底层性能调优案例，能够清晰画出系统架构图和性能瓶颈分析图
职位点评
薪资福利80
成长发展90
工作生活50
使命价值85
薪资福利
80较高
岗位属于AI算力核心研发，技术壁垒高，薪资在天津地区具备较强竞争力，但JD未明确披露具体薪资和福利细节。
薪资信号未披露（AI估算：2.5千–4.5万/月）
成长发展
90较高
涉及大模型推理引擎、自研AI芯片等前沿技术，技术栈极具深度和前瞻性，能为个人积累极高的技术壁垒。
技术前沿前沿/新兴技术
技术栈C/C++、Python、CUDA、OpenCL、Ascend、vLLM、sglang、TensorRT-LLM、FasterTransformer、NVLINK、RCCL
业务类型profit_center
工作生活
50较低
JD未提及工作模式和加班情况，底层研发和芯片适配通常工作节奏较快，WLB情况无法明确判断。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
致力于大模型推理性能优化和自研AI芯片生态建设，对推动国产算力发展和AI技术落地具有较高的社会价值和行业使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
Watch Jobs