中科曙光
【2027】大模型推理优化工程师-青岛(J14460)
【2027】大模型推理优化工程师-青岛(J14460)
发布于 5 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Ascend
Cuda
Fastertransformer
Opencl
Sglang
Tensorrt-Llm
Vllm
分布式通信
模型量化
值不值得投
79综合评分
综合评分 79
国产AI芯片与大模型底层优化核心岗，技术前沿且成长空间大，薪资具竞争力，WLB视具体团队而定。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
3.5万
与算法优化工程师中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 540 个在招 · 其中算法优化工程师 17 个
市场机会
选择不多
青岛 · 算法优化工程师 · 7 个在招
职位详情
关于这个职位
该职位主要负责大模型及多模态推理引擎的研发与优化，支持新一代自研AI芯片的推理引擎开发
你需要通过模型量化、算子优化、通信优化等手段提升大模型推理性能，打造极致性能优势
适合具备扎实C/C++/Python编程及GPU/AI芯片底层优化经验的候选人
最低要求
熟练掌握C/C++、Python编程语言，具备良好的coding和调试能力
熟悉GPU/AI芯片编程，如CUDA, OpenCL, Ascend等
熟悉主流大模型推理框架，如vLLM，sglang，tensorrt-llm，FasterTransformer等
熟悉各类深度学习网络和算子底层实现细节，有训练和推理模型调试、调优实操经验
熟悉并行策略，如模型并行、流水线并行等，了解NVLINK、GPU通信
具备GPU、AI芯片体系结构知识，熟悉芯片特性，具备系统性能分析和调优经验
工作职责
研发及优化语言大模型及多模态等推理引擎、PD分离推理调度系统
支持新一代自研AI芯片推理引擎开发优化，手段包括但不限于模型量化、算子优化、通信优化等方式，优化大模型推理性能，打造极致性能优势
优先资格
熟悉cutlass等加速库
参与vllm、sglang等开源项目贡献
熟悉推理服务框架，具备服务部署经验，有超大模型分布式部署经验
熟悉deepep、RCCL等分布式通信库
AI 洞察
优缺点分析
优点
- 处于AI大模型和国产AI芯片两大风口交汇点，技术壁垒高，个人核心竞争力极强
- 能够深入接触自研AI芯片底层，积累稀缺的软硬件协同优化经验，行业认可度极高
- 参与开源项目（如vLLM、sglang）和前沿推理框架研发，技术视野开阔，容易产出高价值技术成果
- 大模型推理优化涉及底层硬件和复杂分布式系统，技术难度极大，需要持续学习跟进最新技术
- 自研芯片的生态和工具链可能处于完善阶段，开发过程中可能会遇到较多底层Bug和适配难题
- 适合对底层系统、芯片架构和AI性能优化有浓厚兴趣，具备扎实C++/CUDA功底，喜欢钻研硬核技术的候选人
缺点 / 挑战
暂无明显挑战项
角色解读
- 纵向可成长为大模型推理优化专家或AI芯片底层架构师，成为该细分领域的顶尖技术人才
- 横向可向AI系统架构师、大模型部署与工程化负责人方向发展，统筹整体AI基础设施的性能优化
- 研发和优化大语言模型及多模态模型的推理引擎，提升模型推理速度和吞吐量
- 针对自研AI芯片进行推理引擎的底层开发，通过模型量化、算子优化和通信优化等手段打造极致性能
- 设计和优化PD分离推理调度系统，解决大模型分布式部署和推理过程中的性能瓶颈
- 精通C/C++和Python，具备扎实的编程和底层调试能力
- 深入理解GPU/AI芯片架构及编程（如CUDA、OpenCL、Ascend），熟悉主流大模型推理框架（如vLLM、sglang）
- 掌握深度学习网络底层实现及并行计算策略（模型并行、流水线并行），具备系统级性能调优经验
申请策略
- 提前了解中科曙光自研AI芯片（如深算系列）的架构特点及生态现状，面试时能提出针对性见解
- 重点突出在CUDA/OpenCL/Ascend等GPU/AI芯片编程方面的实际项目经验及性能提升数据
- 详细列出对vLLM、sglang等主流推理框架的源码阅读、二次开发或开源贡献经历
- 展示在模型量化、算子融合、分布式通信（如NCCL/RCCL）等方面的具体优化案例和调优成果
- 深入学习Transformer架构的底层计算逻辑及FlashAttention等加速算法的实现原理
- 熟悉PD分离（Prefill-Decode Disaggregation）架构及最新的分布式推理调度策略
面试指南
- STAR法则：情境（模型规模/硬件环境）-> 任务（性能瓶颈/优化目标）-> 行动（具体优化手段如算子融合/通信重叠）-> 结果（吞吐量/延迟的具体提升指标）
- 底层原理剖析：在回答优化手段时，先阐述硬件架构限制或计算访存瓶颈（Memory Wall），再引出你的优化策略
- 请详细描述你在vLLM或sglang等推理框架中做过的优化，具体提升了多少性能？
- 在模型量化（如PTQ/QAT）过程中，如何平衡精度损失和推理速度？
- 请解释PD分离推理调度系统的原理，以及它解决了大模型推理中的什么痛点？
- 针对自研AI芯片，在算子优化和通信优化时，与NVIDIA GPU相比有哪些不同的侧重点？
- 复习CUDA编程模型、GPU内存层级结构以及Transformer各层的计算复杂度与访存特征
- 准备1-2个自己主导的底层性能调优案例，能够清晰画出优化前后的计算流或通信流对比图
职位点评
薪资福利75
成长发展90
工作生活60
使命价值85
薪资福利
75中等
大模型推理优化属于AI领域高薪技术岗，技术壁垒高，薪资具备较强竞争力，但青岛整体薪资上限略低于北上深。
薪资信号未披露（AI估算：2.5千–4.5万/月）
成长发展
90较高
岗位涉及大模型推理引擎与自研AI芯片底层优化，技术极其前沿，能积累稀缺的软硬件协同优化经验，成长空间巨大。
技术前沿前沿/新兴技术
技术栈C/C++、Python、CUDA、OpenCL、Ascend、vLLM、sglang、tensorrt-llm、FasterTransformer、模型量化、算子优化、PD分离
业务类型ambiguous
工作生活
60中等
JD未明确提及工作模式与加班情况，但底层芯片与AI引擎研发通常面临较高的技术挑战和项目交付压力，WLB情况需具体确认。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
参与国产自研AI芯片及大模型底层基础设施建设，对推动国产AI算力生态发展具有较高的社会价值和使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs