中科曙光
【2027】大模型推理引擎研发工程师-青岛(J14457)
【2027】大模型推理引擎研发工程师-青岛(J14457)
发布于 6 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Ai芯片
Cuda
Fastertransformer
Gpu
Opencl
Sglang
Tensorrt-Llm
Vllm
并行策略
值不值得投
75综合评分
综合评分 75
前沿AI推理优化岗位，技能要求高，成长性好，但WLB可能一般。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
2.3万
比算法优化工程师中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 540 个在招 · 其中算法优化工程师 17 个
市场机会
选择不多
青岛 · 算法优化工程师 · 7 个在招
职位详情
关于这个职位
负责语言大模型和多模态模型的推理引擎研发与优化，开发PD分离推理调度系统
支持新一代自研AI芯片的推理引擎开发，通过系统性能分析和调优，打造极致推理性能优势
最低要求
熟练掌握C/C++、Python编程语言，具备良好的coding 和调试能力;
熟悉GPU/AI芯片编程，如CUDA, OpenCL,Ascend 等，熟悉cutlass等加速库是加分项;
熟悉主流大模型推理框架，如vIlm，sglang,tensorrt-llm，FasterFransformer等;
熟悉各类深度学习网络和算子底层实现细节，训练和推理模型调试、调优有实操经验优先
熟悉并行策略，如模型并行、流水线并行等，了解 NVLINK、GPU通信者优先;
具备GPU、AI芯片体系结构知识，熟悉芯片特性，具备 系统性能分析和调优经验优先
加分项: •参与vllm、sglang等开源项目贡献者
•熟悉推理服务框架，具备服务部署经验者优先，有超大模型分布式部署经验优先
•熟悉deepep、RCCL等分布式通信库
工作职责
研发及优化语言大模型及多模态等推理引擎、PD分离推理调度系统
支持新一代自研AI芯片推理引擎开发优化，优化大模型推理性能，打造极致性能优势
AI 洞察
优缺点分析
优点
- 技术前沿，直接参与大模型和AI芯片优化，技能积累深度
- 公司平台在高性能计算领域有影响力，能接触自研芯片等核心项目
- 技术难度高，需要深入理解硬件和软件底层细节，学习曲线陡峭
- AI芯片和推理引擎领域竞争激烈，需保持技术更新
缺点 / 挑战
- 岗位挑战性强，有助于快速提升系统优化和底层开发能力
- 可能面临较高的工作强度，需在性能优化中持续攻克难题
- 适合对AI推理优化、GPU编程有浓厚兴趣，喜欢挑战技术难题，追求深度技术成长的工程师
角色解读
- 从研发工程师成长为高级工程师或技术专家，专注于AI推理优化领域
- 转向AI芯片架构设计或系统架构师，参与更底层的硬件-软件协同优化
- 在高性能计算和AI基础设施领域积累经验，有机会参与前沿技术研究
- 研发和优化语言大模型及多模态模型的推理引擎，提升计算效率
- 开发PD分离推理调度系统，优化大模型推理流程
- 支持新一代自研AI芯片的推理引擎开发，进行系统性能分析和调优
- 精通C/C++和Python编程，具备优秀的代码调试能力
- 熟练掌握GPU/AI芯片编程，如CUDA、OpenCL、Ascend，并了解cutlass等加速库
- 熟悉主流大模型推理框架，如vllm、sglang、tensorrt-llm，并有实际优化经验
- 理解深度学习网络和算子底层实现，熟悉并行策略（如模型并行、流水线并行）
申请策略
- 研究中科曙光的AI芯片技术方向和自研项目，面试中展示对公司技术的理解
- 准备具体的技术案例，如大模型推理优化或性能调优项目，用STAR法则阐述
- 突出C/C++、Python编程能力，以及GPU/AI芯片编程（如CUDA）的项目经验
- 强调大模型推理框架（如vllm）的使用或贡献，展示实际优化成果
- 列举开源项目参与、性能分析或调优案例，体现技术深度
- 深入学习CUDA编程、cutlass库和AI芯片架构，掌握底层优化技术
- 参与vllm、sglang等开源项目，积累实践经验并提升社区影响力
- 阅读相关论文，了解并行策略和分布式通信库（如deepep、RCCL）的最新进展
面试指南
- 使用STAR法则（情境、任务、行动、结果）结构化回答，突出技术细节和量化成果
- 结合具体技术栈（如CUDA、vllm）阐述原理和实践经验，避免泛泛而谈
- 强调系统性思维，说明如何从硬件、软件和算法多角度协同优化
- 请描述一个你在大模型推理优化中遇到的挑战及解决方案
- 如何优化GPU上的推理性能，可以分享具体方法吗？
- 你对vllm或sglang等推理框架的理解和使用经验如何？
- 在并行策略中，模型并行和流水线并行有什么区别和应用场景？
- 复习GPU编程和深度学习推理的核心知识，准备相关技术问题
职位点评
薪资福利70
成长发展90
工作生活60
使命价值80
薪资福利
70中等
薪资可能符合青岛市场水准，但JD未明确福利待遇，补偿性动机满足程度中等。
薪资信号未披露（AI估算：1.5千–3万/月）
成长发展
90较高
岗位涉及前沿AI技术和自研芯片，技能成长空间大，发展性动机满足程度高。
技术前沿前沿/新兴技术
技术栈C++、Python、CUDA、vllm、sglang、tensorrt-llm
业务类型ambiguous
工作生活
60中等
办公模式未明确，可能需现场工作，工作与生活平衡信号不足，满足程度有限。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
AI是高速增长赛道，岗位对技术进步有积极贡献，意义感动机较好。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs