Sugon logo
中科曙光
大模型推理引擎研发工程师(J14553)

大模型推理引擎研发工程师(J14553)

发布于 1 小时前

普通员工/个人贡献者

AI 估算 · 2.5–4.5万 · AI 参考估算
中级经验
学历未注明
全职员工仅现场办公AI算法
AI算法
Ai芯片
Cuda
Tensorrt-Llm
Vllm
分布式计算
大模型推理
性能优化

值不值得投

81综合评分

综合评分 81

国产AI芯片核心研发岗,技术前沿性强,职业发展潜力大,稳定性高

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

3.5万

比AI算法中位数低

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 610 个在招

市场机会

选择面较广

北京 · AI算法 · 约 240 个在招

职位详情

关于这个职位

负责中科曙光自研AI芯片及主流GPU的大模型推理引擎研发与性能优化,包括PD分离调度系统开发

需精通C/C++/Python,深入理解CUDA/OpenCL等底层编程及vLLM、TensorRT-LLM等主流框架,致力于提升大模型推理的极致性能

最低要求

熟练掌握C/C++、Python编程语言,具备良好的coding 和调试能力;

熟悉GPU/AI芯片编程,如CUDA, OpenCL,Ascend 等,熟悉cutlass等加速库是加分项;
熟悉主流大模型推理框架,如vIlm,sglang,tensorrt-llm,FasterFransformer等;
熟悉各类深度学习网络和算子底层实现细节,训练和推理模型调试、调优有实操经验优先
熟悉并行策略,如模型并行、流水线并行等,了解 NVLINK、GPU通信者优先;
具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备 系统性能分析和调优经验优先

工作职责

研发及优化语言大模型及多模态等推理引擎、PD分离推理调度系统

支持新一代自研AI芯片推理引擎开发优化,优化大模型推理性能,打造极致性能优势

优先资格

加分项:

参与vllm、sglang等开源项目贡献者
熟悉推理服务框架,具备服务部署经验者优先,有超大模型分布式部署经验优先
熟悉deepep、RCCL等分布式通信库

AI 洞察

优缺点分析

优点

  • 处于国产AI算力核心赛道,技术壁垒极高,职业护城河深
  • 接触最前沿的大模型推理技术与自研硬件
  • 对底层原理要求极深,需兼顾软件框架与硬件特性,调试难度大
  • 具备深厚计算机体系结构功底、热爱底层技术攻坚、对国产AI芯片生态有信心的资深工程师

缺点 / 挑战

  • 国产芯片生态仍在完善中,兼容性挑战多

角色解读

  • 可向AI基础设施架构师、高性能计算专家方向发展,或在国产算力生态中成为核心技术骨干
  • 负责大模型(LLM)及多模态模型的推理引擎开发与优化,特别是针对自研AI芯片的性能适配
  • 精通C/C++/Python底层编程,熟练掌握CUDA/OpenCL等异构计算编程,深入理解Transformer架构及算子优化

申请策略

  • 重点关注公司在自研AI芯片领域的最新进展,面试时展现对软硬协同优化的独特见解
  • 突出在vLLM、TensorRT-LLM等框架下的具体优化案例,展示量化后的性能提升数据
  • 强调对GPU/NPU底层指令集的理解
  • 深入研究Cutlass库的使用,掌握分布式通信库(NCCL/RCCL)的原理与实践,关注最新的大模型推理论文

面试指南

  • 使用STAR法则:背景(场景复杂度)、任务(性能目标)、行动(具体技术手段如算子融合、内存管理、通信重叠)、结果(量化指标)
  • 请描述你优化过的一个最复杂的算子或Kernel,你是如何定位瓶颈并提升性能的?
  • 对比vLLM和SGLang的PagedAttention机制,谈谈你的理解
  • 在多卡分布式推理中,如何解决通信开销导致的性能下降问题?
  • 复习CUDA编程模型、显存管理机制,准备1-2个深度优化的项目案例,熟悉主流推理框架源码结构

职位点评

薪资福利85
成长发展92
工作生活60
使命价值80

薪资福利

85较高

作为已上市的超大型企业,提供具有竞争力的薪资和稳定的福利保障,符合市场对高端技术人才的定价。

薪资信号市场水准 (2.5千–4.5万/月)

成长发展

92较高

涉及前沿的大模型推理引擎与自研AI芯片结合,技术栈极具前瞻性和稀缺性,成长空间巨大。

技术前沿前沿/新兴技术
技术栈C/C++、Python、CUDA、OpenCL、Ascend、Cutlass、vLLM、SGLang、TensorRT-LLM、NVLINK、DeepEP、RCCL
业务类型profit_center

工作生活

60中等

未明确提及弹性工作制,通常此类高强度研发岗位可能需要应对项目节点压力,WLB取决于具体团队文化。

工作模式未明确
办公地点科技园/产业园
加班情况未提及(无法判断)

使命价值

80较高

投身于国产自主可控AI芯片生态建设,具有重要的国家战略意义和行业影响力。

行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新(行业首创)
Watch Jobs