
中科曙光
大模型推理引擎研发工程师(J14553)
大模型推理引擎研发工程师(J14553)
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Ai芯片
Cuda
Tensorrt-Llm
Vllm
分布式计算
大模型推理
性能优化
值不值得投
81综合评分
综合评分 81
国产AI芯片核心研发岗,技术前沿性强,职业发展潜力大,稳定性高
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。
薪资怎么样
3.5万
比AI算法中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 610 个在招
市场机会
选择面较广
北京 · AI算法 · 约 240 个在招
职位详情
关于这个职位
负责中科曙光自研AI芯片及主流GPU的大模型推理引擎研发与性能优化,包括PD分离调度系统开发
需精通C/C++/Python,深入理解CUDA/OpenCL等底层编程及vLLM、TensorRT-LLM等主流框架,致力于提升大模型推理的极致性能
最低要求
熟练掌握C/C++、Python编程语言,具备良好的coding 和调试能力;
熟悉GPU/AI芯片编程,如CUDA, OpenCL,Ascend 等,熟悉cutlass等加速库是加分项;
熟悉主流大模型推理框架,如vIlm,sglang,tensorrt-llm,FasterFransformer等;
熟悉各类深度学习网络和算子底层实现细节,训练和推理模型调试、调优有实操经验优先
熟悉并行策略,如模型并行、流水线并行等,了解 NVLINK、GPU通信者优先;
具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备 系统性能分析和调优经验优先
工作职责
研发及优化语言大模型及多模态等推理引擎、PD分离推理调度系统
支持新一代自研AI芯片推理引擎开发优化,优化大模型推理性能,打造极致性能优势
优先资格
加分项:
参与vllm、sglang等开源项目贡献者
熟悉推理服务框架,具备服务部署经验者优先,有超大模型分布式部署经验优先
熟悉deepep、RCCL等分布式通信库
AI 洞察
优缺点分析
优点
- 处于国产AI算力核心赛道,技术壁垒极高,职业护城河深
- 接触最前沿的大模型推理技术与自研硬件
- 对底层原理要求极深,需兼顾软件框架与硬件特性,调试难度大
- 具备深厚计算机体系结构功底、热爱底层技术攻坚、对国产AI芯片生态有信心的资深工程师
缺点 / 挑战
- 国产芯片生态仍在完善中,兼容性挑战多
角色解读
- 可向AI基础设施架构师、高性能计算专家方向发展,或在国产算力生态中成为核心技术骨干
- 负责大模型(LLM)及多模态模型的推理引擎开发与优化,特别是针对自研AI芯片的性能适配
- 精通C/C++/Python底层编程,熟练掌握CUDA/OpenCL等异构计算编程,深入理解Transformer架构及算子优化
申请策略
- 重点关注公司在自研AI芯片领域的最新进展,面试时展现对软硬协同优化的独特见解
- 突出在vLLM、TensorRT-LLM等框架下的具体优化案例,展示量化后的性能提升数据
- 强调对GPU/NPU底层指令集的理解
- 深入研究Cutlass库的使用,掌握分布式通信库(NCCL/RCCL)的原理与实践,关注最新的大模型推理论文
面试指南
- 使用STAR法则:背景(场景复杂度)、任务(性能目标)、行动(具体技术手段如算子融合、内存管理、通信重叠)、结果(量化指标)
- 请描述你优化过的一个最复杂的算子或Kernel,你是如何定位瓶颈并提升性能的?
- 对比vLLM和SGLang的PagedAttention机制,谈谈你的理解
- 在多卡分布式推理中,如何解决通信开销导致的性能下降问题?
- 复习CUDA编程模型、显存管理机制,准备1-2个深度优化的项目案例,熟悉主流推理框架源码结构
职位点评
薪资福利85
成长发展92
工作生活60
使命价值80
薪资福利
85较高
作为已上市的超大型企业,提供具有竞争力的薪资和稳定的福利保障,符合市场对高端技术人才的定价。
薪资信号市场水准 (2.5千–4.5万/月)
成长发展
92较高
涉及前沿的大模型推理引擎与自研AI芯片结合,技术栈极具前瞻性和稀缺性,成长空间巨大。
技术前沿前沿/新兴技术
技术栈C/C++、Python、CUDA、OpenCL、Ascend、Cutlass、vLLM、SGLang、TensorRT-LLM、NVLINK、DeepEP、RCCL
业务类型profit_center
工作生活
60中等
未明确提及弹性工作制,通常此类高强度研发岗位可能需要应对项目节点压力,WLB取决于具体团队文化。
工作模式未明确
办公地点科技园/产业园
加班情况未提及(无法判断)
使命价值
80较高
投身于国产自主可控AI芯片生态建设,具有重要的国家战略意义和行业影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新(行业首创)
中科曙光 的其他在招职位
相似职位推荐
阿里妈妈-AI应用研发工程师-广告结算&风控平台&权益营销-杭州
天猫 · 杭州市
AI 估算 · 2.5–4.5万40 分钟前发布
ai infra engineer(training & inference ).
任仕达 · 北京市
AI 估算 · 12.5–20.8万1 小时前发布
senior ai engineer, scientific agent.
任仕达 · 上海市
AI 估算 · 5.0–8.3万1 小时前发布
Agent算法工程师实习生
米哈游 · 上海市
AI 估算 · 4.0–6.0千1 小时前发布
大模型平台算力运管与调度系统工程师/专家
小红书 · 北京市
AI 估算 · 4.0–8.0万7 小时前发布
端到端模型量化&压缩工程师
地平线 · 北京市
AI 估算 · 2.5–4.5万8 小时前发布
R&D Pioneer 计划科研实习生(J107367)
百度 · 北京市
AI 估算 · 0.3–0.6千8 小时前发布
Watch Jobs