JD logo
京东
大模型推理算子开发工程师

大模型推理算子开发工程师

发布于 1 小时前

普通员工/个人贡献者

AI 估算 · 4.0–7.0万 · AI 参考估算
高级经验
学历未注明
全职员工仅现场办公AI算法
AI算法
Ai Compiler
Cuda
Gpu/Npu
Mlir
Tvm

值不值得投

77综合评分

综合评分 77

高薪高压、前沿技术栈、大模型底层优化核心岗,技术成长极佳但工作强度大

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

5.5万

比AI算法中位数低

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 1810 个在招 · 其中AI算法 7 个

市场机会

选择面较广

上海 · AI算法 · 约 130 个在招

职位详情

关于这个职位

负责京东云AI Infra团队的大模型推理算子开发,针对GPU及国产NPU架构优化FA、MLA等核心算子

深度参与AI编译器优化、低比特量化技术落地及性能评估,旨在构建高效、低延迟的大模型训练与推理平台,支持集团内外部大模型业务生态

最低要求

具备异构高性能算子开发能力,能针对GPU及国产NPU架构设计FA、MLA、MoE等核心算子,完成精度校准与性能优化

拥有AI编译器深度优化经验,能基于TVM或MLIR突破算子融合、内存分配瓶颈,面向国产芯片设计自动化优化策略
具备系统诊断与归因能力,能在算子精度损失、性能回退等问题中定位根因,构建可复用的诊断与调优方法体系
能够追踪低比特量化等前沿技术,推动W4A8、FP8、GPTQ等方案从验证到生产落地,结合计算通信重叠调度降低延迟
以攻克大模型底层计算性能极限为事业追求,长期投入异构硬件优化与AI基础设施能力建设
符合京东价值观:客户为先、创新、拼搏、担当、感恩、诚信

工作职责

主导大模型核心算子开发,针对GPU及国产NPU架构实现FA、MLA等关键算子,优化精度与性能

深度优化AI编译器,突破算子融合与内存分配瓶颈,设计国产芯片自动化优化策略
推进低比特量化技术落地,实践W4A8、FP8等方案,结合计算通信Overlap降低推理延迟
建立性能评估与问题定位机制,诊断精度损失与性能回退,形成可复用的调优方法
总结异构硬件优化经验,输出技术文档与案例,提升团队整体交付效率

AI 洞察

优缺点分析

优点

  • 处于大模型基础设施核心赛道,技术壁垒高,行业前景广阔
  • 接触前沿国产芯片适配,积累稀缺的异构计算优化经验
  • 技术难度极大,需同时兼顾软件栈与硬件特性,对底层原理要求极高
  • 国产芯片适配可能面临工具链不完善、文档缺失等困难,调试成本高
  • 高强度竞争环境下,需持续跟进最新论文与技术动态
  • 适合热衷于底层系统优化、对计算机体系结构有深刻理解、追求技术极致的资深工程师

缺点 / 挑战

  • 依托京东云海量业务场景,数据规模和技术挑战极具吸引力

角色解读

  • 可向首席科学家、AI基础设施架构师方向发展,成为大模型底层优化领域的权威专家
  • 也可转向AI芯片原厂合作或自主芯片研发方向,拓展硬件协同设计能力
  • 负责大模型核心算子(如FA、MLA)在GPU和国产NPU上的开发与性能优化
  • 深度参与AI编译器(TVM/MLIR)的优化,解决算子融合与内存分配瓶颈
  • 推进低比特量化技术落地,降低推理延迟并提升吞吐量
  • 精通C++/CUDA编程,具备异构高性能算子开发经验
  • 深入理解AI编译器原理,有TVM或MLIR优化实战经验
  • 掌握模型量化技术(W4A8/FP8/GPTQ),具备系统级性能诊断与调优能力

申请策略

  • 准备详细的技术案例,说明如何解决复杂的性能瓶颈问题
  • 了解京东云在大模型领域的最新布局和产品线,展现对业务的理解
  • 突出展示在GPU/NPU上的算子优化案例,特别是性能提升的具体数据(如加速比、显存占用降低比例)
  • 强调在AI编译器(TVM/MLIR)方面的深度定制与优化经验
  • 列举成功落地的量化方案及其带来的推理延迟降低效果
  • 深入研究Transformer架构中的注意力机制变体(如FlashAttention、MLA)的底层实现
  • 熟悉主流国产AI芯片(如华为昇腾、寒武纪等)的编程模型与优化技巧
  • 加强Linux内核级性能分析工具的使用能力

面试指南

  • 使用STAR法则(情境、任务、行动、结果)描述具体项目
  • 重点突出问题分析的逻辑链条:从现象到根因的定位过程,以及不同优化手段的权衡取舍
  • 用具体数据支撑优化成果
  • 请详细介绍你优化过的一个复杂算子,你是如何定位瓶颈并进行优化的?
  • 在TVM或MLIR中,你是如何处理算子融合带来的内存分配问题的?
  • 对比W4A8和FP8量化方案,它们各自的优缺点及适用场景是什么?
  • 如何在一个新的国产NPU架构上快速搭建算子开发环境并进行性能基准测试?
  • 当算子精度下降时,你的排查思路和优化策略是怎样的?

职位点评

薪资福利85
成长发展95
工作生活40
使命价值80

薪资福利

85较高

作为上市巨头企业的核心研发岗,薪资水平处于市场中高位,且通常伴有完善的福利体系和年终奖,对补偿性动机满足度较高。

薪资信号未披露(AI估算:4.0千–7.0万/月)

成长发展

95较高

职位涉及大模型底层优化、AI编译器及国产芯片适配等前沿技术领域,技术成长空间巨大,对发展性动机满足度极高。

技术前沿前沿/新兴技术
技术栈FA、MLA、MoE、TVM、MLIR、W4A8、FP8、GPTQ、GPU、NPU
成长机会广阔的成长空间、富有挑战性的项目、技术驱动、创新为本
业务类型profit_center

工作生活

40较低

互联网大厂核心研发岗通常工作强度较大,JD中提及'拼搏'价值观及'攻克极限',暗示较高的工作压力,生活化动机满足度有限。

工作模式未明确
办公地点市区核心地段
加班情况JD含高强度暗示词

使命价值

80较高

致力于构建高效大模型平台,支持集团内外部业务生态,具有明确的技术使命感和行业影响力,意义感动机满足度较高。

行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号高效支持和驱动京东集团内外部的大模型业务生态、攻克大模型底层计算性能极限
创新程度积极采用新技术
Watch Jobs