
京东
大模型推理算子开发工程师
大模型推理算子开发工程师
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Ai Compiler
Cuda
Gpu/Npu
Mlir
Tvm
值不值得投
77综合评分
综合评分 77
高薪高压、前沿技术栈、大模型底层优化核心岗,技术成长极佳但工作强度大
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。
薪资怎么样
5.5万
比AI算法中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 1810 个在招 · 其中AI算法 7 个
市场机会
选择面较广
上海 · AI算法 · 约 130 个在招
职位详情
关于这个职位
负责京东云AI Infra团队的大模型推理算子开发,针对GPU及国产NPU架构优化FA、MLA等核心算子
深度参与AI编译器优化、低比特量化技术落地及性能评估,旨在构建高效、低延迟的大模型训练与推理平台,支持集团内外部大模型业务生态
最低要求
具备异构高性能算子开发能力,能针对GPU及国产NPU架构设计FA、MLA、MoE等核心算子,完成精度校准与性能优化
拥有AI编译器深度优化经验,能基于TVM或MLIR突破算子融合、内存分配瓶颈,面向国产芯片设计自动化优化策略
具备系统诊断与归因能力,能在算子精度损失、性能回退等问题中定位根因,构建可复用的诊断与调优方法体系
能够追踪低比特量化等前沿技术,推动W4A8、FP8、GPTQ等方案从验证到生产落地,结合计算通信重叠调度降低延迟
以攻克大模型底层计算性能极限为事业追求,长期投入异构硬件优化与AI基础设施能力建设
符合京东价值观:客户为先、创新、拼搏、担当、感恩、诚信
工作职责
主导大模型核心算子开发,针对GPU及国产NPU架构实现FA、MLA等关键算子,优化精度与性能
深度优化AI编译器,突破算子融合与内存分配瓶颈,设计国产芯片自动化优化策略
推进低比特量化技术落地,实践W4A8、FP8等方案,结合计算通信Overlap降低推理延迟
建立性能评估与问题定位机制,诊断精度损失与性能回退,形成可复用的调优方法
总结异构硬件优化经验,输出技术文档与案例,提升团队整体交付效率
AI 洞察
优缺点分析
优点
- 处于大模型基础设施核心赛道,技术壁垒高,行业前景广阔
- 接触前沿国产芯片适配,积累稀缺的异构计算优化经验
- 技术难度极大,需同时兼顾软件栈与硬件特性,对底层原理要求极高
- 国产芯片适配可能面临工具链不完善、文档缺失等困难,调试成本高
- 高强度竞争环境下,需持续跟进最新论文与技术动态
- 适合热衷于底层系统优化、对计算机体系结构有深刻理解、追求技术极致的资深工程师
缺点 / 挑战
- 依托京东云海量业务场景,数据规模和技术挑战极具吸引力
角色解读
- 可向首席科学家、AI基础设施架构师方向发展,成为大模型底层优化领域的权威专家
- 也可转向AI芯片原厂合作或自主芯片研发方向,拓展硬件协同设计能力
- 负责大模型核心算子(如FA、MLA)在GPU和国产NPU上的开发与性能优化
- 深度参与AI编译器(TVM/MLIR)的优化,解决算子融合与内存分配瓶颈
- 推进低比特量化技术落地,降低推理延迟并提升吞吐量
- 精通C++/CUDA编程,具备异构高性能算子开发经验
- 深入理解AI编译器原理,有TVM或MLIR优化实战经验
- 掌握模型量化技术(W4A8/FP8/GPTQ),具备系统级性能诊断与调优能力
申请策略
- 准备详细的技术案例,说明如何解决复杂的性能瓶颈问题
- 了解京东云在大模型领域的最新布局和产品线,展现对业务的理解
- 突出展示在GPU/NPU上的算子优化案例,特别是性能提升的具体数据(如加速比、显存占用降低比例)
- 强调在AI编译器(TVM/MLIR)方面的深度定制与优化经验
- 列举成功落地的量化方案及其带来的推理延迟降低效果
- 深入研究Transformer架构中的注意力机制变体(如FlashAttention、MLA)的底层实现
- 熟悉主流国产AI芯片(如华为昇腾、寒武纪等)的编程模型与优化技巧
- 加强Linux内核级性能分析工具的使用能力
面试指南
- 使用STAR法则(情境、任务、行动、结果)描述具体项目
- 重点突出问题分析的逻辑链条:从现象到根因的定位过程,以及不同优化手段的权衡取舍
- 用具体数据支撑优化成果
- 请详细介绍你优化过的一个复杂算子,你是如何定位瓶颈并进行优化的?
- 在TVM或MLIR中,你是如何处理算子融合带来的内存分配问题的?
- 对比W4A8和FP8量化方案,它们各自的优缺点及适用场景是什么?
- 如何在一个新的国产NPU架构上快速搭建算子开发环境并进行性能基准测试?
- 当算子精度下降时,你的排查思路和优化策略是怎样的?
职位点评
薪资福利85
成长发展95
工作生活40
使命价值80
薪资福利
85较高
作为上市巨头企业的核心研发岗,薪资水平处于市场中高位,且通常伴有完善的福利体系和年终奖,对补偿性动机满足度较高。
薪资信号未披露(AI估算:4.0千–7.0万/月)
成长发展
95较高
职位涉及大模型底层优化、AI编译器及国产芯片适配等前沿技术领域,技术成长空间巨大,对发展性动机满足度极高。
技术前沿前沿/新兴技术
技术栈FA、MLA、MoE、TVM、MLIR、W4A8、FP8、GPTQ、GPU、NPU
成长机会广阔的成长空间、富有挑战性的项目、技术驱动、创新为本
业务类型profit_center
工作生活
40较低
互联网大厂核心研发岗通常工作强度较大,JD中提及'拼搏'价值观及'攻克极限',暗示较高的工作压力,生活化动机满足度有限。
工作模式未明确
办公地点市区核心地段
加班情况JD含高强度暗示词
使命价值
80较高
致力于构建高效大模型平台,支持集团内外部业务生态,具有明确的技术使命感和行业影响力,意义感动机满足度较高。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号高效支持和驱动京东集团内外部的大模型业务生态、攻克大模型底层计算性能极限
创新程度积极采用新技术
京东 的其他在招职位
相似职位推荐
腾讯游戏-视觉语言模型(VLM)算法工程师
腾讯 · 上海市
AI 估算 · 3.5–6.0万1 小时前发布
腾讯游戏-视觉语言模型(VLM)算法工程师
腾讯 · 深圳市
AI 估算 · 3.5–6.0万1 小时前发布
AI Solution Architect
联想 · 北京市
AI 估算 · 4.5–8.0万1 小时前发布
AI Infra高级研究员
联想 · 北京市
AI 估算 · 5.0–8.0万1 小时前发布
AI Agent Application Engineer(Finance)
联想 · 深圳市
AI 估算 · 3.5–6.0万1 小时前发布
智能座舱AI算法开发工程师-德语方向
联想 · 北京市
AI 估算 · 4.0–7.0万1 小时前发布
AI算法工程师实习生-【主站】
快手 · 北京市
AI 估算 · 4.5–6.0千1 小时前发布
Industrial Engineering ES
德科斯米尔 · 沈阳市
AI 估算 · 1.5–2.5万2 小时前发布
Watch Jobs