京东
AI 推理优化工程师
AI 推理优化工程师
发布于 1 天前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Ai编译器
Gpu编程
Mlir
Npu优化
Tvm
大模型
推理优化
算子开发
量化技术
值不值得投
81综合评分
综合评分 81
大厂前沿AI基建岗，技术深度与业务价值高，成长性突出，但WLB状态未知。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
40K
比机器学习工程中位数低
发布情况
新岗位 · 昨天发布
公司情况
这家公司招聘很活跃
约 1690 个在招 · 其中机器学习工程 15 个
市场机会
选择面较广
上海 · 机器学习工程 · 约 360 个在招
职位详情
关于这个职位
该职位隶属于京东云AI Infra团队，专注于大模型技术的高性能计算优化
你将负责研发高性能算子、优化AI编译器、设计低比特量化方案等，核心目标是构建极致高效的大模型推理平台，以高吞吐、低延迟和低成本支持集团内外部的AI业务
最低要求
具备高性能算子开发能力，能在GPU及国产NPU上实现与优化FA、MLA、MoE等核心算子，定位性能瓶颈
精通AI编译器优化，基于TVM或MLIR进行深度优化，设计算子融合与指令调度策略以提升模型部署效率
拥有低比特量化技术经验，能落地W4A8、FP8等量化方案，并设计端云协同的推理加速系统以降低延迟与成本
具备系统性瓶颈分析能力，能从复杂性能现象中定位底层架构问题，提出可验证的优化方案
有技术路径创新意识，能针对国产芯片适配与编译器优化等高不确定性方向进行前瞻性判断与推动
符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信
工作职责
研发大模型高性能算子与通信算子，定位并解决精度与性能瓶颈
深度优化AI编译器中间表示层，设计算子融合与调度策略以支撑大模型高效部署
构建低比特量化与端云协同方案，落地W4A8/FP8等技术以降低推理成本与延迟
主导算法方向长期规划，形成可复用的优化方法论以支撑技术创新
建立算法效果与系统性能评估机制，量化技术方案对业务指标的贡献
AI 洞察
优缺点分析
优点
- 业务影响力强：优化成果直接体现为线上服务的吞吐、延迟与成本改善，价值可量化
- 前沿技术栈：处于大模型与高性能计算交叉领域，技术积累对未来职业发展溢价高
- 技术门槛极高：需要同时具备算法、系统、编译器等跨领域知识，学习曲线陡峭
- 紧跟技术演进：需持续跟踪GPU/NPU新架构、大模型新算子及编译器技术的最新进展
- 适合具备扎实系统编程与高性能计算背景，对底层优化有强烈好奇心和钻研精神，且渴望在AI基础设施领域深耕的技术型求职者
缺点 / 挑战
- 技术深度大：直面大模型落地最核心的性能与成本挑战，能深入硬件、编译器、算法多个层面
- 问题复杂：性能瓶颈往往涉及软硬件全栈，定位与解决过程复杂且充满不确定性
角色解读
- 技术专家路线：深耕推理优化领域，成为GPU/NPU架构适配、编译器优化方向的顶尖专家
- 架构师路线：从单点优化扩展到对整体大模型推理平台的架构设计与规划
- 技术管理路线：带领小团队，负责特定技术方向的规划与落地，推动业务指标达成
- 研发并优化大模型在GPU、NPU上的核心算子，攻克计算与通信的性能瓶颈
- 深度参与AI编译器的优化工作，通过算子融合、指令调度等技术提升模型部署效率
- 设计和落地低比特量化（如W4A8/FP8）及端云协同方案，以显著降低推理成本与延迟
- 评估优化方案的业务价值，形成可复用的方法论，驱动技术创新
- 精通GPU/NPU架构与编程，能够进行底层算子开发与性能调优
- 熟悉AI编译器技术栈，有TVM或MLIR的实际优化经验
- 掌握模型量化技术，并了解端云协同的系统设计
- 具备从复杂系统现象中定位底层性能问题的系统性分析能力
申请策略
- 在面试中准备好讨论一个你解决过的最复杂的性能问题，清晰阐述分析思路与解决方法
- 了解京东云在大模型服务（如京东大模型API、言犀平台）方面的业务与挑战，思考技术如何赋能业务
- 突出与GPU/NPU编程、算子优化或AI编译器相关的项目经验，量化性能提升结果
- 详细描述参与过的量化、推理加速或大规模分布式计算系统项目，明确个人贡献
- 展示对TVM、MLIR、CUDA、ROCm等工具链的熟悉程度和实际使用案例
- 体现系统性能分析与瓶颈定位的能力，例如使用Profiling工具解决问题的经验
- 如果缺乏编译器经验，可系统学习TVM/MLIR的基础架构，并尝试完成一个小型算子优化实践
- 深入研究一到两种主流AI芯片（如NVIDIA GPU、华为昇腾NPU）的编程模型与优化技巧
面试指南
- 问题类（分析与解决）：采用STAR原则（情境、任务、行动、结果），重点描述“行动”中如何利用工具（如nsight, profiler）定位问题，以及采用了哪些具体的优化技术
- 技术理解类：从技术原理、适用场景、优缺点对比的角度进行结构化阐述，并能结合实际项目经验举例
- 规划与判断类：展示系统性思维，从需求分析、技术选型、风险评估、落地验证等步骤展开回答
- 请描述你优化过的一个性能最差的算子，你是如何分析瓶颈并最终将性能提升XX%的？
- 在设计算子融合时，你如何权衡内存占用、计算效率和实现复杂度？请举例说明
- 你对W4A8和FP8这两种量化方案有什么理解？它们分别适用于什么场景？
- 如果让你为一个新的国产AI芯片适配大模型推理，你的技术路径和评估重点会是什么？
- 你如何看待AI编译器（如TVM）在当前大模型推理生态中的角色与未来趋势？
职位点评
薪资福利85
成长发展90
工作生活65
使命价值80
薪资福利
85较高
作为大型科技企业的技术岗位，薪资水平预计在市场中具有竞争力，且公司已上市，薪酬结构和稳定性有保障。
薪资信号偏高 (30K-50K/月)
成长发展
90较高
该职位直接参与大模型推理的底层优化，涉及编译器、量化等前沿技术，技术深度和成长空间极大。
技术前沿前沿/新兴技术
技术栈GPU、NPU、TVM、MLIR、W4A8、FP8、大模型、算子优化、编译器
业务类型ambiguous
工作生活
65中等
JD未明确提及办公模式、弹性工作时间或工作强度相关信息，工作与生活的平衡状况无法从描述中判断。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
职位服务于京东集团核心的AI业务生态建设，致力于用技术驱动业务创新，具备明确的业务价值导向。
行业发展高速增长赛道
社会影响中性/一般
使命信号高效支持和驱动京东集团内外部的大模型业务生态及智能体应用
创新程度积极采用新技术
Watch Jobs