Watch Jobs
浏览职位数据统计洞察报告探索企业定价
我的收藏免费试用登录注册

Watch Jobs

我们专注于实时追踪各企业最新职位动态,帮助您节省求职时间,快速找到理想工作机会。

探索

  • 浏览职位
  • 数据统计
  • 洞察报告
  • 数据方法论
  • 探索企业

订阅

  • 免费试用
  • 价格方案
  • 常见问题
  • 隐私政策

关注我们

微信公众号小红书淘宝店铺

© 2026 Watch Jobs. 保留所有权利

Created by jianglicat - 讲礼猫
Watch Jobs
浏览职位数据统计洞察报告探索企业定价
我的收藏免费试用登录注册

职位搜索/月之暗面/LLM推理优化工程师
Moonshot AI logo
M
月之暗面 (Moonshot AI)

职位信息

北京市
中级经验
全职员工
仅现场办公
本科
普通员工/个人贡献者

标签

分布式系统高性能计算CUDALLM推理优化Megatron-LMvLLM量化技术AwqGptq投机解码
💡

核心评价

技术前沿、成长性极佳的AI基础设施核心岗,薪资竞争力强,但需现场办公。

LLM推理优化工程师

🤖 AI 估测:¥35K-60K

发布时间:5 天前

立即应聘

ℹ️关于这个职位

这是一个专注于大语言模型(LLM)推理性能优化的前沿技术岗位
你将负责设计和实现从模型训练到推理部署的端到端优化方案,核心工作包括低比特量化训练(如W8A8、W4A16)和投机解码(如EAGLE、DFlash)等先进技术,旨在显著提升LLM的推理速度和效率

✓工作职责

推动 Quantized-aware Training (QAT) 和 Quantized Training 的工程化落地,研发W8A8、W4A16等低比特训练方案,实现训练与推理精度-效率的最优平衡
设计并实现 Speculative Decoding (投机解码)及其变体(如EAGLE,DFlash等)的全链路方案,包括Draft模型训练、接受率优化与系统调度策略
建立从训练到推理的端到端优化链路,确保相关训练方案在推理侧获得可度量的性能收益

⭐最低要求

计算机科学、电子工程或相关专业本科及以上学历,3年以上高性能计算/深度学习系统相关经验
扎实的分布式系统功底:深入理解多机并行训练/推理相关技术,具备大规模训练框架(Megatron-LM)及主流推理框架(vLLM,SGLang)的开发能力
以下两项至少具备其一:
掌握低比特推理与量化技术:熟悉GPTQ、AWQ、SmoothQuant等后量化方案,理解训练感知量化的实现细节与数值稳定性处理,熟悉MXFP4,NVFP4等新兴低比特量化格式
深入理解投机解码原理:掌握Draft模型与Target模型的协同机制,了解EAGLE3、DFlash等当前主流方法的训练、推理实现方法

👍优先资格

具备LLM算法基础,熟悉大模型训练相关算法与技术
熟悉CUDA编程模型,熟练使用Nsight Systems/Compute进行性能剖析,能够手写高性能CUDA Kernel
在LLM 算法/体系结构/系统领域相关顶级会议或期刊上有论文发表
Watch Jobs

我们专注于实时追踪各企业最新职位动态,帮助您节省求职时间,快速找到理想工作机会。

探索

  • 浏览职位
  • 数据统计
  • 洞察报告
  • 数据方法论
  • 探索企业

订阅

  • 免费试用
  • 价格方案
  • 常见问题
  • 隐私政策

关注我们

微信公众号小红书淘宝店铺

© 2026 Watch Jobs. 保留所有权利

Created by jianglicat - 讲礼猫

月之暗面 的其他在招职位

  • 资深系统开发工程师

    月之暗面

    北京市 · 仅现场办公

  • Infra 系统工程师 - 训练平台

    月之暗面

    北京市 · 仅现场办公

  • 资深后端工程师-商业化

    月之暗面

    北京市 · 仅现场办公

  • Agent Engineer / Agent 工程师

    月之暗面

    北京市 · 仅现场办公

  • API解决方案架构师

    月之暗面

    上海市 · 仅现场办公

相似职位推荐

  • 模型算法工程师

    中国平安

    深圳市 · 仅现场办公

  • 算法工程师

    中国平安

    深圳市 · 仅现场办公

  • 算法资深工程师(AI安全算法)

    中国平安

    深圳市 · 仅现场办公

  • CA-高级Java开发工程师

    中国平安

    深圳市 · 仅现场办公

  • 测试开发

    叠纸游戏

    上海市 · 仅现场办公