阿里巴巴
千问事业部-大模型压缩&推理加速高级专家-杭州/北京/广州
千问事业部-大模型压缩&推理加速高级专家-杭州/北京/广州
发布于 大约 4 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Gpu
Llm
Pytorch
分布式系统
推理加速
模型压缩
量化
值不值得投
76综合评分
综合评分 76
前沿技术挑战、高成长空间的大模型优化专家岗，WLB需确认。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
65K
比人工智能中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2520 个在招 · 其中人工智能 约 230 个
市场机会
选择面较广
杭州 · 人工智能 · 约 250 个在招
职位详情
关于这个职位
该职位隶属于阿里巴巴千问事业部，专注于大语言模型（LLM）的压缩与推理加速技术研究
你将围绕语言模型、多模态模型、MoE模型等，设计并实现低成本、低延迟、高吞吐的模型优化方案，推动前沿AI技术在业务中的高效落地
最低要求
在量化、剪枝、稀疏、蒸馏、投机解码、KV Cache压缩、Token压缩等至少一个方向有深入研究或大规模工程落地经验
熟悉主流低比特量化方法，包括FP8、FP4、INT8、INT4、PTQ、QAT、SmoothQuant、AWQ、GPTQ、KV Cache量化、混合精度策略等，能够分析并解决低比特部署中的精度退化问题
具备扎实的Python/PyTorch开发能力和严谨的实验分析能力，能够设计评测集、消融实验和回归机制，平衡模型效果、推理延迟、吞吐和成本收益
有大规模模型压缩、推理加速或线上LLM服务优化经验者优先
在NeurIPS、ICML、ICLR、ACL、EMNLP、MLSys等会议发表相关论文或有高质量开源贡献者优先
工作职责
参与大模型压缩与推理加速技术研发，围绕语言模型、多模态模型、MoE模型和Agentic推理场景，设计并实现低成本、低延迟、高吞吐的模型优化方案
研发并落地低比特量化技术，包括FP8、FP4、INT8、INT4、KV Cache量化、MoE量化、混合精度量化、QAT/PTQ等方向，解决大规模模型低比特部署下的精度、稳定性和性能问题
参与投机解码、稀疏化、剪枝、蒸馏、Token剪枝、Prompt压缩、CoT压缩、KV Cache压缩等推理加速技术探索与落地，持续提升Decode效率并降低显存与计算开销
建立和完善模型压缩效果评估与回归机制，协同模型、算子、框架和业务团队完成算法方案到线上部署的闭环，对模型效果、推理成本和吞吐收益负责
优先资格
在NeurIPS、ICML、ICLR、ACL、EMNLP、MLSys等会议发表相关论文或有高质量开源贡献者优先
AI 洞察
优缺点分析
优点
- 背靠大型平台，拥有海量数据和丰富的业务场景，能让技术成果快速产生价值
- 技术难度极高，需要同时具备顶尖的算法理解、系统开发和工程实践能力
- 技术发展迅速，需要持续跟踪和学习最新的学术与工业界进展，保持竞争力
- 对AI模型底层优化充满热情，兼具扎实算法理论功底与出色工程实现能力，并追求通过技术创造实际规模价值的资深工程师或研究员
缺点 / 挑战
- 直接参与业界最前沿的大模型核心技术攻关，技术挑战性强，成长空间巨大
- 解决的是模型规模化落地的关键瓶颈问题，对行业降本增效有直接贡献
- 需要与模型、框架、业务等多团队紧密协作，对沟通与项目管理能力有较高要求
角色解读
- 技术专家路径：深耕模型压缩与高效推理领域，成为该方向的技术权威或首席架构师
- 研究路径：结合前沿探索与工程落地，在顶级学术会议发表成果，引领行业技术发展
- 技术管理路径：凭借技术影响力与项目管理能力，转向带领更大规模的技术团队
- 设计并实现针对大型语言模型、多模态模型的压缩与加速算法，核心目标是降本增效
- 专注于低比特量化、剪枝、蒸馏、投机解码等技术的工程落地，解决模型在低资源下的精度与性能平衡难题
- 负责建立模型优化效果的评估与回归机制，确保技术方案能稳定服务于线上业务
- 精通模型量化（如INT8/FP8）、剪枝、稀疏化等至少一个领域的技术原理与工程实践
- 具备深厚的PyTorch/TensorRT等框架的开发与性能调优能力，能设计严谨的消融实验
- 熟悉大模型推理全链路，包括KV Cache管理、算子优化、分布式推理等，并有相关工程经验
- 优秀的跨团队协作与沟通能力，能推动算法方案到业务部署的闭环
申请策略
- 在面试前，研究阿里巴巴在高效推理方面的公开技术博客或开源项目（如PAI、ModelScope），了解其技术栈偏好
- 准备一个能完整体现‘问题定义-方案设计-实验验证-上线效果’闭环的项目案例，重点讲述如何平衡效果、成本与速度
- 详细描述参与过的模型压缩或推理加速项目，突出量化精度、推理速度、吞吐量等关键指标的提升数据
- 清晰列出掌握的具体技术栈（如PTQ/QAT流程、GPTQ/AWQ原理、TensorRT部署），并说明应用场景
- 如有在顶级会议（如NeurIPS, MLSys）的论文或知名开源项目贡献（如参与vLLM, DeepSpeed等），务必重点突出
- 系统学习并实践FP8/FP4等新型量化方案及其在硬件上的适配
- 深入理解LLM推理链路，动手实践KV Cache优化、投机解码等前沿加速技术
- 加强将算法原型高效、稳定地工程化并部署到生产环境的能力
面试指南
- 使用STAR法则（情境、任务、行动、结果）描述项目经验，强调量化指标和你的核心贡献
- 结合理论（如量化误差分析）和实践（如消融实验设计）来展示你的分析深度和工程严谨性
- 从系统视角（算子、框架、硬件）分析问题，并说明你与上下游协作推动解决方案的过程
- 请介绍一个你主导或深入参与的模型量化/压缩项目，如何解决精度损失问题？
- 如何评估一个推理加速方案（如投机解码）的综合收益？需要考虑哪些指标？
- 在模型量化部署中遇到过稳定性或性能问题吗？是如何排查和解决的？
- 如何设计一个实验来对比不同量化方法（如GPTQ vs AWQ）在特定模型和任务上的优劣？
- 你对大模型推理成本的构成有什么理解？从软件栈角度有哪些主要的优化切入点？
职位点评
薪资福利75
成长发展90
工作生活55
使命价值80
薪资福利
75中等
作为上市巨头的核心技术岗位，薪资和福利体系预计具有市场竞争力，但JD未明确提及具体待遇。
薪资信号未披露（AI估算：50K-80K/月）
成长发展
90较高
该职位处于大模型技术最前沿，涉及量化、加速等核心优化技术，能提供极高的技术成长空间和行业影响力。
技术前沿前沿/新兴技术
技术栈量化、剪枝、蒸馏、投机解码、KV Cache压缩、PyTorch、LLM
成长机会优先：发表相关论文或有高质量开源贡献
业务类型profit_center
工作生活
55较低
JD未提及任何关于工作模式、弹性工时或福利保障的信息，无法判断WLB状况。大厂核心技术岗可能面临一定工作压力。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
工作内容是推动大模型技术的低成本、高效普及，直接服务于AI的广泛应用和业务创新，具有明确的正向社会与经济价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs