阿里巴巴
阿里云智能-异构计算软硬件结合开发专家-杭州/深圳
阿里云智能-异构计算软硬件结合开发专家-杭州/深圳
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Cann
Cuda
Gpu/Npu
Sglang
Vllm
大模型推理
算子优化
值不值得投
77综合评分
综合评分 77
AI底层核心技术岗，前沿技术栈与高成长空间，薪资竞争力强，但工作强度与交付压力较大。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
5万
比算法优化工程师中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3200 个在招 · 其中算法优化工程师 约 130 个
市场机会
选择面较广
杭州 · 算法优化工程师 · 约 140 个在招
职位详情
关于这个职位
该职位负责异构AI芯片算子优化领域的技术规划与核心研发，主导震旦算子库架构及演进
你需要深入分析芯片特征，研发核心算子，解决大模型推理的性能瓶颈，并推动算子库与主流推理框架的深度集成
最低要求
年GPU/NPU算子或AI芯片软件研发经验，能够独立完成一个异构平台从方案设计、开发优化到性能验收的完整交付
精通C/C++和Python，熟悉CUDA、CANN、BANG C或其他异构芯片编程体系中的至少一种，具有融合、量化或通信算子开发经验
熟悉GPU/NPU计算单元、存储层次、并行执行和通信机制，能够使用Nsight、NCU或同类工具完成算子到端到端的瓶颈定位
熟悉SGLang、vLLM等推理框架，有Attention、MoE、FP8/FP4或国产芯片优化经验
能够熟练使用AI工具辅助编码、测试、性能数据分析和技术沉淀，具备清晰的技术表达及沟通协调能力，能推动芯片、框架和业务团队共同完成问题闭环
有强烈技术热情和好奇心，自驱力和学习力强
工作职责
负责异构AI芯片算子优化领域的技术规划与核心研发，制定面向大模型推理的算子技术路线，主导震旦算子库架构及持续演进
深入分析芯片计算、存储和互联特征，研发核心算子及融合方案，解决异构AI服务器在不同模型和部署形态下的性能瓶颈
推动震旦算子库与SGLang、vLLM等推理框架及业务系统深度集成，将算子优化转化为端到端时延、吞吐和资源效率收益
交付可复用的算子库、关键算子实现、性能模型和优化方案，并从软件实践中提炼对推理框架及下一代硬件的技术需求
优先资格
能够推动跨团队协作并形成开源、专利或技术沉淀者优先
AI 洞察
优缺点分析
优点
- 处于AI大模型底层核心技术赛道，技术壁垒高，个人成长空间大
- 作为技术专家，有机会主导算子库架构演进，产出具有行业影响力的开源或专利成果
- 异构计算和算子优化技术门槛极高，需要持续跟进快速迭代的芯片架构和模型算法
- 适合对底层技术有强烈热情、具备扎实C/C++功底及丰富GPU/NPU开发经验，且渴望在AI基础设施领域深耕的高级技术人才
缺点 / 挑战
- 依托庞大的算力平台和业务场景，能接触到最前沿的大模型推理优化挑战
- 跨团队协作要求高，需要频繁与芯片、框架和业务团队沟通，推动问题闭环的压力较大
角色解读
- 向异构计算架构师或AI芯片软件技术专家方向发展，主导下一代硬件技术需求定义
- 在AI底层系统领域建立深厚的技术壁垒，成为大模型推理优化领域的行业专家
- 负责异构AI芯片算子优化领域的技术规划与核心研发，主导震旦算子库架构设计
- 深入分析芯片计算、存储和互联特征，研发核心算子及融合方案，解决大模型推理的性能瓶颈
- 推动算子库与SGLang、vLLM等推理框架深度集成，将优化转化为端到端的性能收益
- 精通C/C++和Python，熟练掌握CUDA、CANN或BANG C等异构芯片编程体系
- 熟悉GPU/NPU底层架构，能使用Nsight等工具进行端到端性能瓶颈定位
- 熟悉主流大模型推理框架（如SGLang、vLLM）及Attention、MoE等核心算法的优化
申请策略
- 了解阿里云震旦算子库及飞天智算平台的最新技术动态，在面试中展现对阿里云AI基础设施的认同与理解
- 重点突出在GPU/NPU算子优化、融合算子开发及端到端性能提升方面的具体项目经验和量化成果
- 展示对SGLang、vLLM等推理框架的深入理解，以及在Attention、MoE等核心算法上的优化经验
- 强调使用Nsight等工具进行性能瓶颈定位的能力，以及跨团队推动技术落地的成功案例
- 深入学习大模型推理框架（如vLLM、SGLang）的底层源码和调度机制
- 关注最新的异构芯片架构及FP8/FP4量化技术的前沿进展
面试指南
- STAR法则：情境（模型/硬件背景）- 任务（性能目标）- 行动（ profiling、算子设计、融合策略）- 结果（时延/吞吐提升数据）
- 底层原理+工程实践：先阐述GPU/NPU的存储层次或计算单元原理，再结合具体代码或工具（如Nsight）说明优化手段
- 请详细描述一个你主导过的最复杂的算子优化项目，你是如何定位瓶颈并最终提升性能的？
- 在异构AI服务器中，计算、存储和互联的瓶颈通常如何平衡？请举例说明你的融合方案设计思路
- 你如何看待SGLang和vLLM在架构设计上的差异？在算子库与它们集成时遇到过哪些挑战？
- 针对Attention或MoE结构，你在国产芯片或特定硬件上做过哪些定制化优化？效果如何？
- 复习CUDA/CANN编程模型、GPU内存层次结构及并行计算原理，准备具体的性能分析案例
- 阅读SGLang、vLLM的官方文档或核心源码，了解其算子调度机制及与底层算子库的交互方式
职位点评
薪资福利85
成长发展95
工作生活40
使命价值80
薪资福利
85较高
作为AI底层核心技术岗，薪资水平在同类技术岗位中处于高位，且整体薪酬福利具备较强竞争力。
薪资信号未披露（AI估算：3.5千–6.5万/月）
成长发展
95较高
岗位聚焦大模型推理与异构计算前沿技术，能深度参与核心算子库架构演进，技术成长与行业影响力空间极大。
技术前沿前沿/新兴技术
技术栈C/C++、Python、CUDA、CANN、BANG C、SGLang、vLLM、GPU/NPU、Attention、MoE、FP8/FP4
成长机会技术规划、核心研发、技术沉淀、开源、专利
业务类型ambiguous
工作生活
40较低
JD未提及工作模式与WLB相关信息，但作为核心技术攻坚岗位，通常面临较高的交付压力与跨团队协作强度。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
致力于解决大模型推理的性能瓶颈，推动AI基础设施的底层技术演进，对AI行业发展具有积极的推动作用。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs