华为
AI Infra高级工程师
AI Infra高级工程师
发布于 大约 8 小时前普通员工/个人贡献者
上海市
高级经验
全职员工
仅现场办公
学历未注明
机器学习工程
Fp8
Llm
Vllm
分布式训练
多模态
推理优化
昇腾
AI 估算 · 35k–65k
上海AI Infra高级工程师，华为平台加前沿技术栈，薪资高于市场平均，结合16薪估算。
职位详情
关于这个职位
该职位负责大模型（LLM/多模态/推荐/强化学习）从训练到推理的全链路性能优化，通过软硬协同设计、编译优化和量化压缩等技术构筑昇腾芯片的AI基础设施竞争力
你将深入芯片底层，主导低精度训练和长序列推理等前沿技术落地，并参与vLLM、SGLang等主流开源框架的社区贡献，是AI技术栈中极具挑战性和成长空间的岗位
最低要求
掌握基本的预训练模型的原理、分布式训练、推理及微调技术等，并掌握相关实现及优化方案
计算机和电子工程等相关专业
良好的软件编程能力（C/C++，Python）
熟悉计算机体系结构，流水线结构
工作职责
负责业界主流LLM/多模态模型在昇腾芯片上的预训练、微调及推理全流程优化，主导低精度训练（FP8/FP4）、长序列（M级）推理等关键技术在昇腾平台的落地，构建高吞吐、低时延的训推核心竞争力
深刻理解芯片硬件架构（存储层次、计算单元、片上互联），跟踪FlashAttention、稀疏化等前沿算子思路，负责Matmul、Attention等关键算子的理论分析、算法设计与工程实现，通过软硬协同实现算力峰值突破
主导昇腾在vLLM、SGLang、Triton、LLaMA-Factory等主流开源框架的原生支持与竞争力构建
积极贡献开源社区，提升昇腾在AI Infra领域的技术影响力，同时推动场景化解决方案的商业落地与客户成功
优先资格
有模型训练、推理应用经验者优先
有容器应用开发、分布式作业性能优化、集合通信性能评估优化经历者优先
拥有开发者社区规划、运营经验者优先
有与高校、科研学术机构或教育培训机构合作经验者优先
AI 洞察
优缺点分析
优点
- 接触前沿的大模型基础设施技术，技能积累价值高
- 华为昇腾平台具有战略意义，项目影响力大
- 深度参与开源社区，提升个人行业知名度
- 薪资福利在行业内具有竞争力
- 工作强度大，可能需要应对紧急技术攻关
- 技术复杂度高，需要持续学习最新研究进展
- 软硬协同优化难度大，对底层理解要求极高
- 适合对AI基础设施有强烈热情，喜欢底层优化和分布式系统的技术型人才
缺点 / 挑战
暂无明显挑战项
角色解读
- 技术方向：从算法优化专家向系统架构师发展
- 业务方向：深入AI Infra生态，成为开源社区技术领袖
- 管理方向：可晋升为技术负责人或团队管理者
- 负责大模型在昇腾芯片上的预训练、微调及推理全流程优化
- 主导低精度训练（FP8/FP4）和长序列推理等前沿技术在昇腾平台的落地
- 设计和实现关键算子（Matmul、Attention等），通过软硬协同突破算力峰值
- 参与vLLM、SGLang等主流开源框架的昇腾原生支持与社区贡献
- 扎实的C/C++和Python编程能力
- 深刻理解计算机体系结构和芯片硬件架构
- 熟悉分布式训练、推理和模型优化技术
- 了解主流大模型框架和推理引擎（vLLM、Triton等）
申请策略
- 了解华为昇腾生态和竞争对手（如GPU）的差异
- 在面试中展示解决复杂性能问题的思路和案例
- 突出大模型训练/推理的优化项目经验
- 展示分布式系统和性能调优的实际成果
- 强调对计算机体系结构的深入理解
- 如有开源贡献或技术博客，重点体现
- 补充学习vLLM、SGLang等推理框架的源码实现
- 掌握FP8量化、FlashAttention等前沿技术
面试指南
- 从系统角度分析，明确瓶颈，结合软硬协同思想给出优化方案
- 使用STAR法则描述过往项目，突出量化结果
- 强调底层原理和实际验证的结合
- 如何优化一个大规模Transformer模型的推理性能？
- 解释FlashAttention的原理和优势，如何实现？
- 在分布式训练中，如何解决通信瓶颈？
- 低精度训练（FP8）有哪些挑战？如何保证精度？
- 你对vLLM或Triton的源码有过深入分析吗？
职位点评
71
综合评分
大厂AI Infra技术岗，前沿技术栈，薪资优渥，但工作强度较大。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
该职位最适合追求技术深度和职业成长、能承受高强度工作的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展85
工作生活40
使命价值80
薪资福利
75中等
华为薪资水平高，但JD未披露具体福利，综合评定中等偏上。
薪资信号未披露（AI估算：35K-65K/月）
成长发展
85较高
职位涉及LLM、FP8等前沿技术，技术成长空间大，但晋升信号不明确。
技术前沿前沿/新兴技术
技术栈LLM、多模态、FP8、分布式训练、推理优化、vLLM、SGLang、Triton、量化压缩、编译优化
业务类型profit_center
工作生活
40较低
华为工作强度普遍较高，JD未提及弹性办公或WLB保障，生活平衡满足程度有限。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
AI基础设施领域前景广阔，昇腾生态具有战略价值，使命感和行业影响力较强。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
华为 的其他在招职位
相似职位推荐
Watch Jobs