阿里巴巴
阿里云智能-服务器软硬件系统架构与解决方案专家-杭州/北京/上海
阿里云智能-服务器软硬件系统架构与解决方案专家-杭州/北京/上海
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公硬件工程师
硬件工程师
Ai Coding
Gpu架构
Nvidia驱动
Nvlink
Pcie
Roce
分布式训练
固件管理
大模型推理优化
值不值得投
77综合评分
综合评分 77
AI算力基础设施核心岗位，技术栈前沿且壁垒高，成长性强，工作节奏与福利待遇未在JD中披露。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
6.3万
比硬件工程师中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4100 个在招 · 其中硬件工程师 9 个
市场机会
选择面较广
杭州 · 硬件工程师 · 64 个在招
职位详情
关于这个职位
该岗位隶属于阿里云智能云智能集团，负责AI算力系统（GPU/CPU/网络/存储）的选型评估、技术路线规划与验收测试，并保障万卡级训练与大规模推理集群的软硬件稳定性
你将深入GPU固件、驱动与OS层面定位问题，是连接硬件厂商、产品团队与AI业务团队的关键技术角色
最低要求
熟悉AI异构硬件系统架构，包括GPU/CPU/内存(HBM/DDR)/高速互联(NVLink/PCIe/InfiniBand/RoCE)等核心组件的架构原理和整机系统拓扑
熟悉主流AI芯片微架构(如SM/Tensor Core、显存子系统、RAS特性等)
熟悉AI异构系统测试方法论，具备CPU/内存/SSD/GPU等核心部件及整机测试工具的开发经验
熟悉异构硬件诊断工具、NVIDIA驱动源码，具备OS层面问题排查能力
熟悉大模型训练全流程，包括语言类大模型、视频生成类模型的训练流程
主流分布式训练框架的原理与调优实践
熟悉大模型推理服务的部署与优化
很强的技术沟通能力，能够与硬件厂商、产品团队、业务团队进行有效的跨团队协作
很强的问题定位与解决能力，良好的文档规范意识，能够输出高质量的故障分析报告与技术方案文档
熟练使用主流AI Coding工具，熟悉AI驱动的研发流程并能融入个人工作流
工作职责
结合业务发展规划(训练/推理)，负责AI算力系统(GPU/CPU/网络设备/存储等)的选型评估与技术路线规划
跟踪行业前沿硬件动态，为AI硬件引入决策提供技术输入
负责算力系统引入的前置评估与验收，制定并执行硬件验收测试方案，覆盖性能基准、压力稳定性、RAS特性、多机训练/推理单集群多品牌机器混部场景测试，识别潜在风险点并推动问题闭环
负责AI异构硬件系统OS交付流程的全链路管理，保障BIOS、BMC、CPLD、NIC FW、GPU FW bundle版本等关键软件栈组件的版本把控和可追溯性
线上稳定性保障，建立硬件全生命周期监控体系，保障大规模集群上线后的持续稳定运行，参与容量规划、故障预案制定等基础设施保障工作，深入GPU固件、驱动、运行时等多个层面进行问题定位，建立标准化的故障诊断流程(SOP)，提升问题定位效率与故障闭环效率
支撑AI相关业务的异构软硬件系统稳定性，负责大规模分布式训练(万卡级)集群的软硬件问题定位与解决
负责大规模推理服务集群的软硬件稳定性支撑
定位并解决推理场景下的性能劣化、硬件异常、服务稳定性等问题
持续推进算力项目体系化和系统化建设
优先资格
有AI相关开发工具应用研发经验者优先
持有阿里云ACA/ACP/ACE认证证书者优先
AI 洞察
优缺点分析
优点
- 直接参与前沿AI算力基础设施的选型与落地，能接触到最新GPU平台、超大规模集群与混部场景，技术视野稀缺
- 软硬件全栈贯通——从芯片微架构、固件驱动到分布式训练框架，能力壁垒高、可迁移性强
- 横跨硬件厂商、产品与业务团队的协作位置，能积累较强的跨团队影响力
- 需要同时驾驭硬件、固件、驱动、OS与分布式训练多层技术栈，知识面要求宽且深，学习曲线陡峭
- 多城市办公与跨团队、跨厂商协作，对沟通与推动能力要求高
- 适合有服务器硬件或AI基础设施背景、喜欢钻研底层软硬件问题、并愿意在超大规模系统中承担稳定性责任的技术型人才
缺点 / 挑战
- AI算力是当前投入最集中的方向之一，岗位的技术价值与业务关联度都较高
- 线上稳定性保障涉及万卡级集群，一旦出现故障影响面大，问题定位与闭环的压力不小
角色解读
- 可沿技术专家路线深耕，成为AI算力基础设施领域的架构权威，主导更大规模的硬件技术路线
- 也可横向拓展至集群规划、容量与成本优化、云产品化解决方案设计，向解决方案架构师或基础设施技术负责人方向发展
- 在AI算力持续扩张的背景下，这类复合型软硬件能力在云厂商、芯片厂商与AI公司之间都有较高流动性
- 负责AI算力系统的硬件选型与技术路线规划，评估GPU/CPU/网络/存储在训练与推理场景下的适配性
- 制定并执行硬件验收测试方案，覆盖性能基准、压力稳定性、RAS特性及多品牌混部场景
- 管理BIOS/BMC/CPLD/NIC FW/GPU FW等软件栈版本的交付与可追溯性
- 为万卡级训练集群和大规模推理集群提供稳定性保障，深入固件、驱动、运行时层面定位疑难问题
- 扎实的AI异构硬件架构功底，理解GPU/CPU/HBM/DDR/NVLink/PCIe/InfiniBand/RoCE的原理与整机拓扑
- 熟悉主流AI芯片微架构与RAS特性，能开发部件级和整机级测试工具
- 具备OS层问题排查能力，看得懂NVIDIA驱动源码并使用异构硬件诊断工具
- 理解大模型训练全流程、分布式训练框架调优与推理服务部署优化
申请策略
- 提前了解阿里云在AI算力基础设施上的产品布局与技术路线，便于面试时对齐业务语境
- 若有阿里云ACA/ACP/ACE认证可在简历显著位置标注
- 同时准备清晰的技术文档样例，面试中很可能考察你的文档与方案表达能力
- 突出GPU/服务器硬件选型与验收测试经历，写明测试覆盖的具体维度（性能基准、压力稳定性、RAS、混部）与规模
- 量化集群规模与稳定性成果，如支撑的训练/推理集群卡数、故障闭环效率提升等
- 展示固件、驱动、OS层的问题定位案例，说明你如何从现象追到根因
- 列出对分布式训练框架与推理服务优化的实践经验，以及AI Coding工具在工作流中的实际应用
- 系统梳理GPU微架构、NVLink/PCIe/InfiniBand/RoCE等互联技术细节与整机拓扑设计要点
面试指南
- 采用「背景-方案-验证-结果」结构：先讲清系统规模与问题边界，再说明你的分析路径与判断依据，最后用数据说明效果
- 技术深挖类问题建议从硬件层（部件/RAS）→ 固件驱动层（版本/日志）→ OS与运行时层→ 框架与业务层逐层收敛，体现系统化排查思维
- 涉及跨团队协作的问题，强调你如何用技术方案和数据推动硬件厂商与业务方达成一致
- 请介绍一次你主导的GPU服务器选型评估，你是如何定义评估维度并做出结论的？
- 在多品牌GPU机器混部的集群中，你遇到过哪些稳定性问题？如何定位并解决？
- 万卡级训练集群出现训练任务性能劣化，你会按什么顺序排查？
- 如何设计一套硬件验收测试方案来覆盖性能、压力、RAS与混部场景？
- 固件/驱动版本管理如何做到全链路可追溯？你有哪些实践？
职位点评
薪资福利80
成长发展88
工作生活55
使命价值78
薪资福利
80较高
JD未披露薪资与福利细节，但岗位定位为专家级技术角色，工作地点为杭州、北京、上海等一线城市，整体薪酬竞争力预期较好，具体待遇需面谈确认。
薪资信号未披露（AI估算：4.5千–8.0万/月）
成长发展
88较高
岗位处于AI算力基础设施核心方向，覆盖GPU异构硬件、固件驱动、分布式训练与推理优化等前沿内容，技术积累深厚且可迁移性强。
技术前沿前沿/新兴技术
技术栈GPU、CPU、HBM、DDR、NVLink、PCIe、InfiniBand、RoCE、RAS、BIOS、BMC、GPU FW、NVIDIA驱动、分布式训练、大模型推理
业务类型ambiguous
工作生活
55较低
JD未提及办公模式、弹性工时或加班情况，仅可知需为大规模集群提供线上稳定性保障，可能涉及故障响应；具体工作节奏建议面试时向 HR 与团队了解。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
78中等
岗位直接支撑AI训练与推理算力底座，处在AI产业扩张的基础设施环节，技术价值明确，但JD未表述使命感或社会价值相关内容。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs