阿里巴巴
阿里云智能-服务器软硬件系统架构与解决方案专家-杭州、北京、上海
阿里云智能-服务器软硬件系统架构与解决方案专家-杭州、北京、上海
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公后端开发
后端开发
Gpu/Cpu
Linux内核
Nvidia驱动
分布式训练
大模型推理
故障排查
硬件测试
系统稳定性
值不值得投
79综合评分
综合评分 79
顶尖大厂高薪、前沿AI算力技术、高强度工作、高成长潜力
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
9.0万
比后端开发中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4530 个在招 · 其中后端开发 约 130 个
市场机会
选择面较广
杭州 · 后端开发 · 约 230 个在招
职位详情
关于这个职位
负责AI算力系统（GPU/CPU/网络等）的选型评估、技术路线规划及硬件验收测试
主导异构硬件系统OS交付的全链路管理，保障大规模集群（万卡级）的线上稳定性与故障闭环
深入底层进行问题定位，推动算力项目体系化建设，支撑大模型训练与推理业务的高效运行
最低要求
熟悉AI异构硬件系统架构，包括GPU/CPU/内存(HBM/DDR)/高速互联(NVLink/PCIe/InfiniBand/RoCE)等核心组件的架构原理和整机系统拓扑
熟悉主流AI芯片微架构(如SM/Tensor Core、显存子系统、RAS特性等)
熟悉AI异构系统测试方法论，具备CPU/内存/SSD/GPU等核心部件及整机测试工具的开发经验
熟悉异构硬件诊断工具、NVIDIA驱动源码，具备OS层面问题排查能力
熟悉大模型训练全流程，包括语言类大模型、视频生成类模型的训练流程
主流分布式训练框架的原理与调优实践
熟悉大模型推理服务的部署与优化
很强的技术沟通能力，能够与硬件厂商、产品团队、业务团队进行有效的跨团队协作
很强的问题定位与解决能力，良好的文档规范意识，能够输出高质量的故障分析报告与技术方案文档
熟练使用主流AI Coding工具，熟悉AI驱动的研发流程并能融入个人工作流
工作职责
结合业务发展规划(训练/推理)，负责AI算力系统(GPU/CPU/网络设备/存储等)的选型评估与技术路线规划
跟踪行业前沿硬件动态，为AI硬件引入决策提供技术输入
负责算力系统引入的前置评估与验收，制定并执行硬件验收测试方案，覆盖性能基准、压力稳定性、RAS特性、多机训练/推理单集群多品牌机器混部场景测试，识别潜在风险点并推动问题闭环
负责AI异构硬件系统OS交付流程的全链路管理，保障BIOS、BMC，CPLD，NIC FW，GPU FW bundle 版本等关键软件栈组件的版本把控和可追溯性
线上稳定性保障，建立硬件全生命周期监控体系，保障大规模集群上线后的持续稳定运行，参与容量规划、故障预案制定等基础设施保障工作，深入GPU固件、驱动、运行时等多个层面进行问题定位，建立标准化的故障诊断流程(SOP)，提升问题定位效率与故障闭环效率
支撑AI相关业务的异构软硬件系统稳定性，负责大规模分布式训练(万卡级)集群的软硬件问题定位与解决
负责大规模推理服务集群的软硬件稳定性支撑
定位并解决推理场景下的性能劣化、硬件异常、服务稳定性等问题
持续推进算力项目体系化和系统化建设
优先资格
有AI相关开发工具应用研发经验者优先，持有阿里云ACA/ACP/ACE认证证书者优先
AI 洞察
优缺点分析
优点
- 处于AI算力最前沿，接触业界最先进的GPU集群和硬件技术
- 薪酬待遇处于行业顶尖水平，包含丰厚的股票激励
- 技术深度要求高，有助于打造硬核的技术壁垒和职业竞争力
- 技术栈极深且杂，需同时懂硬件、固件、驱动、OS及应用层，学习曲线陡峭
- 跨部门协作复杂，需协调硬件厂商、内部产品与业务多方资源，沟通成本高
- 适合具有深厚计算机系统背景、对底层硬件和分布式系统有极致热情、能承受高压并追求技术深度的资深工程师
缺点 / 挑战
- 平台巨大，数据规模和工程挑战极具吸引力，能积累稀缺的大型分布式系统经验
- 工作强度大，需保障大规模集群7x24小时稳定运行，可能面临紧急故障响应压力
角色解读
- 成为AI基础设施领域的顶级技术专家，主导下一代算力架构设计
- 向技术管理方向转型，带领大型基础设施研发团队
- 拓展至更广泛的云计算系统工程领域，成为云原生基础设施架构师
- 负责AI算力基础设施（GPU/CPU/网络）的技术选型、架构设计与验收测试
- 管理异构硬件系统的OS交付全链路，确保BIOS、驱动、固件等软件栈的稳定性和可追溯性
- 保障万卡级大规模集群的线上稳定性，深入底层进行故障定位、性能调优和问题闭环
- 与大模型训练/推理业务团队紧密协作，解决异构环境下的复杂技术问题
- 精通AI异构硬件架构（GPU/CPU/NVLink/PCIe等）及微原理
- 具备操作系统底层调试能力，熟悉NVIDIA驱动源码及Linux内核机制
- 掌握大规模分布式训练框架原理及大模型推理部署优化技术
- 极强的跨团队协作能力与复杂系统故障排查能力
申请策略
- 准备详细的技术案例，说明如何解决复杂的软硬件协同问题
- 了解阿里云在AI算力领域的最新布局和技术栈
- 展现对AI基础设施稳定性和效率提升的深刻见解
- 突出在GPU/CPU异构系统测试、驱动开发或OS层面的具体项目经验
- 强调处理过大规模集群（千卡/万卡级）的性能调优或故障排查案例
- 展示对NVIDIA生态、RDMA网络或大模型训练框架的深入理解
- 体现跨团队协作能力和技术文档输出能力
- 深入研读NVIDIA GPU架构白皮书及驱动源码
面试指南
- STAR法则：情境-任务-行动-结果，重点突出技术深度和解决问题的逻辑
- 分层排查思路：从应用层->框架层->驱动层->固件/硬件层逐层剥离
- 数据驱动：用监控数据、日志分析和基准测试结果佐证观点
- 系统性思维：不仅解决当前问题，还要提出预防机制和标准化流程
- 请描述一次你解决过的最复杂的GPU或硬件驱动相关的故障，你是如何定位的？
- 在万卡级集群中，如何设计和实施硬件验收测试方案以发现潜在风险？
- 谈谈你对NVIDIA NVLink或InfiniBand在分布式训练中作用的理解及优化经验
- 如何保证大规模异构集群中BIOS、固件等多版本组件的一致性和可追溯性？
职位点评
薪资福利95
成长发展90
工作生活40
使命价值75
薪资福利
95较高
作为已上市巨头企业的专家级岗位，薪资包（现金+股票）极具竞争力，远超市场平均水平，福利体系完善。
薪资信号偏高 (6.0千–12.0万/月)
成长发展
90较高
岗位涉及AI算力最前沿的硬件架构与大规模分布式系统，技术栈先进，成长空间巨大，能接触行业顶尖技术难题。
技术前沿前沿/新兴技术
技术栈GPU、CPU、NVLink、InfiniBand、NVIDIA驱动、大模型训练、分布式训练、BIOS、BMC
业务类型profit_center
工作生活
40较低
互联网大厂核心研发岗，通常工作节奏快、强度高，需保障大规模集群稳定性，可能涉及夜间或紧急故障响应，WLB一般。
工作模式未明确
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值
75中等
支撑AI基础设施建设，推动大模型技术发展，具有显著的行业影响力和技术价值，但商业属性较强。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
资深Java开发工程师
网易 · 杭州市
AI 估算 · 3.0–5.0万3 小时前发布
资深服务端开发工程师
网易 · 广州市
AI 估算 · 2.5–4.5万3 小时前发布
点评技术-算法平台研发工程师（Java）
美团 · 北京市
AI 估算 · 2.5–4.5万4 小时前发布
广告数据工程及Agent开发
美团 · 北京市
AI 估算 · 3.0–5.0万4 小时前发布
Java开发工程师（营销活动方向）-【游戏事业部】
快手 · 杭州市
AI 估算 · 2.5–4.5万4 小时前发布
分布式 KV 存储专家
京东 · 北京市
AI 估算 · 8.0–15.0万4 小时前发布
软件开发
京东 · 北京市
AI 估算 · 3.5–6.0万4 小时前发布
java后端开发工程师(数据平台方向)
滴滴出行 · 北京市
AI 估算 · 2.5–4.0万4 小时前发布
Watch Jobs