阿里巴巴
阿里云智能-服务器研发AI系统高级架构师-深圳/杭州
阿里云智能-服务器研发AI系统高级架构师-深圳/杭州
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公架构师
架构师
Ai Infrastructure
Performance Modeling
值不值得投
77综合评分
综合评分 77
顶尖AI基础设施架构岗，技术前沿性强，薪资丰厚，但工作强度较高
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
11.5万
比架构师中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4240 个在招 · 其中架构师 36 个
市场机会
选择面较广
杭州 · 架构师 · 64 个在招
职位详情
关于这个职位
负责面向AI大模型训练和推理场景的超节点及集群架构规划与设计，涵盖计算、互连拓扑、内存存储层次定义
主导GPU/NPU互连架构设计，进行性能建模与Benchmark体系建设，跟踪业界前沿架构趋势并推动下一代AI基础设施的技术落地与优化
最低要求
计算机、电子科学与技术、通信工程、人工智能等相关专业，10年以上工作经验，5年以上服务器系统架构、高性能计算或AI基础设施相关工作经验，主导多个中型项目并取得成功的经验
能够负责重要技术的研发实践落地工作，负责架构定义，系统设计，开发执行和落地交付等全面性工作
深入理解GPU服务器硬件架构，熟悉产业界竞品设计架构，熟悉多GPU互连拓扑（NVLink、NVSwitch、PCIe Switch）、Scale-Up与Scale-Out组网方案及其性能特征
熟悉AI大模型训练与推理的典型workload特征，包括Transformer架构、MoE模型、KV Cache管理、Prefill/Decode分离等，能够从业务负载出发反推系统架构需求
了解大模型训练与推理的软硬件协同优化策略，如混合精度训练、通信计算重叠、算子调度、内存复用等，能够在架构设计中融入优化考量
具备系统性思维和架构设计能力，熟悉服务器、网络、IDC相关技术基础知识，熟练掌握跨领域设计方法，能够独立完成复杂系统的方案论证、性能建模、技术选型和跨团队协同推进
熟练掌握DFx设计方法，保障相关产品/技术/系统的可容灾、可观测、可处置、可运维、可快恢，提升产品/技术/系统的安全和稳定性
有强烈的技术热情和好奇心、自驱力和学习力
具备良好的分析与解决问题能力、沟通及团队合作能力
有创新热情，积极乐观，能够持续推动问题解决和技术突破
掌握AI基础知识，熟练使用主流AI Coding工具，熟悉AI驱动的研发流程并能融入个人工作流
有AI基础设施或开发工具研发经验者优先，持有阿里云ACA/ACP/ACE认证证书者优先
工作职责
负责面向AI大模型训练和推理场景的超节点及超节点集群架构规划与设计，包括计算和互连拓扑定义、Scale-Up/Scale-Out互连方案设计、内存与存储层次设计，输出系统级架构方案并推动落地验证
负责超节点内部GPU/NPU互连架构设计，涵盖Scale-Up域内高速互连拓扑（全互联、Ring、Torus等）、带宽分配策略、通信路径优化、故障域隔离与降级机制，保障大规模并行训练与推理的通信效率
负责超节点集群的计算超节点、加速器超节点、内存超节点、IO超节点、存储超节点等方向的规划和预研，定义下一代面向大模型的超节点集群架构 及 关键芯片规划
参与AI加速器（GPU/LPU/NPU）规划和POC评估，分析不同加速器的计算特征、互连能力和内存层次，结合大模型训练与推理workload特征，输出面向不同AI大模型负载的最优超节点集群配置策略
负责超节点集群架构的性能建模与Benchmark体系建设，建立算力利用率、通信带宽、内存带宽、内存容量、互连时延、扩展效率等核心指标的量化评估方法，驱动集群架构迭代优化
跟踪业界超节点架构演进趋势（如NVL72、UALink等），结合阿里云业务场景需求，参与下一代AI超节点架构定义与原型验证
AI 洞察
优缺点分析
优点
- 适合拥有深厚硬件架构功底、对AI底层技术有极致追求、具备宏观视野的高级技术专家
缺点 / 挑战
- 接触最前沿的AI算力基础设施，技术挑战极高，能直接影响阿里云核心产品的竞争力
- 技术迭代极快，需同时兼顾硬件物理限制与软件算法需求，跨团队协作复杂度高，压力较大
角色解读
- 可向首席架构师、技术总监方向发展，或在AI基础设施领域成为行业权威专家，主导下一代算力平台的标准制定
- 作为高级架构师，你需要定义AI大模型训练/推理所需的超节点及集群硬件架构，包括计算、互连、存储等核心模块的设计
- 需要深厚的GPU/NPU互连技术背景（如NVLink），精通高性能计算架构，并深刻理解Transformer等大模型Workload对底层硬件的需求
申请策略
- 准备详细的技术方案论述，展示如何将复杂的业务负载转化为具体的硬件架构参数
- 突出主导过的服务器/集群架构设计案例，强调在GPU互连、高性能计算领域的具体成果和量化指标
- 深入研究最新的大模型训练框架（如Megatron-LM, DeepSpeed）对硬件的具体需求，熟悉最新的互连协议标准
面试指南
- 采用STAR法则，重点阐述在复杂约束条件下（如功耗、散热、成本）的技术权衡过程，以及最终带来的性能提升数据
- 如何设计支持千卡/万卡规模的GPU集群互连拓扑？
- 面对MoE模型，如何在架构层面优化KV Cache的存储与访问效率？
- 请对比分析NVLink与UALink在下一代AI集群中的优劣及适用场景
- 如何进行超节点集群的性能建模，以平衡算力、带宽与成本？
- 复习计算机体系结构经典理论，梳理近期AI硬件领域的重要论文和产品发布（如NVIDIA GB200, AMD MI300等）
职位点评
薪资福利85
成长发展95
工作生活40
使命价值75
薪资福利
85较高
作为阿里高级专家岗，薪资包极具竞争力，且上市公司福利体系完善，满足高补偿性动机。
薪资信号偏高 (8.0千–15.0万/月)
成长发展
95较高
处于AI基础设施最前沿，技术栈新颖且深度极高，提供巨大的技术成长空间和行业影响力。
技术前沿前沿/新兴技术
技术栈AI大模型、GPU/NPU、NVLink、UALink、Transformer、MoE、高性能计算
业务类型profit_center
工作生活
40较低
互联网大厂核心研发岗，通常工作强度较大，WLB相对一般，但公司提供必要的办公支持。
工作模式未明确
办公地点市区核心地段
加班情况JD含高强度暗示词
使命价值
75中等
通过构建高效AI基础设施，间接推动整个AI行业的发展和应用落地，具有显著的行业价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs