阿里巴巴
AI Infra工程师-计算方向
AI Infra工程师-计算方向
发布于 大约 8 小时前普通员工/个人贡献者
全职员工仅现场办公云计算
云计算
Aiops
Cuda
Gpu
Rdma
分布式系统
容器化
虚拟化
高性能计算
值不值得投
69综合评分
综合评分 69
顶级AI基础设施岗，技术挑战与成长空间巨大，但工作强度预期较高。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
43K
比云计算中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2300 个在招 · 其中云计算 8 个
市场机会
选择适中
杭州 · 云计算 · 12 个在招
职位详情
关于这个职位
该职位是阿里巴巴云智能事业群的AI Infra工程师，专注于AI时代的计算基础设施研发
你需要参与构建支撑亿级计算核心和十万卡级GPU集群的AI计算基础设施，涵盖从高性能网络、GPU集群管理、容器化调度到系统软件优化的全栈技术挑战，确保大模型分布式训练与推理的效率与稳定性
最低要求
基础条件：
● 计算机、软件工程、人工智能等相关专业优先
● 热衷于数据结构和算法，在 ACM/ICPC 等竞赛中成绩优异者优先
● 在系统、体系结构或 AI 领域顶会（如 OSDI, SOSP, ASPLOS, ISCA, MICRO, MLSys, SIGCOMM, NSDI 等）发表过论文，或在核心开源项目中有重大贡献（Maintainer/Committer）者优先考虑
专业能力（系统工程与计算底座）：
● 系统编程功底：精通 C/C++、Go、Python 或 Rust 中至少一门语言，具备扎实的系统级编程能力
熟悉 Linux 内核（调度器、内存管理、网络栈、文件系统、cgroups）及高性能网络开发（Socket, RDMA, DPDK/SPDK），具备极强的底层工程实现与缺陷排查能力
● 分布式系统与云原生：深刻理解分布式系统基本原理（如一致性、容错、扩展性等）
对 Kubernetes 架构有一定理解，熟悉容器 Runtime（Docker/containerd/CRI）原理者优先
了解虚拟化技术（KVM/QEMU/Xen）或 DPU/智能网卡架构者加分
AI 计算领域专业知识（满足其一即可）：
● 了解 AI 的基本原理与常见算法，理解模型训练/推理任务的基本流程及其资源需求（如显存、带宽、通信模式），了解主流训练推理框架（如 PyTorch、Megatron-LM、DeepSpeed、vLLM、SGLang）的基本使用方式
● 了解异构计算或高性能计算体系，熟悉 GPU 体系结构（PCIe/NVLink/NVSwitch）及相关编程模型（CUDA），有 GPU 相关优化经验者优先
● 熟悉容器化环境下 AI 任务的架构及部署链路，了解如何通过容器/虚拟化技术优化模型加载、Checkpoint 保存、Memory 管理等环节
● 了解 x86/ARM 体系结构，熟悉 CPU 虚拟化（VT-x）、内存虚拟化（EPT）、IO 虚拟化（SR-IOV/VFIO）等核心模块原理者优先
能力特质：
● 全局技术视野：具备跨域的技术视野，能从“GPU 算子 → HBM 显存 → NVLink/PCIe 总线 → RDMA 网卡 → 分布式调度器 → K8s 编排”的全链路视角拆解计算流程，准确把握计算、网络与调度的边界权衡
● 系统思维与极致追求：乐于挑战复杂系统的性能极限，熟练使用各种 Profiling & Tracing 工具（如 eBPF、perf、ftrace、Nsight Systems、flamegraph），善于从 CPU 缓存未命中、上下文切换、锁竞争等微观视角定位并解决性能瓶颈
● 业务驱动与跨域协同：对 AI 大模型技术充满热情，不仅能交付高质量的系统级代码，更能与算法科学家、模型训练专家进行深度技术对话，将模型侧的痛点精准转化为底层计算基础设施的工程解法
● 极客精神：具备快速学习新技术的能力，渴望在高性能计算与大规模算力平台的交汇处实现技术突破
拒绝纸上谈兵，有自己独立完成的技术项目或开源贡献，展现极客精神
工作职责
具体的职责包括以下相关方向的一项或多项：
算力基建与分布式训练加速：
● 深入分布式训练架构，优化集合通信（AllReduce/AllGather）与底层算子性能，解决大规模集群通信瓶颈，提升模型训练的吞吐量与计算效率
参与研究新的训练框架和并行模式（DP/TP/PP/EP）
● 针对大规模推理场景，研发高性能推理引擎，通过 Kernel 优化、KV Cache 管理、框架改进与算法协同优化等手段，实现极致的低延迟与高并发
高性能网络与通信基础设施：
● 研发面向 AI 超算的大规模高性能网络（200G/400G/800G）及通信基础设施, 优化降低分布式训练与推理的网络传输延迟
● 负责 AI/高性能计算所需的高性能分布式通信框架研发，优化容器网络性能，保障海量任务的极致通信效率
加速计算与 GPU 集群管理：
● 持续探索前沿 GPU 架构设计与技术，结合业务需求构建高可用、高可靠、可扩展的加速计算技术体系
● 构建加算计算算力统一管理系统，实现智算集群中 GPU 资源的全面监控、质量巡检、故障预测与性能水平标定（SLO），保障算力资源的稳定一致性
虚拟化与系统软件研发：
● 在 Intel/AMD/ARM 等新硬件平台进行 Hypervisor 关键特性研发，使能硬件加速能力（VT-x/EPT/SR-IOV），基于 DPU/CIPU 的加速与卸载方案研发，降低虚拟化性能开销
● 负责云平台 CPU 调度器/内存管理系统/IO 资源虚拟化的设计研发与优化，提升资源利用效率与运维弹性，为Agentic AI提供可靠、高效、低成本的执行环境
● 基于 TDX/SEV 等硬件安全能力，打造面向 AI 场景的机密计算解决方案，保护云上租户的模型与数据安全
容器化调度与编排优化：
● 深度优化 Kubernetes 调度器，实现面向 GPU 拓扑感知的算力分配，解决大规模分布式训练任务的资源碎片化问题
● 研发面向 AI 推理与 Agent 运行的轻量化沙箱算力，实现计算资源的极致弹性与高密部署
● 设计并实现面向 AI 工作负载的弹性调度策略，通过多级缓存、预加载等手段，实现 AI 任务与 Agent 的秒级快速拉起与自动伸缩
智能化集群管理与 AIOps：
● 构建超大规模基础设施的智能化集群管理系统，涵盖资源调度、监控报警、自动化运维等核心能力，实现算力资源的弹性分配与自动化运维闭环
● 设计研发自主智能运维 Agent，通过自动故障感知、根因定位与自愈决策闭环，提升大规模集群的运维效率与稳定性
AI 工程平台与效率提升：
● 打造一体化的 AI 研发平台，覆盖大模型训练、推理、调度的全流程，降低模型迭代门槛，提升研发效能
● 探索 Serverless 等新场景下面向 AI 计算的解决方案，设计研发基于 AI 的智能应用弹性及资源弹性产品能力，推动端到端弹性伸缩优化
优先资格
【加分项】
● 在 GitHub 等开源社区有较大影响力的技术项目，作为 Collaborator/Committer/Member 优先
有 K8s/容器相关开源社区贡献（Kubernetes/KubeFlow/Volcano/OpenKruise 等）或 Linux 内核社区贡献者加分
● 有高性能网络/RDMA 开发经验，或有 GPU 编程（CUDA）与性能优化实战经验
● 有虚拟化/DPU/智能网卡开发经验，或有在离线混部、长尾延时优化等系统调优经验
● 获得过业界有影响力的专利
AI 洞察
优缺点分析
优点
- 平台与影响力巨大，代码直接作用于阿里云核心产品，影响全球AI模型的训练与部署效率
- 团队技术氛围浓厚，有机会与顶尖的算法科学家、系统架构师共事，解决世界级的工程难题
- 技术难度极高，涉及系统、网络、AI、硬件多个领域的交叉，对工程师的综合能力和学习能力要求极强
- 技术迭代速度快，需持续跟进AI、云计算、芯片等领域的最新发展，保持技术敏锐度
缺点 / 挑战
- 直面AI时代最核心的挑战，技术栈极其前沿（如十万卡集群、AI推理优化），能接触业界最大规模的计算场景
- 需要处理超大规模系统的稳定性和性能问题，责任重大，工作压力可能较大
- 适合具备深厚系统功底、对高性能计算和AI基础设施有强烈兴趣、追求技术极致、能承受复杂系统开发压力的工程师
角色解读
- 技术专家路线：深耕计算基础设施某一方向（如网络、调度、虚拟化），成为该领域的顶级专家或架构师
- 技术管理路线：在具备扎实技术能力的基础上，转向技术团队管理，负责更大规模的技术体系和团队建设
- 行业影响路线：通过主导核心模块研发、参与标准制定或在顶级会议发表成果，建立个人技术影响力
- 负责AI大模型训练与推理的底层计算基础设施研发，优化从GPU算子、网络通信到集群调度的全链路性能
- 设计和实现高性能的虚拟化、容器化与资源调度系统，管理超大规模的GPU集群，提升资源利用率和运维效率
- 探索和解决云原生AI场景下的前沿工程挑战，如异构计算、机密计算、AIOps等，直接支撑全球顶尖AI模型
- 精通系统级编程（C/C++/Go/Rust），深入理解Linux内核、高性能网络（RDMA）和虚拟化技术
- 具备扎实的分布式系统原理和云原生（Kubernetes）实践经验，能够处理大规模复杂系统
- 拥有AI计算或高性能计算（HPC）领域知识，了解GPU架构（CUDA）或主流AI训练/推理框架
- 具备出色的性能分析与优化能力，能从微观（CPU缓存）到宏观（集群调度）全链路定位并解决瓶颈
申请策略
- 在简历和面试中，多使用“全链路”、“系统性”、“性能根因分析”等词汇，展现你的系统思维和技术深度
- 主动了解阿里巴巴在AI Infra领域的公开技术博客、演讲或开源项目，将你的经验与之结合进行阐述
- 重点突出在操作系统、分布式系统、虚拟化、高性能网络或GPU编程等领域的深度实践项目与成果
- 量化系统性能优化经验，如“将某通信算子性能提升X%”、“将集群资源利用率从X%提升至Y%”
- 展示在相关开源社区（Kubernetes、Linux内核等）的贡献，或在顶级会议（OSDI、ASPLOS等）的论文成果
- 清晰阐述对AI训练/推理全链路的理解，以及对当前技术挑战和解决方案的思考
- 系统复习并深入实践Linux内核核心子系统（调度、内存、网络）和RDMA/DPDK等高性能网络技术
- 动手搭建并优化一个小型的Kubernetes集群，尝试在GPU场景下进行调度策略调优和资源管理
面试指南
- 对于性能问题类问题，使用“场景-方法-工具-结果-思考”的框架，强调分析过程和系统性思考
- 对于技术原理类问题，从基本概念讲起，结合实际应用场景（如AI训练）阐述其价值和挑战
- 对于设计类问题，先明确目标（低延迟/高吞吐/高可用），再分模块（调度/通信/存储）阐述设计考量，并讨论权衡（trade-off）
- 请介绍一个你解决过的最复杂的系统性能优化问题，你是如何定位瓶颈并解决的？
- 请解释一下RDMA的工作原理，以及它如何提升大规模分布式训练的通信效率？
- 在Kubernetes中，如何为GPU任务设计一个拓扑感知的调度策略？需要考虑哪些因素？
- 对于一个超大规模的GPU集群，你会设计怎样的监控和故障恢复机制来保证其稳定性？
- 你如何看待当前AI大模型训练中，通信瓶颈与计算瓶颈之间的关系？可以从哪些层面进行优化？
职位点评
薪资福利65
成长发展95
工作生活35
使命价值80
薪资福利
65中等
作为大厂核心技术岗，预计薪酬福利处于市场较高水平，但JD未明确薪资，福利体系完整度未知。
薪资信号未披露（AI估算：30K-55K/月）
成长发展
95较高
该职位处于AI与云计算的技术前沿，涉及GPU集群、分布式系统、云原生等顶级挑战，能提供极高的技能成长和行业影响力。
技术前沿前沿/新兴技术
技术栈Kubernetes、RDMA、CUDA、分布式系统、GPU集群管理、虚拟化、AIOps
成长机会全球顶尖 AI 模型注入最强劲的算力引擎
业务类型profit_center
工作生活
35较低
作为一线大厂的基础设施岗位，工作强度可能较高，JD未提及任何关于工作模式、弹性办公或WLB的信号。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
该职位直接构建支撑AI时代的算力引擎，是行业高速发展的核心赛道，具有明确的产业价值和技术使命感。
行业发展高速增长赛道
社会影响中性/一般
使命信号打造 AI 时代持续领先的计算基础设施、全球顶尖 AI 模型注入最强劲的算力引擎
创新程度开拓性创新（行业首创）
Watch Jobs