阿里巴巴
AI Infra工程师-存储方向
AI Infra工程师-存储方向
发布于 6 小时前普通员工/个人贡献者
全职员工仅现场办公存储技术
存储技术
Ai Infra
Gpudirect Storage
Linux内核
Rdma
分布式存储
性能优化
系统编程
高性能网络
值不值得投
79综合评分
综合评分 79
AI Infra核心存储岗，技术挑战顶尖、成长空间极大，但工作强度与灵活性可能受限。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
50K
比存储技术中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2740 个在招 · 其中存储技术 5 个
市场机会
选择适中
北京 · 存储技术 · 14 个在招
职位详情
关于这个职位
作为AI Infra存储方向的工程师，你将参与构建支撑大规模AI计算集群的分布式存储系统
工作内容涉及高性能存储系统研发、数据加载优化、云原生存储编排以及大模型Checkpointing加速等，旨在解决大模型训练与推理全链路中的极致工程挑战，确保海量数据高效、可靠地供给GPU集群
最低要求
基础条件：
● 计算机、软件工程及相关专业
● 热衷于数据结构和算法，在ACM/ICPC等大赛中成绩优异者优先
● 在分布式系统、存储或操作系统领域顶会（如FAST, OSDI, SOSP, SIGCOMM, NSDI等）发表过一作论文，或在核心开源存储项目中有重大贡献（Maintainer/Committer）者优先考虑
专业能力（系统工程与分布式底座）：
● 系统编程功底：精通C/C++或Go/Rust，具备扎实的系统级编程能力
熟悉Linux内核（VFS, Block Layer, Memory Management）及高性能网络开发（Socket, RDMA, DPDK/SPDK），具备极强的底层工程实现与缺陷排查能力
● 分布式系统：深刻理解分布式系统理论（如Paxos/Raft一致性协议、分布式锁、纠删码EC、数据分片与副本管理、分布式事务）
具备大规模分布式存储（如HDFS, Pangu）的研发或深度调优经验
AI存储领域专业知识（满足其一即可）：
● 深入理解AI训练与推理的I/O模式，熟练掌握底层数据加载机制（如PyTorch Dataloader），熟悉Megatron-LM, DeepSpeed, Ray, vLLM等主流分布式训练/推理框架的存储诉求
● 熟悉高性能存储协议及硬件架构，有NVMe-oF, PCIe, CXL, GPUDirect Storage (GDS)相关驱动开发与性能压测经验
● 深刻理解云原生架构，有大规模Kubernetes集群下的存储CSI、数据缓存编排调优经验
能力特质：
● 全局技术视野：具备跨域的技术视野，能从“GPU寄存器->HBM显存->PCIe总线->eRDMA网卡->分布式磁盘”的全链路视角拆解数据流动，准确把握计算、网络与存储的边界权衡
● 系统思维与极致追求：乐于挑战复杂系统的性能极限，熟练使用各种Profiling & Tracing工具（如eBPF, perf, ftrace, Nsight Systems），善于从CPU缓存未命中、上下文切换、锁竞争等微观视角定位并解决性能瓶颈
● 业务驱动与沟通协作：对AI大模型技术充满热情，不仅能交付高质量的系统级代码，更能与算法科学家、模型训练专家进行深度技术对话，将模型侧的痛点精准转化为底层存储的工程解法
工作职责
具体的职责包括以下相关方向的一项或多项：
面向AI计算的高性能存储系统研发：针对AI工作负载复杂且严苛的I/O特征（如海量小文件的高并发元数据检索、超大块数据的并行顺序流），进行内核态与协议栈级别的深度优化
主导研发基于NVMe、RDMA/RoCEv2/eRDMA的超低延时存储网络链路
极致性能的数据加载（Data Pipeline）与缓存加速：深度剖析大模型训练的数据读取链路，解决万卡集群下的I/O阻塞（I/O Bottleneck）与长尾延迟问题
研发面向大模型的分布式多级缓存与数据预取引擎，确保数据吞吐完全满足GPU显存带宽需求，实现计算与存储的完美Overlap
云原生AI存储编排与智能化调度：结合Kubernetes生态构建云原生数据编排系统（如主导或参与CNCF Fluid等项目），将存储系统与计算调度平台深度集成
实现存算感知调度（Data-aware Scheduling）与弹性扩缩容，根据计算任务拓扑动态调整数据副本与亲和性策略，保障全网存储资源的极致效率
Checkpointing极致加速与容灾：针对超千亿/万亿参数模型的断点续传（Fault Tolerance）需求，设计高性能分布式持久化方案
通过内存-SSD-对象存储的分层拓扑、异步流式写入（Async I/O）、拓扑感知（Topology-aware）路由以及GPUDirect Storage (GDS)等技术，实现百GB/TB级模型权重的秒级保存与恢复，极大降低计算资源的闲置浪费
面向Agent使用场景的存储系统研发：通过分布式数据、元数据管理和高性能的分布式一致性协议等技术，支持海量Agent下的数据规模以及IO访问安全隔离、性能隔离
AI 洞察
优缺点分析
优点
- 核心平台与影响力：在阿里巴巴这样的大型平台上工作，你的代码将直接影响核心业务和千万级用户的数据体验
- 跨领域知识积累：工作涉及存储、网络、操作系统、分布式系统、AI框架等多个尖端领域，个人技术栈和解决问题能力将得到极速提升
- 优秀同事与氛围：有机会与众多顶尖的系统工程师、算法专家协作，技术氛围浓厚
- 技术难度极高：要求对计算机系统有深刻理解，性能优化往往在微观层面进行，调试和解决问题非常复杂
- 跨团队协作复杂：需要与算法、训练平台、网络、硬件等多个团队紧密合作，沟通和项目协调能力要求高
- 知识迭代速度快：AI Infra领域技术演进迅速，需要持续学习新的硬件（如CXL、新GPU互联）、软件框架和系统理论
缺点 / 挑战
- 技术前沿与挑战性：直面AI时代最底层的工程挑战，接触和支持全球顶尖的大模型训练/推理场景，技术深度和视野开阔
- 适合对计算机系统底层（操作系统、网络、存储）有强烈探索欲，不畏惧攻克极端性能挑战，且对AI技术栈有浓厚兴趣，渴望在基础设施层面推动AI进步的资深工程师
角色解读
- 技术专家路线：深耕AI Infra存储领域，成为分布式系统架构师或存储系统专家，主导核心存储产品设计
- 技术管理路线：在承担复杂技术难题的同时，带领小团队，向技术Team Leader或研发经理方向发展
- 跨界影响力路线：将存储优化经验与AI算法、网络、硬件深度结合，成为计算存储领域的复合型专家或解决方案架构师
- 研发支撑超大规模AI计算集群（千卡至十万卡）的底层分布式存储系统，解决海量数据的高并发、低延迟读写难题
- 优化从数据加载到Checkpoint的AI训练/推理全链路数据流，确保GPU算力不被I/O等待所浪费
- 参与或主导云原生存储编排项目，实现存储资源与计算任务的智能协同和弹性管理
- 使用性能分析工具深挖系统瓶颈，从内核到应用栈进行软硬件协同优化
- 精通C/C++/Go/Rust等系统级编程语言，深入理解Linux内核与高性能网络（RDMA）
- 具备扎实的分布式系统理论基础，有大规模存储系统（如HDFS, Pangu）的研发或深度调优经验
- 了解AI训练/推理框架（如PyTorch, DeepSpeed）的I/O模式，或熟悉云原生存储技术（CSI, Fluid）与高性能硬件接口（NVMe, GPUDirect Storage）
- 具备全链路性能分析与优化的能力，能从微观（CPU缓存、锁竞争）到宏观（集群调度）视角解决问题
申请策略
- 深入研究阿里在AI Infra存储方面的公开技术文章、专利或开源贡献（如CNCF Fluid），在面试中展示你对团队工作的了解和思考
- 准备几个你遇到过最复杂的系统级性能问题或分布式难题，并清晰地阐述你的分析过程、解决思路和最终效果
- 突出系统编程能力：详细描述使用C/C++/Go/Rust进行内核、驱动或高性能系统开发的经验和成果
- 展示分布式系统实战经验：重点介绍参与或主导的大规模存储/计算项目，说明在其中的角色、解决的核心问题（如性能提升、规模扩展）及量化成果
- 强调与AI Infra相关的技能：如有相关经验，清晰描述对AI训练/推理I/O路径的理解、对特定框架（如PyTorch Dataloader、DeepSpeed）的优化或对云原生存储（CSI、Fluid）的实践经验
- 体现性能优化方法论：描述使用eBPF、perf等工具进行性能分析定位，并通过代码优化解决实际问题的案例
- 深入学习AI工作负载特性：研究主流AI框架（如PyTorch, DeepSpeed, Megatron-LM）的数据加载机制和通信库，理解其对底层存储的要求
- 实践高性能网络与存储技术：搭建实验环境，动手实践RDMA编程、NVMe-oF配置或研究GPUDirect Storage（GDS）的工作原理
面试指南
- 采用STAR法则（Situation, Task, Action, Result）结构化描述项目经验和解决问题的过程，突出你的技术深度和系统思维
- 回答设计类问题时，先明确核心目标（如低延迟、高吞吐、数据一致性），再从架构、数据流、协议、优化点等多个维度展开
- 将理论知识与实践经验结合，避免空谈概念
- 例如，解释Raft协议时，可以关联到你在实际分布式系统中如何利用或保证一致性
- 请描述一个你处理过的最复杂的分布式存储系统性能问题，你是如何定位和解决的？
- 大模型训练场景下的数据加载有哪些特殊的I/O挑战？你会如何设计或优化一个数据加载管道？
- 请解释RDMA技术相对于传统TCP网络在AI存储场景下的优势，并描述你相关的实践经验
- Checkpointing如何做到对训练任务的影响最小？请谈谈你了解的优化技术（如分层存储、异步写入）
职位点评
薪资福利85
成长发展95
工作生活45
使命价值80
薪资福利
85较高
作为头部科技公司的核心基础架构岗位，提供具有市场竞争力的薪酬包和健全的福利体系。
薪资信号未披露（AI估算：3.5–6.5万/月）
成长发展
95较高
岗位处于AI Infra技术最前沿，要求攻克分布式系统与存储的极致挑战，能获得极高的技术成长与领域深耕机会。
技术前沿前沿/新兴技术
技术栈分布式存储、RDMA、Kubernetes、GPUDirect Storage、Linux内核
业务类型cost_center
工作生活
45较低
JD未明确说明工作模式，但作为底层系统研发岗位，通常需要现场协作与调试硬件，办公灵活性可能有限。工作本身具有挑战性，可能需要应对复杂问题的攻坚。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
直接为AI大模型的训练与推理提供关键基础设施，工作成果能显著提升AI计算效率，对推动AI技术发展有直接的支撑作用，行业前景广阔。
行业发展高速增长赛道
社会影响中性/一般
创新程度开拓性创新（行业首创）
Watch Jobs