阿里巴巴
AI Infra网络研发工程师
AI Infra网络研发工程师
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公云计算
云计算
Ai基础设施
Gpudirect
Nccl
Nfv/Sdn
Pytorch
Rdma
Tcp/Ip
性能优化
网络架构
值不值得投
82综合评分
综合评分 82
前沿AI Infra技术栈、高薪高成长、地处一线核心园区、工作节奏偏快
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
6.3万
比云计算中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3670 个在招 · 其中云计算 18 个
市场机会
选择适中
杭州 · 云计算 · 25 个在招
职位详情
关于这个职位
负责阿里AI基础设施的网络架构设计与优化，聚焦大模型推理系统的高性能网络通信及Agentic应用接入网关的构建
需深入理解AI框架底层通信机制，解决大规模GPU集群的网络拥塞与延迟问题，保障AI服务的高可用与极致弹性
最低要求
AI通用能力：具备独立思考分析与系统化解决问题能力，有良好的沟通协作与跨团队推动能力，对网络系统和AI技术持续保持好奇心和创新精神，乐观抗压，善于攻坚克难，结果导向
AI技能：深入理解主流AI框架（PyTorch/TensorFlow）的底层通信机制，熟悉集合通信库（NCCL）的工作原理
掌握大模型推理的核心技术，理解分布式推理中的张量并行、流水线并行对网络带宽和延迟的具体需求
理解AI Agent的运行逻辑，能够针对Agent的动态交互特性设计相应的网络接入与流量调度策略
熟练使用各类性能分析工具，能够对AI工作负载下的网络流量进行抓包分析与建模，识别计算与通信重叠中的瓶颈
专业领域：精通TCP/IP协议栈，具备深厚的网络编程功底，有开发自定义传输协议或优化现有协议栈的实战经验
专家级掌握RDMA（RoCE v2/InfiniBand）技术，熟悉GPUDirect RDMA/TCP等硬件加速技术，有大规模GPU集群下集合通信优化的成功案例
精通Kubernetes网络模型，熟悉Ingress/Egress流量管理，有高并发场景下负载均衡、限流熔断、安全认证网关的设计与开发经验
熟悉网络功能虚拟化（NFV）和软件定义网络（SDN）架构，能够利用智能网卡进行硬件卸载
工作职责
AI推理网络性能优化：负责设计和优化大规模推理系统中GPU集群的高性能网络架构，支持GPU间通信、KV Cache远端访问、分布式存储数据读写等场景，提供极致的网络通信性能
深入研究和应用RDMA、GPUDirect等技术，优化集体通信（AllReduce、All-to-All）及点对点通信性能，解决大规模并发下的网络拥塞与丢包问题
开发与调优网络协议栈（如TCP/IP、RDMA、自定义传输协议），结合AI框架（PyTorch/TensorFlow）和集合通信库（NCCL），实现通信与计算的深度融合与流水线并行
Agentic网络基础设施构建：构建高可用、低延迟的AI Agent接入网关，支持海量用户访问AI应用时的负载均衡、流量调度、ingress/egress连接管理，保障服务SLA
设计与优化接入层协议（如HTTP/3、WebSocket、gRPC），处理Agent交互中的长连接保持、消息路由、安全认证及限流熔断等机制
协同上层业务团队，针对强化学习（RL）后训练以及AI Agent动态交互特性进行端到端网络性能分析与瓶颈突破，包括网络管控链路和数据转发链路
优先资格
有顶级开源社区（Linux Kernel、PyTorch、vLLM、LM cache、Envoy AI Gateway等）的实质性贡献经验
发表过系统优化、并行计算或AI相关的学术论文（CCF A/B类以上）
有大规模分布式系统的设计与实现经验，理解分布式系统的核心问题
AI 洞察
优缺点分析
优点
- 接触业界最前沿的AI Infra与大模型推理网络优化技术
- 依托阿里超大规模算力集群，技术落地场景丰富且数据量级极高
- 团队技术氛围浓厚，开源贡献与学术产出受鼓励
- 技术门槛极高，需同时兼顾底层网络协议、硬件加速与上层AI框架
- 业务迭代快，需持续跟进AI Agent等新范式
- 适合具备深厚计算机网络功底、热衷于底层系统优化、渴望在AI基础设施领域长期深耕的资深研发工程师
缺点 / 挑战
- 面临超大规模并发下的极端性能调优压力，故障排查复杂度高
角色解读
- 可向AI基础设施架构师、首席网络专家方向深耕
- 也可横向拓展至分布式系统、云原生平台或大模型推理引擎优化领域，成为复合型技术领军人才
- 负责阿里AI大模型推理集群的高性能网络架构设计与协议栈调优
- 构建面向AI Agent应用的高可用接入网关与流量调度系统
- 利用RDMA、GPUDirect等技术解决大规模GPU通信瓶颈
- 精通TCP/IP协议栈与网络编程，熟练掌握RDMA/RoCE/InfiniBand及GPUDirect技术
- 深入理解PyTorch/TensorFlow底层通信机制与NCCL
- 具备Kubernetes云原生网络模型及高并发网关开发经验
申请策略
- 提前了解阿里达摩院/阿里云AI Infra技术博客与开源项目
- 准备针对RDMA拥塞控制或KV Cache网络I/O优化的深度技术问答
- 突出大规模GPU集群网络优化实战案例，量化性能提升指标
- 详细列出开源社区贡献或顶会论文
- 强调跨团队推动复杂项目落地的经验
- 深入研究NCCL源码及AI框架通信原语
- 补充Kubernetes CNI插件开发经验
- 掌握eBPF等现代网络观测与调优工具
面试指南
- 采用STAR法则结构化回答
- 先阐述问题背景与性能基线，再说明技术选型依据与具体实施步骤，最后用量化数据证明优化效果
- 若遇难点，重点展示排查思路与替代方案
- 请详细描述一次你优化RDMA或GPUDirect通信性能的完整过程及遇到的瓶颈
- 如何设计一个支持百万级AI Agent并发接入的低延迟网关？
- TCP/IP协议栈中，内核旁路与零拷贝技术在实际项目中是如何落地的？
- 面对AI训练/推理中的AllReduce通信瓶颈，你会如何进行性能建模与调优？
- 复习计算机网络底层原理（特别是TCP拥塞控制、RDMA工作机制、Kernel bypass技术）
职位点评
薪资福利85
成长发展92
工作生活65
使命价值78
薪资福利
85较高
薪资处于互联网大厂高位水平，配合完善的福利体系与期权激励，对补偿性动机满足度较高。
薪资信号偏高 (4.5千–8.0万/月)
成长发展
92较高
岗位直接切入AI Infra与Agentic应用两大前沿赛道，技术栈极具前瞻性，内部技术分享与开源贡献文化显著促进个人成长。
技术前沿前沿/新兴技术
技术栈RDMA、GPUDirect、Kubernetes、PyTorch、NCCL、NFV/SDN
业务类型profit_center
工作生活
65中等
互联网大厂标准节奏，虽未明确标注弹性工时，但技术攻坚期可能面临一定强度；地点覆盖一线核心城市，通勤便利度中等。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
78中等
致力于构建支撑AI智能化升级的基础设施，技术成果直接赋能千行百业，具有显著的行业推动力与社会价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs