阿里巴巴
AI Infra操作系统工程师
AI Infra操作系统工程师
发布于 大约 9 小时前普通员工/个人贡献者
杭州市 / 北京市
专家级经验
全职员工
仅现场办公
本科
操作系统开发
Cuda
Go
Linux内核
Pytorch
Sglang
Vllm
AI 估算 · 40k–70k
职位详情
关于这个职位
作为阿里巴巴AI Infra操作系统工程师，你将参与构建支撑千卡/万卡规模的AI计算基础设施，通过软硬件协同优化解决大模型训练、推理和Agent基础设施中的工程挑战
你的工作将直接影响大模型训练效率、推理响应速度和集群资源利用率，是AI时代算力底座的核心推动者
最低要求
计算机、软件工程、电子工程或相关专业
热衷于数据结构和算法、在ACM大赛成绩优异者优先
有顶会论文/高影响项目/开源贡献者加分
专业能力：
○ 系统工程与编程能力：具备良好的系统工程基础，熟悉 Linux 开发环境，掌握 Python、C/C++、Rust、Go 等至少一门编程语言，具备扎实的工程实现能力
○ AIOS 系统领域专业知识：对于以下领域中的一项或者多项具备专业能力
○ 了解 Linux 操作系统内核机制，具备扎实的系统级编程能力
有Linux内核开发、虚拟化技术、容器运行时、分布式系统或 AI 算力优化相关经验优先
○ 了解 GPU 架构和 CUDA 编程，了解主流模型推理框架的运行机制
有 Pytorch、SGLang、vLLM、Mooncake 等开源项目经历优先
○ 了解系统级测试方法和自动化测试框架
具备性能测试和压力测试实习经历的加分
○ 了解系统监控和可观测性技术
熟悉 Prometheus、Grafana等监控工具
○ 了解系统安全机制，包括资源隔离、权限控制、漏洞修复等
例如：了解操作系统安全机制，有 Confidential Containers 等开源项目经历
○ 加分项：参与过开源操作系统项目、AI 基础设施项目或在系统顶会（OSDI/SOSP/ASPLOS）发表过论文
AI 能力：
问题解决：善于把复杂的系统工程挑战拆解为可优化的明确目标，判断哪些环节适合自动化、哪些需要人工干预和深度调优
批判性思考：对操作系统性能数据和 AI 工具的优化建议保持审慎，能识别瓶颈根源，不盲信表面指标，愿意深入底层验证和追问
学习判断力：对 AI Infra 和 OS 新技术有强烈好奇心，能快速上手并评估新工具、新框架对现有系统架构的真实价值
协作沉淀：能与多种角色围绕 AI 基础设施高效协同，善用 AI 编程工具提升效率，将个人实践转化为团队可复用的工具和流程
工作职责
面向 AI Infra 的操作系统：参与核心模块的设计与开发，包括 AI 训练、推理与 Agent 任务的资源调度、内存/显存管理、文件系统等底层系统的研发与优化
极致训练、推理与 Agent 软硬件协同优化：通过操作系统、Agent Sandbox、CUDA Runtime、KVCache 全栈优化 AI 工作负载 // 面向AI服务器优化，软硬件协同优化
工程效能提升与智能化：设计和实施系统级测试方案，包括单元测试、集成测试、性能测试和压力测试,保障系统稳定性和可靠性
运维监控系统建设：负责AI算力平台的日常运维、故障排查和性能监控,构建自动化运维工具和可观测性体系
AI 可信计算体系建设：参与 AI Infra 以及 AI Agent 系统安全机制设计，包括资源隔离、权限控制、漏洞修复等，保障多租户环境下的系统安全技术探索
前沿 AIOS 技术探索：跟踪 AI Infra 前沿技术，探索 AI 与操作系统融合的创新方向，推动 AIOS 技术演进和开源社区贡献
AI 洞察
优缺点分析
优点
- 阿里巴巴平台资源丰富，有大量实际场景验证技术
- 薪资待遇优厚，福利完善
- 有机会与顶尖技术团队合作，提升个人技术影响力
- 技术栈深，需要持续学习新知识，保持竞争力
- 跨团队协作要求高，需要良好的沟通能力
缺点 / 挑战
- 参与前沿AI基础设施研发，技术挑战大，成长快
- 工作强度大，可能需要应对紧急故障和性能优化压力
- 适合对操作系统和AI技术有浓厚兴趣，具备扎实系统编程能力，愿意接受挑战的工程师
角色解读
- 从系统工程师成长为AI基础设施专家，深入操作系统与AI融合的前沿领域
- 有机会参与开源项目，提升技术影响力，成为技术领导者
- 随着AI算力需求增长，该领域人才稀缺，职业前景广阔
- 设计和开发AI训练、推理和Agent任务的资源调度、内存管理、文件系统等底层系统
- 进行软硬件协同优化，包括操作系统、CUDA Runtime、KVCache等，提升AI工作负载性能
- 构建系统级测试方案，包括单元测试、集成测试、性能测试和压力测试，保障系统稳定性
- 建设运维监控系统，负责AI算力平台的日常运维、故障排查和性能监控
- 扎实的系统工程基础，熟悉Linux开发环境，掌握Python、C/C++、Rust、Go等至少一门编程语言
- 了解Linux内核机制、虚拟化技术、容器运行时、分布式系统或AI算力优化
- 了解GPU架构和CUDA编程，熟悉主流推理框架如PyTorch、vLLM、SGLang等
- 具备系统级测试、监控和可观测性知识，熟悉Prometheus、Grafana等工具
申请策略
- 了解阿里巴巴AI基础设施团队的业务方向，准备相关项目经验
- 在面试中展示对AIOS前沿技术的热情和理解
- 突出系统级项目经验，如内核开发、虚拟化、容器运行时等
- 强调AI相关项目，如模型训练优化、推理加速等
- 展示开源贡献或顶会论文，体现技术深度
- 提及性能调优和问题解决的具体案例
- 深入学习CUDA编程和GPU架构
- 熟悉主流推理框架如vLLM、SGLang的内部机制
面试指南
- 使用STAR法则回答行为问题，突出具体情境、任务、行动和结果
- 对于技术问题，先阐述原理，再结合项目经验说明
- 展示批判性思维，说明如何验证和优化
- 请描述你在Linux内核或系统编程方面的经验
- 如何优化大模型推理性能？请举例说明
- 你如何设计一个资源调度系统来管理GPU资源？
- 如何排查和解决分布式系统中的性能瓶颈？
- 你对AI与操作系统融合的未来有什么看法？
职位点评
80
综合评分
前沿技术、高薪、成长快，但工作强度大，WLB一般。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合追求技术成长、对AI基础设施有热情、能接受高强度工作的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利85
成长发展95
工作生活50
使命价值80
薪资福利
85较高
阿里巴巴提供有竞争力的薪资和福利，但JD未明确具体薪资范围，需面议。
薪资信号面议 (40K-70K/月)
成长发展
95较高
该职位涉及前沿AI基础设施技术，有大量学习和成长机会，鼓励开源贡献和顶会论文。
技术前沿前沿/新兴技术
技术栈Linux、CUDA、Python、C++、Rust、Go、PyTorch、vLLM、SGLang、Kubernetes
成长机会开源社区贡献、顶会论文
业务类型profit_center
工作生活
50较低
JD未提及工作模式，但阿里巴巴通常要求现场办公，且可能面临高强度工作。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
该职位对AI基础设施有重要贡献，推动技术进步，具有较高社会价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号为AI时代的算力底座注入核心动力
创新程度积极采用新技术
Watch Jobs