阿里巴巴
阿里云智能-技术服务工程师-AI全栈-北京
阿里云智能-技术服务工程师-AI全栈-北京
发布于 6 小时前普通员工/个人贡献者
全职员工仅现场办公技术支持
技术支持
Ai Agent
Gpu集群调度
Prompt Engineering
Rag
Vllm
云原生
大模型推理
值不值得投
78综合评分
综合评分 78
前沿AI技术栈、薪资偏高、成长空间大，但需接受出差与较高工作强度。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
3.5万
比技术支持中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2990 个在招 · 其中技术支持 9 个
市场机会
选择面较广
北京 · 技术支持 · 51 个在招
职位详情
关于这个职位
作为阿里云AI全栈技术服务工程师，你将负责企业级AI Agent的工程落地、大模型训练与推理架构设计，以及AI云原生稳定性保障
你需要深入客户业务场景，提供从RAG构建、模型微调到GPU算力调度的全链路技术支持，并主导云上卓越架构的持续诊断与重构
最低要求
年以上泛娱乐、零售、金融、教育等行业大型互联网应用（含AI原生应用）或集团型企业应用的研发、架构设计、监控方案、Devops、AIops、维护、高可用改造方案经验
熟悉Agent开发框架及工具（LangChain/Dify/LlamaIndex/百炼等），模型推理框架（vLLM /sglang），模型训练框架（LlamaFactory、swift等），具备GPU集群调度、资源隔离、显存优化相关经验，能够解决大规模算力下的性能瓶颈与稳定性问题
熟悉主流大模型推理框架（如 vLLM, Triton Inference Server, TensorRT-LLM, TGI 等）
了解 NVIDIA GPU 底层架构及分布式通信机制（如 NVLink, NCCL, RDMA/RoCE 高速网络）
熟悉JAVA、Python、GO其中一门开发语言，熟悉常见中间件、数据库、大数据组件，如Redis、Nacos、K8s、Kafka、spark、flink等，具有2年以上软件开发经验优先
具备大模型、云原生、大数据、数据库、网络、中间件等领域中的一项或多项技术理解和应用经验，有阿里云公共云产品相关使用运维经验优先
熟悉云原生的系统架构设计方法，有应用与数据迁移改造方案设计实施经验优先
具有优秀的沟通技巧、团队合作经验、敬业精神和学习能力
具有较强的抗压能力和执行力，并能接受一定频率的出差
工作职责
企业级 AI Agent 工程落地指导：作为客户 AI 应用技术服务的第一责任人，深入理解客户业务场景与技术痛点，主导Agent等工程全链路落地服务：从 RAG 构建、知识库向量化、Prompt Engineering 调优，到多 Agent 协作编排、工具链集成与 Function Call调试，确保 AI Agent 在生产环境高效运行
大模型训练与推理全链路架构设计，负责从数据到模型端到端技术支持：数据侧：设计数据采集、清洗、标注流程，搭建高质量训练数据 Pipeline
训练侧：基于 PAI 平台进行模型微调（SFT/RLHF）、LoRA 适配、分布式训练集群调度
推理侧：优化推理性能（KV Cache、Flash Attention）、推理服务弹性伸缩、Tokens成本治理
AI 云原生稳定性保障： 从客户架构视角出发，通过自动化巡检、AIOps 工具链推动问题主动发现与风险预防
构建 AI 云原生全链路可观测体系，覆盖 SaaS 层（百炼/通义）、PaaS 层（PAI/DashScope）、IaaS 层（GPU 实例/高速网络）
结合大模型业务的高并发、长文本等流量特征，制定 GPU 算力集群的弹性扩缩容策略
负责推理延迟优化、显存 OOM 治理、模型服务灰度发布、模型流量调度、算力混沌工程、故障快速定位与 RCA 沉淀
卓越架构护航从公共云企业客户的业务视角出发，基于云上卓越架构最佳实践，主导客户云系统的持续诊断与重构
围绕高性能、高可用、安全合规、运维提效与成本精细化管理五大维度，推动架构的标准化与现代化升级
攻坚 AI 基础设施与传统业务系统的异构集成难题
设计并落地云上弹性伸缩方案，确保大模型/AI 业务在云端环境下的无缝对接、平滑扩缩容与极致弹性
优先资格
有ACP（阿里云认证工程师）、ACE（阿里云认证高级工程师）者优先
熟悉阿里云 AI 产品矩阵（如 PAI 机器学习平台、百炼大模型平台）或具有相关云厂商 AI 基础设施研发经验
对大语言模型（LLM）的量化（AWQ/GPTQ）、KV Cache 优化（如 PagedAttention）有一定了解
具备极强的复杂问题排查能力，有处理过 GPU OOM、CUDA/算子报错、NCCL 通信超时或死锁等 AI 典型故障的实战经验者优先
AI 洞察
优缺点分析
优点
- 处于AI与大模型爆发的核心赛道，能够接触到最前沿的AI Agent、大模型训练与推理技术
- 依托强大的公共云产品矩阵，能够积累丰富的企业级AI落地与云原生架构实战经验
- 作为技术服务第一责任人，能深度参与各类行业头部客户的业务场景，极大提升解决复杂工程问题的能力
- 作为面向客户的技术服务岗，需要处理高并发、长文本等复杂流量特征下的突发故障，对排障能力和抗压能力要求极高
- 适合具备扎实云原生与后端开发基础，对大模型及AI Agent技术有浓厚兴趣，且具备较强客户沟通与复杂问题排查能力的技术人才
缺点 / 挑战
- AI技术迭代极快，需要持续学习最新的模型框架、推理优化技术及云原生工具链，学习压力较大
角色解读
- 纵向可晋升为高级技术服务专家或架构师，负责更大型企业客户的AI基础设施架构规划
- 横向可向AI产品经理、大模型算法工程师或云原生SRE专家方向转型，拓宽技术边界
- 作为客户AI应用技术服务的第一责任人，主导企业级AI Agent的工程落地，包括RAG构建、Prompt调优及多Agent协作编排
- 负责大模型训练与推理的全链路架构设计与技术支持，涵盖数据Pipeline搭建、模型微调及推理性能优化
- 构建AI云原生全链路可观测体系，保障GPU算力集群的弹性扩缩容与高可用，处理推理延迟、显存OOM等复杂故障
- 基于云上卓越架构最佳实践，主导客户云系统的持续诊断与重构，推动架构的标准化与现代化升级
- 精通Agent开发框架（如LangChain、Dify）及主流大模型推理/训练框架（如vLLM、LlamaFactory）
- 熟悉NVIDIA GPU底层架构及分布式通信机制，具备GPU集群调度、资源隔离与显存优化经验
- 熟练掌握Java/Python/Go至少一门语言，并熟悉K8s、Redis、Kafka等云原生及大数据中间件
- 具备优秀的复杂问题排查能力、沟通技巧及抗压能力，能接受一定频率的出差
申请策略
- 提前了解阿里云PAI、百炼等AI产品矩阵的功能与应用场景，面试时能结合产品谈落地方案会大幅加分
- 准备1-2个处理过的最复杂的AI或云原生故障案例，按照STAR法则详细梳理排查思路与解决过程
- 突出在AI Agent落地、大模型微调或推理优化方面的实际项目经验，特别是解决过GPU OOM、显存优化等具体难题的案例
- 强调云原生架构设计与高可用改造经验，展示在K8s、微服务及中间件方面的深厚功底
- 体现优秀的客户沟通与技术服务能力，如有主导过大型企业客户架构重构或技术护航的经历需重点描述
- 深入学习vLLM、TensorRT-LLM等主流推理框架的底层原理及KV Cache、PagedAttention等优化技术
- 熟悉LangChain、Dify等Agent开发框架，掌握RAG构建与多Agent协作编排的最佳实践
面试指南
- STAR法则：针对项目经验或故障排查问题，按照情境(Situation)、任务(Task)、行动(Action)、结果(Result)结构化回答，突出个人贡献与量化收益
- 分层拆解法：针对架构设计或复杂问题，从IaaS（GPU/网络）、PaaS（平台/框架）、SaaS（应用/业务）分层进行拆解分析，展现系统性思维
- 请描述一个你主导过的AI Agent或大模型应用落地项目，遇到了哪些工程挑战，是如何解决的？
- 在GPU集群调度或大模型推理中，如果遇到显存OOM或推理延迟过高的问题，你的排查思路和优化手段是什么？
- 如何设计一个高可用的AI云原生架构，以应对大模型业务的高并发和长文本流量特征？
- 在推动客户进行云上架构重构或迁移时，如果客户对成本或业务连续性有顾虑，你如何沟通并推进落地？
- 复习大模型推理优化（如KV Cache、Flash Attention）及分布式训练（如NCCL、RDMA）的核心原理，准备应对深度技术拷问
- 了解近期发布的AI相关产品（如百炼、通义千问）的技术特性，思考其在企业级场景中的应用方案
职位点评
薪资福利85
成长发展90
工作生活50
使命价值80
薪资福利
85较高
该岗位薪资水平处于市场中上游，具备完善的福利体系与较高的职业稳定性。
薪资信号偏高 (2.5千–4.5万/月)
成长发展
90较高
岗位深度涉及AI Agent、大模型训练与推理等前沿技术，技术成长空间极大，且能接触各类行业头部客户的复杂场景。
技术前沿前沿/新兴技术
技术栈AI Agent、RAG、vLLM、LangChain、Kubernetes、PAI、SFT/RLHF、LoRA
业务类型cost_center
工作生活
50较低
JD中明确提到需要接受一定频率的出差，且涉及复杂故障排查与架构护航，工作灵活性受限。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
80较高
身处AI与大模型高速增长赛道，推动企业级AI应用落地，具有较高的行业前景与技术使命感。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs