阿里巴巴
阿里云智能-技术服务经理TAM-互联网KA客户-北京
阿里云智能-技术服务经理TAM-互联网KA客户-北京
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公技术支持
技术支持
Ai Agent
Flash Attention
Gpu集群
Kv Cache
Llamaindex
Lora
Pai
Rag
Rlhf
值不值得投
73综合评分
综合评分 73
前沿AI云技术栈、面向KA客户的技术服务岗，成长性强但需出差、工作强度较高。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.0万
比技术支持中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4000 个在招 · 其中技术支持 24 个
市场机会
选择面较广
北京 · 技术支持 · 69 个在招
职位详情
关于这个职位
担任阿里云互联网KA客户的技术服务第一责任人，主导企业级AI Agent从RAG构建、知识库向量化到多Agent协作编排的全链路工程落地，并负责大模型训练与推理架构设计、AI云原生稳定性保障
岗位偏技术咨询与工程实施，需面向头部互联网客户提供卓越架构诊断、GPU算力弹性伸缩与复杂故障排查支持
最低要求
年以上泛娱乐、零售、金融、教育等行业大型互联网应用（含AI原生应用）或集团型企业应用的研发、架构设计、监控方案、Devops、AIops、维护、高可用改造方案经验
熟悉Agent开发框架及工具（LangChain/Dify/LlamaIndex/百炼等），模型推理框架（vLLM/sglang），模型训练框架（LlamaFactory、swift等），具备GPU集群调度、资源隔离、显存优化相关经验，能够解决大规模算力下的性能瓶颈与稳定性问题
熟悉主流大模型推理框架（如 vLLM, Triton Inference Server, TensorRT-LLM, TGI 等）
了解 NVIDIA GPU 底层架构及分布式通信机制（如 NVLink, NCCL, RDMA/RoCE 高速网络）
熟悉JAVA、Python、GO其中一门开发语言，熟悉常见中间件、数据库、大数据组件，如Redis、Nacos、K8s、Kafka、spark、flink等，具有2年以上软件开发经验优先
具备大模型、云原生、大数据、数据库、网络、中间件等领域中的一项或多项技术理解和应用经验，有阿里云公共云产品相关使用运维经验优先
熟悉云原生的系统架构设计方法，有应用与数据迁移改造方案设计实施经验优先
具有优秀的沟通技巧、团队合作经验、敬业精神和学习能力
具有较强的抗压能力和执行力，并能接受一定频率的出差
工作职责
企业级 AI Agent 工程落地指导: 作为客户 AI 应用技术服务的第一责任人，深入理解客户业务场景与技术痛点，主导Agent等工程全链路落地服务：从 RAG 构建、知识库向量化、Prompt Engineering 调优，到多 Agent 协作编排、工具链集成与 Function Call调试，确保 AI Agent 在生产环境高效运行
大模型训练与推理全链路架构设计，负责从数据到模型端到端技术支持:数据侧：设计数据采集、清洗、标注流程，搭建高质量训练数据 Pipeline; 训练侧：基于 PAI 平台进行模型微调（SFT/RLHF）、LoRA 适配、分布式训练集群调度; 推理侧：优化推理性能（KV Cache、Flash Attention）、推理服务弹性伸缩、Tokens成本治理
AI 云原生稳定性保障: 从客户架构视角出发，通过自动化巡检、AIOps 工具链推动问题主动发现与风险预防
构建 AI 云原生全链路可观测体系，覆盖 SaaS 层（百炼/通义）、PaaS 层（PAI/DashScope）、IaaS 层（GPU 实例/高速网络）
结合大模型业务的高并发、长文本等流量特征，制定 GPU 算力集群的弹性扩缩容策略
负责推理延迟优化、显存 OOM 治理、模型服务灰度发布、模型流量调度、算力混沌工程、故障快速定位与 RCA 沉淀
卓越架构护航从公共云企业客户的业务视角出发，基于云上卓越架构最佳实践，主导客户云系统的持续诊断与重构
围绕高性能、高可用、安全合规、运维提效与成本精细化管理五大维度，推动架构的标准化与现代化升级
攻坚 AI 基础设施与传统业务系统的异构集成难题
设计并落地云上弹性伸缩方案，确保大模型/AI 业务在云端环境下的无缝对接、平滑扩缩容与极致弹性
优先资格
有ACP（阿里云认证工程师）、ACE（阿里云认证高级工程师）者优先
熟悉阿里云 AI 产品矩阵（如 PAI 机器学习平台、百炼大模型平台）或具有相关云厂商 AI 基础设施研发经验
对大语言模型（LLM）的量化（AWQ/GPTQ）、KV Cache 优化（如 PagedAttention）有一定了解
具备极强的复杂问题排查能力，有处理过 GPU OOM、CUDA/算子报错、NCCL 通信超时或死锁等 AI 典型故障的实战经验者优先
AI 洞察
优缺点分析
优点
- 技术栈高度前沿，深度涉及大模型训练、推理优化、AI Agent工程等热门领域
- 面向头部互联网KA客户，可积累丰富的企业级落地与架构经验
- 依托云厂商平台，能接触完整AI产品矩阵与GPU算力基础设施
- 技术+客户双重能力锻炼，职业发展面宽
- 需同时兼顾技术深度与客户服务，角色复合度高、要求全面
- 大模型工程链路长、故障排查复杂（GPU OOM、NCCL超时等），对问题解决能力要求高
- 适合具备一定AI/云原生基础、喜欢贴近客户解决复杂技术问题、追求技术前沿成长且能接受出差的技术型人才
缺点 / 挑战
- 需要接受一定频率出差并承受较高工作压力
角色解读
- 可在技术服务/解决方案方向深耕，成长为资深技术专家或解决方案架构师
- 积累AI工程与云架构复合经验，向团队管理或技术管理方向发展
- 依托大模型落地一线场景，形成稀缺的AI基础设施与客户交付双重能力
- 作为客户AI应用技术服务第一责任人，主导企业级AI Agent从RAG构建、知识库向量化、Prompt调优到多Agent协作编排的全链路工程落地
- 负责大模型训练与推理端到端架构设计与技术支持，涵盖数据Pipeline、SFT/RLHF微调、LoRA适配与分布式训练调度
- 保障AI云原生稳定性，构建覆盖SaaS/PaaS/IaaS的全链路可观测体系，制定GPU集群弹性扩缩容策略并处理推理延迟、OOM等故障
- 基于卓越架构最佳实践推动客户云系统诊断重构，攻坚AI基础设施与传统系统的异构集成
- 精通Agent开发框架（LangChain/Dify/LlamaIndex/百炼）及模型推理框架（vLLM/SGLang/TensorRT-LLM），熟悉训练框架（LlamaFactory、swift）
- 具备GPU集群调度、显存优化经验，了解NVIDIA GPU底层架构与NVLink/NCCL/RDMA分布式通信机制
- 掌握Java/Python/Go至少一门语言，熟悉Redis、Kafka、K8s、Spark、Flink等中间件与大数据组件
- 具备云原生架构设计与AIOps运维能力，以及优秀的沟通协作与抗压能力
申请策略
- 了解阿里云AI产品矩阵与互联网KA客户的典型场景，准备针对性案例
- 提前明确岗位出差频率与常驻办公地点，评估自身匹配度
- 突出大模型工程落地经验，如RAG构建、微调（SFT/RLHF/LoRA）、推理优化（vLLM、KV Cache）的项目案例
- 展示GPU集群调度、显存优化、分布式训练等算力层经验
- 强调云原生架构设计、AIOps、高可用改造等稳定性保障能力
- 体现面向企业客户的技术服务/支持经验与跨团队沟通协作成果
- 补齐Agent开发框架（LangChain/Dify/百炼）与推理框架（vLLM/SGLang）的实操经验
- 学习NVIDIA GPU架构、NVLink/NCCL/RDMA等分布式通信知识
面试指南
- 用STAR法（情境-任务-行动-结果）组织项目案例，突出你的具体贡献与量化结果
- 技术问题回答遵循'现象→定位→根因→解决→预防'的排查逻辑，体现系统性思维
- 客户协作类问题强调需求理解、方案权衡与推进沟通
- 请介绍一次你主导的大模型应用（RAG/Agent）从0到1落地的完整过程，遇到哪些挑战？如何排查并解决GPU显存OOM或NCCL通信超时等AI基础设施故障？面对KA客户的架构优化需求，你会如何从性能、可用性、成本等维度设计方案？如何为高并发、长文本的大模型业务设计GPU集群弹性扩缩容策略？描述一次你与客户/多团队协作解决复杂技术问题的经历
- 复习大模型训练/推理原理与优化技术（LoRA、KV Cache、Flash Attention、量化）
- 准备1-2个可被深挖的AI工程或云架构项目案例，能应对细节追问
- 了解阿里云PAI、百炼等产品能力与典型客户场景
职位点评
薪资福利75
成长发展88
工作生活50
使命价值75
薪资福利
75中等
职位未披露具体薪资，作为头部云厂商面向KA客户的技术服务岗通常具备较有竞争力的薪酬结构，但JD未提及福利细节。
薪资信号未披露（AI估算：3.0千–5.0万/月）
成长发展
88较高
岗位深度接触大模型工程全链路（RAG、微调、推理优化）与AI云原生架构，技术前沿性强，成长空间大。
技术前沿前沿/新兴技术
技术栈RAG、LangChain、Dify、LlamaIndex、vLLM、SGLang、LoRA、RLHF、PAI、GPU集群、Kubernetes、KV Cache、Flash Attention、TensorRT-LLM
业务类型ambiguous
工作生活
50较低
JD明确要求接受一定频率出差并强调抗压能力与执行力，工作强度可能较高，且未提及远程或弹性安排。
工作模式未明确
办公地点未明确
加班情况JD含高强度暗示词
使命价值
75中等
云与AI基础设施是当前高增长赛道，岗位帮助企业落地AI应用，具备一定的行业价值感与技术影响力。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs