阿里巴巴
Token Foundry-大模型应用后端工程师（LLM Application Backend Engineer）-北京/杭州
Token Foundry-大模型应用后端工程师（LLM Application Backend Engineer）-北京/杭州
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公后端开发
后端开发
Agent Framework
Go/Python
Multi-Modal
Rag
System Design
值不值得投
79综合评分
综合评分 79
阿里核心AI赛道、前沿技术栈、高薪潜力大、工作强度可能较高
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.5万
比后端开发中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4140 个在招 · 其中后端开发 约 110 个
市场机会
选择面较广
杭州 · 后端开发 · 约 210 个在招
职位详情
关于这个职位
负责大模型应用系统的后端架构设计与核心模块开发，涵盖Agent框架、RAG检索增强生成系统及高并发服务网关
需构建支持多模态交互与流式输出的稳定服务，优化模型调用成本与性能，保障系统的高可用性与SLA
最低要求
本科及以上学历，计算机相关专业，2年以上后端开发经验
熟练掌握Go / Python / Java等至少一门后端语言
熟悉微服务架构设计与分布式系统
大模型相关经验：有 LLM应用开发经验
熟悉Context Engineering
熟悉 RAG 架构与向量数据库
熟悉主流大模型 API使用与优化（满足其中任意2项即可）
熟悉 Redis / MySQL / Kafka 等中间件
有高并发系统设计经验
熟悉容器化与云原生（K8s）
具备良好的代码结构设计与工程规范意识
工作职责
大模型应用系统架构设计：设计并实现大模型应用整体后端架构（API 层、编排层、Agent 层、工具层）
构建 LLM + RAG + Tool Calling + Workflow 的服务框架
构建稳定可复用的大模型调用封装层
Agent 与工作流系统开发：构建可扩展的 Agent 执行框架（ReAct / Planner-Executor / Multi-Agent）
设计工具调用协议（MCP、Tool Schema、Function Calling）
支持复杂任务拆解、状态管理、上下文管理、长短期记忆管理
RAG 与知识系统建设：构建知识索引与向量检索系统
设计高性能 embedding + 向量数据库架构
优化召回准确率、时效性与成本效率
高并发与稳定性保障：构建支持高并发请求的大模型服务网关，优化模型调用延迟与成本，设计缓存机制，保障 SLA、容灾、限流、熔断
多模态与实时系统支持：支持文本、语音、图像、多模态模型接口
支持流式输出（Streaming）
构建实时交互系统（如 AI 助手）
优先资格
加分项：
有 Agent 系统设计经验
有系统级 AI 助手经验
有多模态模型接入经验
有模型成本优化经验（Token 优化、批处理、缓存）
有从 0 到 1 构建 AI 应用平台经验
具备To B商业化产品从0到1的工程落地经验，熟悉华为云、腾讯云等主流云平台的商业化服务架构，对产品的可靠性、安全性、计费与运维体系有实战积累
拥有主流手机厂商（如华为、小米、OPPO、vivo等）手机助手或类似智能服务的云端服务端核心研发经验，精通大规模高并发、高可用系统的架构设计，对手机终端与云端的协同工作机制有深刻理解
AI 洞察
优缺点分析
优点
- 处于AI大模型应用的最前沿，技术栈极具前瞻性（Agent/RAG/Multi-modal）
- 薪资待遇在行业内具有竞争力
- 技术迭代极快，需要持续学习最新的LLM应用范式
- 高并发与低延迟的平衡对系统架构设计要求极高
- 可能需要应对复杂的业务集成与多模态适配问题
- 热衷于AI前沿技术、具备扎实后端功底且希望在大模型应用领域深耕的中级及以上工程师
缺点 / 挑战
- 依托阿里平台，拥有海量数据和高并发场景的技术挑战机会
角色解读
- 可向AI基础设施架构师、大模型应用专家方向发展，或转向AI产品技术负责人，掌握行业最前沿的Agent与RAG技术
- 负责大模型应用后端的基础设施搭建，包括Agent执行框架、RAG检索系统及高并发网关的设计与开发
- 精通Go/Python/Java后端语言，深入理解LLM应用架构（RAG、Agent、Tool Calling），具备高并发分布式系统设计能力
申请策略
- 关注阿里在AI领域的最新布局（如通义千问生态）
- 准备关于如何优化Token成本、提升RAG召回率的深度技术问答
- 突出LLM应用开发经验，特别是RAG架构优化、Agent框架设计或高并发系统调优的具体项目案例
- 强调代码规范与工程化能力
- 深入学习LangChain/LlamaIndex等主流LLM开发框架
- 掌握向量数据库（如Milvus/Pinecone）的原理与优化
- 了解多模态数据处理流程
面试指南
- 采用STAR法则（情境、任务、行动、结果）描述项目
- 重点展示技术选型的权衡过程（Trade-off）、性能指标优化数据及故障排查思路
- 请描述你设计的RAG系统架构，如何解决召回准确率与延迟的矛盾？
- 在Agent系统中，如何处理长短期记忆管理与上下文窗口限制？
- 面对高并发LLM调用，如何进行网关层面的限流、熔断与成本优化？
- 比较不同Agent范式（ReAct vs Planner-Executor）的优缺点及适用场景
- 复习分布式系统核心概念（一致性、可用性、分区容忍性）
- 梳理最近参与的AI相关项目细节
职位点评
薪资福利85
成长发展95
工作生活50
使命价值75
薪资福利
85较高
作为已上市的巨头企业，提供具有市场竞争力的薪酬福利体系，虽未明确具体数字，但大厂核心部门待遇通常优于市场平均水平。
薪资信号未披露（AI估算：3.0千–6.0万/月）
成长发展
95较高
职位直接涉及LLM、Agent、RAG等最前沿技术，技术成长空间极大，且能接触大规模高并发真实场景，职业发展潜力极高。
技术前沿前沿/新兴技术
技术栈LLM、Agent、RAG、Vector Database、Multi-modal、Kubernetes、Go、Python
业务类型profit_center
工作生活
50较低
互联网大厂核心研发岗位通常工作节奏较快，JD未提及弹性工作或远程办公，推测为高强度现场办公环境。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
75中等
致力于构建通用人工智能应用基础设施，推动AI技术在商业和社会层面的落地，具有显著的行业影响力和技术使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs