阿里巴巴
千问办公-AI MaaS网关架构师-杭州
千问办公-AI MaaS网关架构师-杭州
发布于 3 小时前普通员工/个人贡献者
全职员工仅现场办公架构师
架构师
Maas
Sse
Websocket
分布式系统
大模型网关
高并发
值不值得投
78综合评分
综合评分 78
核心AI基础设施岗，技术前沿且成长空间大，薪资竞争力强，但伴随较高的线上稳定性压力。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
5.5万
比架构师中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3480 个在招 · 其中架构师 30 个
市场机会
选择面较广
杭州 · 架构师 · 62 个在招
职位详情
关于这个职位
该职位负责阿里巴巴千问办公大模型网关的核心链路设计与研发，涵盖多模型接入、流式响应处理及计量计费方案落地
你需要主导分布式异步任务系统建设与网关架构演进，保障系统的高可用、高并发与可观测性，是AI基础设施背后的核心技术力量
最低要求
研究生及以上学历，计算机相关专业
年及以上后端研发经验，具备扎实的分布式系统、高并发与网络编程功底
年及以上 MaaS / 大模型网关 / API 网关平台相关开发经验（如模型路由、统一推理接入、API 聚合、计量计费等平台化能力建设）
熟练掌握 Golang，熟悉 PostgreSQL、Redis、RabbitMQ、对象存储（OSS）等常用中间件的工程实践
深入理解 LLM API 协议（OpenAI / Anthropic 等）与流式响应机制，有 SSE / 流式转发与用量提取的实战经验
具备良好的架构抽象能力，熟悉分层架构、适配器模式、依赖注入与接口驱动设计，代码可测试、可维护
有从 0 到 1 或大规模重构线上核心服务的经验，对稳定性与性能有敬畏心
工作职责
负责 MaaS 大模型网关核心链路的设计与研发：多厂商模型接入、协议适配、请求转发、流式响应处理（SSE / WebSocket）
设计并落地统一的计量计费方案：从流式与非流式响应中精准提取 token / 调用用量，对接计费服务，处理透支冻结、对账等边界问题
建设与优化分布式异步任务系统：任务调度、Worker 管理、并发控制、失败重试、状态一致性与水平扩展
保障网关的高可用、高并发与可观测性：限流、熔断、多租户隔离、Prometheus 指标、全链路追踪与容量规划
主导网关架构演进：抽象可插拔适配器与服务接口，降低新模型/新厂商的接入成本，持续偿还技术债
参与关键技术选型与方案评审，输出设计文档，把控代码质量与线上稳定性
AI 洞察
优缺点分析
优点
- 依托海量业务场景，能积累顶尖的高并发与分布式系统实战经验，技术壁垒高
- 平台大，技术视野广阔，有机会参与制定行业级的MaaS网关标准与架构规范
- 适合具备扎实后端功底、对AI大模型底层技术有热情，且能在高并发复杂系统中游刃有余的资深技术人才
缺点 / 挑战
- 处于AI大模型核心基础设施赛道，技术前沿且极具挑战，能接触行业最新技术动态
- 大模型网关对稳定性和性能要求极高，线上排障、容量规划与多租户隔离压力大
- 技术迭代极快，需持续跟进各大模型厂商的新协议与新特性，学习成本较高
角色解读
- 可向资深架构师、技术专家方向发展，主导更大规模的AI基础设施与平台化建设
- 积累顶尖的高并发与分布式系统实战经验后，可转型为技术团队负责人或技术总监
- 负责大模型网关核心链路的设计与研发，处理多厂商模型接入、协议适配及流式响应（SSE/WebSocket）
- 设计并落地统一的计量计费方案，精准提取Token及调用用量，处理对账等边界问题
- 建设与优化分布式异步任务系统，保障网关的高可用、高并发与可观测性，主导架构演进
- 精通Golang及分布式系统、高并发网络编程，熟悉PostgreSQL、Redis等常用中间件
- 深入理解LLM API协议及流式响应机制，具备SSE/流式转发与用量提取的实战经验
- 具备优秀的架构抽象能力，熟悉分层架构与适配器模式，有大规模重构线上核心服务的经验
申请策略
- 了解阿里通义千问及阿里云MaaS平台的最新业务动态，准备一些关于模型路由或可插拔适配器设计的见解
- 突出Golang高并发项目经验及大模型网关/API网关的实战经历，量化性能提升指标
- 详细阐述在分布式任务调度、计量计费或流式响应处理中的具体贡献与架构设计思考
- 展示从0到1或大规模重构核心服务的案例，体现对系统稳定性与性能的把控能力
- 深入学习各大主流LLM的API协议差异及SSE/WebSocket底层机制，准备相关技术Demo
- 复习并实践分布式系统中的限流、熔断、全链路追踪及Prometheus指标设计落地细节
面试指南
- 采用STAR法则，结合具体业务场景说明痛点、技术方案选型、实施过程及最终的性能/稳定性收益
- 对于架构设计题，先明确业务约束与目标，再分层阐述核心模块设计、扩展性考量及容灾方案
- 如何处理大模型流式响应中的Token精准计量与计费对账问题？
- 在网关层如何实现多租户隔离与高并发下的限流熔断？
- 请分享一个你主导的从0到1或大规模重构核心服务的案例，遇到了哪些技术挑战？
- 如何设计可插拔的适配器以低成本接入新的大模型厂商？
- 准备1-2个高并发或分布式系统排障的实战案例，熟悉全链路追踪的落地细节
- 梳理过往项目中的技术债偿还经验，总结在代码可测试性与可维护性方面的最佳实践
职位点评
薪资福利85
成长发展90
工作生活50
使命价值80
薪资福利
85较高
该高级技术岗薪资具备较强市场竞争力，福利体系完善。
薪资信号未披露（AI估算：4千–7万/月）
成长发展
90较高
处于AI大模型核心基础设施领域，技术极具前沿性，能接触海量并发场景，技术成长空间巨大。
技术前沿前沿/新兴技术
技术栈Golang、MaaS、LLM API、SSE、WebSocket、Prometheus、PostgreSQL、Redis、RabbitMQ
业务类型profit_center
工作生活
50较低
JD未提及工作模式与WLB相关信息，无法判断实际工作强度与办公灵活性。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
推动AI大模型基础设施的建设，赋能千行百业的AI应用落地，具有较高的行业价值与技术使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
Watch Jobs