小米
服务端工程师
服务端工程师
发布于 大约 11 小时前普通员工/个人贡献者
武汉市
中级经验
全职员工
仅现场办公
本科
后端开发
Go
分布式系统
异步处理
性能优化
缓存
负载均衡
限流熔断
大模型网关
AI 估算 · 20k–35k
武汉大厂大模型基础设施核心岗，技术含金量高，薪资在武汉有较强竞争力，但低于一线城市。
职位详情
关于这个职位
作为小米大模型网关核心研发工程师，你将负责设计和开发高可用、高性能的统一接入管控平台，支撑各类大模型服务的标准化接入与调度
该岗位涉及分布式系统、负载均衡、限流熔断等核心技术，聚焦性能优化与稳定性保障，是AI基础设施领域的关键角色
最低要求
本科及以上学历，计算机相关专业，具备扎实的计算机基础与分布式系统基础知识
精通至少一种主流后端编程语言（Java/Go/Python优先），编码功底扎实，熟悉常用设计模式
具备良好的跨团队协作能力，能与产品、测试等角色高效配合，快速推进项目落地，具备技术攻坚意识
工作职责
负责大模型网关核心研发与架构设计，完成需求分析、功能开发、迭代优化，搭建高可用、高性能、可扩展的大模型统一接入管控平台，支撑业务侧模型稳定调用
设计并实现网关核心能力，涵盖多模型统一适配、路由调度、负载均衡、限流熔断、权限鉴权、协议转换等功能，实现各类大模型服务的标准化接入与集中管理
优化网关性能与调用体验，针对模型推理耗时、并发承载能力、响应延迟等指标做专项优化，完善缓存与异步处理机制，提升系统吞吐量与稳定性，保障高并发场景平稳运行
整合上下游服务与外部接口，对接私有化模型、第三方模型API、业务系统、监控平台等，打通模型调用全链路，搭建日志统计、用量核算、监控告警等配套模块
参与技术评审与技术攻坚，解决研发和上线中的核心技术问题，保障系统稳定性、安全性与可扩展性，跟进行业前沿技术，推动网关持续迭代升级
AI 洞察
优缺点分析
优点
- 身处大模型前沿赛道，积累高价值的AI基础设施经验
- 武汉的岗位，生活成本相对一线城市低，工作生活平衡更易实现
- 跨团队协作多，需要较强的沟通和推进能力
缺点 / 挑战
- 小米平台大，技术挑战多，个人技术成长快
- 大模型网关对系统的稳定性和性能要求极高，技术挑战大
- 需要不断跟进行业前沿技术，保持学习的压力
- 适合有一定后端开发经验，对分布式系统和大模型基础设施感兴趣，喜欢技术挑战的工程师
角色解读
- 从服务端工程师逐步成长为技术专家，深耕大模型基础架构领域
- 可向架构师方向发展，负责更大规模系统的设计和演进
- 有机会接触前沿AI技术，向AI基础设施团队负责人发展
- 负责大模型网关的核心研发与架构设计，构建统一接入管控平台
- 实现多模型适配、路由调度、负载均衡、限流熔断等网关核心能力
- 优化系统性能，提升并发承载能力和响应速度，保障高可用性
- 对接私有化模型、第三方API和监控平台，打通模型调用全链路
- 扎实的计算机基础和分布式系统知识
- 精通至少一种后端语言（Java/Go/Python），熟悉设计模式
- 熟悉网关相关技术，如负载均衡、限流、熔断、缓存等
- 良好的跨团队协作能力和问题解决能力
申请策略
- 了解小米在大模型领域的业务布局，在面试中展现对业务的思考
- 可以提前准备一个网关相关的项目案例，展示技术深度
- 突出分布式系统设计或高性能服务开发经验
- 展示在负载均衡、缓存、消息队列等组件上的实践
- 如果有网关、API管理或微服务相关项目，重点强调
- 体现性能优化和故障排查的案例
- 深入学习网关相关技术，如Nginx、Kong、APISIX等
- 熟悉大模型API调用方式和常见协议（如OpenAI API）
面试指南
- 对于系统设计题，先明确需求，再拆解模块，逐步深入，注意权衡取舍
- 对于性能优化题，先定位瓶颈，再给出量化指标和优化方案，最后验证效果
- 对于场景题，结合项目经验，展示解决问题的完整思路
- 请介绍一下你设计过的高可用系统架构
- 如何设计一个支持多模型接入的网关？
- 面对突发流量，如何做限流和熔断？
- 你如何优化一个高延迟接口的性能？
- 谈谈你对大模型API网关的理解
职位点评
72
综合评分
大厂大模型核心基建岗，前沿技术栈，薪资不明但发展空间大，WLB未知。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合重视技术成长、希望在AI基础设施方向深耕的工程师，对工作生活平衡要求不高，能接受现场办公。
表现最好
成长发展
相对薄弱
工作生活
薪资福利70
成长发展85
工作生活60
使命价值70
薪资福利
70中等
薪资未在JD中明确披露，但小米作为上市公司，整体薪酬福利体系完善，武汉薪资水平虽低于一线，但结合生活成本仍有竞争力。
薪资信号未披露（AI估算：20K-35K/月）
成长发展
85较高
该岗位处于大模型基础设施前沿，涉及高并发、分布式等核心技术，技术成长空间大，能接触最新AI架构。
技术前沿前沿/新兴技术
技术栈大模型、网关、分布式系统、负载均衡、限流熔断、缓存
业务类型cost_center
工作生活
60中等
工作地点武汉，未提及远程或弹性，工作与生活平衡情况未知，但武汉生活节奏相对一线城市较舒适。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
大模型是当前最热赛道，参与核心网关建设对未来AI发展有推动意义，但职位本身直接的社会价值感知不强。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
小米 的其他在招职位
相似职位推荐
Watch Jobs