微软
Senior Software Engineer(M365 Copilot Inferencing)
Senior Software Engineer(M365 Copilot Inferencing)
发布于 3 小时前普通员工/个人贡献者
全职员工混合式弹性办公后端开发
后端开发
Gpu优化
云计算
分布式系统
可靠性工程
微服务
模型服务
系统架构
值不值得投
85综合评分
综合评分 85
微软核心AI产品底层Infra岗，技术前沿、薪资优厚、成长空间极大，但需承担生产系统on-call压力。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
6万
比后端开发中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
34 个在招 · 其中后端开发 2 个
市场机会
选择面较广
北京 · 后端开发 · 约 370 个在招
职位详情
关于这个职位
该职位隶属于微软M365 Copilot推理团队，负责构建高性能、可靠且合规的推理基础设施，为Microsoft 365 Copilot提供底层支持
你将参与设计、开发和交付大规模模型服务、GPU效率优化及全球路由等核心组件，并与跨部门团队紧密合作，确保企业级生产系统的卓越运营
最低要求
计算机科学或相关技术领域学士学位，且具备4年以上技术工程经验，熟练使用C、C++、C#、Java、JavaScript或Python等语言进行编码
或具备同等经验
其他要求：必须满足微软、客户和/或政府的安全审查要求，包括但不限于微软云背景调查（入职/调动时及此后每两年需通过一次）
工作职责
需求与设计：与利益相关者合作确定场景的用户需求
主导依赖项识别并参与产品、应用、服务或平台的设计文档开发
构建与交付：发起并构建解决方案以提高性能、可维护性和有效性
将功能高质量、高可靠地交付至生产环境
服务与系统思维：参与支持大规模模型服务的架构和实现，包括考虑大规模请求服务（路由、负载均衡、分布式缓存/存储、网络、地理/灾难恢复）
卓越运营/生产环境：在职责范围内担任指定责任人（DRI）
参与on-call值班，与合作伙伴合作监控系统/产品/服务的降级、停机或中断，并采取行动恢复服务
可靠性、可观测性、性能：主动寻求新知识并适应新趋势、技术解决方案和模式，以提高可用性、可靠性、效率、可观测性和性能，同时推动大规模监控和运营的一致性
协作与执行：与工程师、产品经理及合作伙伴团队紧密合作，执行项目计划、发布计划和工作项
跨组织边界进行清晰沟通
培养他人：以身作则，通过代码审查和设计审查指导他人，帮助提高团队的代码质量和工程实践
优先资格
计算机科学或相关技术领域硕士学位，且具备6年以上相关编码经验
或学士学位且具备8年以上相关编码经验
或同等经验
具备在云端构建应用和/或服务并交付生产级软件的经验，具备扎实的调试和问题解决能力
能够推理现代分布式软件设计模式和云系统架构（如微服务、容器、负载均衡、队列、缓存），并能构建/交付/运营可靠的解决方案
具备出色的沟通和协作能力，能够跨组织边界对齐并交付成果
展现出主人翁意识，能够端到端地推动可靠服务的交付和运营
具备设计分布式系统、近实时处理解决方案或大型数据平台的经验
有在复杂环境中使用大规模分布式系统（云/SaaS）的工作经验
具备以工程思维改进生产系统的经验，关注大规模环境下的可靠性、性能和可观测性
熟悉推理平台相关问题，如模型服务、GPU效率和大规模请求路由
有提高GPU推理效率（分析、调度、批处理、内存管理、运行时优化）经验者优先
AI 洞察
优缺点分析
优点
- 平台大，能接触到全球规模的分布式系统与GPU优化技术，履历含金量高
- 具备扎实分布式系统基础，对AI Infra和GPU优化有浓厚兴趣，且能在高压环境下保持冷静解决问题的资深后端/系统工程师
缺点 / 挑战
- 参与微软核心AI产品（M365 Copilot）的底层基础设施建设，技术栈前沿且极具挑战性
- 涉及全球规模的生产系统，on-call和线上故障排查压力较大
- 需要跨时区、跨团队与多个利益相关者协作，沟通成本较高
角色解读
- 可向资深架构师（Principal Engineer）或技术管理岗（Engineering Manager）发展
- 在AI基础设施与大规模分布式系统领域积累深厚经验，成为行业稀缺的AI Infra专家
- 负责M365 Copilot底层推理基础设施的设计与开发，优化GPU效率与大规模模型服务路由
- 参与系统架构设计，确保高可用性、可靠性及跨地域的灾难恢复
- 承担on-call职责，保障生产环境的稳定运行与性能优化
- 精通C++/Python/C#等至少一种语言，具备扎实的分布式系统设计与云原生架构能力
- 熟悉GPU推理优化、模型服务及大规模请求路由机制
- 具备优秀的跨团队沟通协作与复杂问题排查能力
申请策略
- 了解微软的成长型思维（Growth Mindset）文化，在面试中展现持续学习和拥抱变化的态度
- 熟悉M365 Copilot的产品形态及其对底层推理算力的需求
- 突出在大规模分布式系统、云原生架构或AI推理平台方面的实际项目经验
- 强调在性能优化、GPU效率提升或高可用系统设计方面的具体成果与数据指标
- 展示跨团队协作及主导复杂项目落地的能力
- 深入复习分布式系统设计原则、云原生组件及GPU推理优化（如vLLM、TensorRT等）相关知识
- 准备系统架构设计（System Design）面试，特别是大规模模型服务的路由与负载均衡方案
面试指南
- 采用STAR法则（情境、任务、行动、结果）描述项目经验，重点突出“我”的具体贡献和量化结果
- 对于系统设计题，采用“需求分析-高层架构-核心组件设计-扩展性与容灾-监控与运维”的结构化思路
- 请设计一个支持全球规模的大模型推理服务架构，如何处理路由、负载均衡和容灾？
- 在过往项目中，你是如何优化GPU推理效率或解决大规模分布式系统性能瓶颈的？
- 描述一次你处理过的最严重的线上故障（Live Site Issue），你是如何排查和恢复的？
- 如何在跨团队、跨组织边界的情况下，推动一个复杂技术方案的落地？
- 准备2-3个自己主导的复杂分布式系统或性能优化项目，深挖技术细节和踩坑经验
- 复习微软的领导力原则（Leadership Principles）和成长型思维相关行为面试题
职位点评
薪资福利85
成长发展95
工作生活70
使命价值85
薪资福利
85较高
微软作为顶尖科技企业，Senior SDE级别的薪资福利在市场中极具竞争力，且提供完善的RSU和福利体系。
薪资信号偏高 (4.5千–7.5万/月)
成长发展
95较高
岗位处于AI大模型推理基础设施的核心领域，技术极具前沿性，能接触到全球最大规模的分布式AI系统，成长空间巨大。
技术前沿前沿/新兴技术
技术栈C++、Python、分布式系统、GPU优化、模型服务、微服务、云系统架构
成长机会mentor others、growth mindset
业务类型ambiguous
工作生活
70中等
微软通常提供较好的工作生活平衡，但该岗位涉及全球规模生产系统及on-call职责，可能存在一定的夜间或周末值班压力。
工作模式未明确
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值
85较高
赋能全球用户和组织的AI核心产品，具有极高的社会价值和行业影响力，使命感强。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号empower every person and every organization on the planet to achieve more
创新程度开拓性创新（行业首创）
微软 的其他在招职位
相似职位推荐
Watch Jobs