后端研发工程师（J106384）

优缺点分析

角色解读

• 向大模型基础设施架构师方向发展，深入掌握AI底层调度与评测技术
• 转型为技术专家或技术团队Leader，负责更大规模的AI平台型系统建设
• 负责大模型Token服务评测基础设施的后端架构与开发，支持多种大模型服务接入
• 建设评测数据管理、质量监控及异常检测系统，保障评测任务的高效稳定运行
• 与算法和数据团队跨部门协作，提供标准化的评测数据以支持供应商能力评价
• 精通Java/Go/C++至少一种后端语言，具备扎实的分布式系统开发能力
• 熟悉数据库、缓存、消息队列及任务调度等中间件，能处理大规模数据采集与调度
• 了解AI/大模型服务部署及评测体系，熟悉Kubernetes、vLLM等AI基础设施技术

申请策略

• 提前了解百度在大模型及AI基础设施方面的最新技术博客和开源项目，面试时展现对行业前沿的关注
• 突出在分布式系统、高并发任务调度或大规模数据采集方面的实际项目经验与性能优化成果
• 强调对AI/大模型服务的了解，如有模型部署、GPU调度或Kubernetes相关实践经验务必详细写出
• 展示在自动化测试、质量评测或监控平台建设方面的经验，体现对系统稳定性和工程质量的把控能力
• 深入学习大模型推理框架（如vLLM、SGLang）及GPU资源调度原理，补齐AI基础设施知识短板
• 复习并实践分布式系统的高级特性，如分布式事务、消息队列的高可用设计及复杂任务调度算法

面试指南

• 系统设计题：采用‘需求分析-核心模块划分-技术选型-高可用/扩展性设计’的框架，重点突出大模型接入的适配层设计和任务调度的可靠性
• 故障排查题：遵循‘监控报警-日志分析-链路追踪-根因定位-复盘优化’的闭环思路，体现工程化解决问题的严谨性
• 如何设计一个支持多种大模型服务接入的标准化评测基础设施？请描述核心架构
• 在大规模任务调度中，如何保证任务的高可用、防重发以及异常状态下的重试机制？
• 针对多维评测数据的统一采集和处理，你会选择什么样的数据库和消息队列方案？为什么？
• 如果评测任务出现大面积超时或异常，你的监控系统如何快速定位问题并报警？
• 请谈谈你对大模型评测体系的理解，如何评估一个模型服务的性能和准确性？
• 准备1-2个自己主导过的分布式系统或平台型系统的设计案例，重点梳理遇到的技术难点和解决方案