【2027校招】大模型MaaS架构研发工程师

优缺点分析

角色解读

• 技术专家路线：深耕大模型服务平台架构，成为MaaS或云原生领域的资深专家
• 技术管理路线：带领团队负责更大规模的平台建设，向技术经理或架构师方向发展
• 横向扩展：向AI平台、算法工程或技术产品等更广泛的领域拓展
• 设计和研发公司统一的大模型API服务平台（MaaS），作为所有AI应用调用模型的入口
• 构建和维护模型服务的核心治理能力，如鉴权、限流、灰度发布，确保服务稳定可靠
• 优化模型服务的成本和性能，提升资源利用率，并改善开发者的接入体验
• 精通至少一门后端语言（Go/Java/Python/C++），并具备扎实的分布式系统设计和开发能力
• 熟悉高并发API网关、服务治理（如限流、熔断）和多租户系统架构
• 了解大模型推理服务的基本原理和链路，包括模型部署和调度
• 具备良好的系统建模、抽象能力和工程化思维，注重系统的稳定性和可观测性

申请策略

• 仔细研究小红书的AI业务和产品，理解该岗位在公司技术体系中的定位
• 准备一些关于高并发系统设计、服务治理或模型服务挑战的思考，面试中很可能深入探讨
• 突出在大规模分布式系统、API网关或云平台方面的项目经验或技术理解
• 强调对大模型推理框架（如vLLM）或云原生技术（如Kubernetes）的实践或学习
• 展示在复杂系统设计、性能优化或成本治理方面的具体案例和成果
• 体现良好的团队协作和跨团队沟通能力
• 深入学习至少一种大模型推理框架（如vLLM、SGLang）的原理和部署实践
• 强化对云原生技术栈（Kubernetes, 服务网格）和API网关设计的掌握

面试指南

• 使用STAR法则（情境-任务-行动-结果）来组织项目经验的回答
• 对于架构设计问题，先明确核心需求和约束，再逐步展开关键技术选型和权衡
• 结合具体技术细节（如算法、框架）来说明，但要强调对整体架构和业务影响的思考
• 请介绍一个你参与过的分布式系统项目，你是如何设计和保证其稳定性的？
• 如果让你设计一个支持多模型、多租户的API网关，你会考虑哪些核心组件和挑战？
• 你对大模型推理服务的链路有什么了解？如何优化模型的调用成本和延迟？
• 如何设计一个灰度发布系统，将新模型版本安全地推向生产环境？
• 描述一次你与不同技术团队协同推进项目的经验，遇到了哪些困难，如何解决的？