大模型MaaS 网关研发实习生（练习生）

优缺点分析

角色解读

• 技术专家路线：深入网关架构、服务治理与大模型优化，成为AI基础设施领域的资深工程师或架构师
• 平台产品路线：专注于开发者体验与平台能力建设，向AI平台产品经理或技术专家方向发展
• 更广阔的技术领域：可扩展到云原生、微服务治理、MLOps等更广泛的基础设施与效能领域
• 参与设计和开发小红书内部统一的AI大模型API网关，这是公司所有AI应用的基础设施入口
• 构建智能路由和成本优化系统，以平衡模型调用的效果、成本和服务稳定性
• 负责网关核心功能开发，包括鉴权、限流、灰度发布、监控和用量统计，保障服务高可用
• 打通底层AI推理引擎与上层业务，为搜索、审核等多个业务场景提供易用的模型服务
• 扎实的后端开发能力，至少精通Go、Java、Python或C++中一门语言，并具备服务端开发实战经验
• 熟悉大规模分布式系统设计与开发，了解高并发API网关、服务治理、流控限流等核心概念
• 对大模型（LLM）推理服务的基本流程、部署与调度有基本认知，能理解模型服务的高可用需求
• 良好的系统抽象与建模能力，以及跨团队协作沟通能力

申请策略

• 深入研读小红书的技术博客或开源项目，了解其技术栈和工程文化，在面试中展现你的研究和热情
• 准备一个能清晰讲述的、体现你系统设计和工程能力的技术项目，最好能与分布式、高并发或AI服务沾边
• 重点突出与职位要求相关的项目经验，如参与开发过的分布式系统、API网关、微服务治理或与AI相关的后端项目
• 详细描述在项目中负责的具体模块（如限流、鉴权、路由），使用的具体技术（如Go语言、Kubernetes、Redis），以及解决了什么问题（如提升并发、降低成本）
• 若无直接相关经验，可展示扎实的计算机基础（如数据结构、操作系统、网络）和自学的云原生/大模型相关技术知识
• 强调在团队协作和复杂问题抽象方面的经历与思考
• 快速补充大模型推理服务基础知识，了解vLLM、SGLang等主流框架的基本原理
• 实践巩固分布式系统核心概念，可尝试阅读经典项目（如Kong、Envoy）源码或进行相关项目练习

面试指南

• 使用STAR法则（情境、任务、行动、结果）来结构化你的项目经历描述，突出你的技术贡献和成果
• 对于系统设计问题，从核心目标（如可用性、扩展性、性能）出发，逐步分解功能模块，阐述你的技术选型理由（如一致性、复杂度、成本）
• 展示你的学习能力和思考深度：对于不熟悉的技术点，可以承认并阐述你的理解思路
• 对于熟悉的技术，可以比较不同方案的优劣
• 请描述一个你参与过的分布式系统项目，你在其中负责什么？遇到了什么技术挑战，如何解决的？
• 如果让你设计一个简单的API网关，你会考虑哪些核心功能？如何保证其高可用和高性能？
• 你了解哪些大模型推理框架？它们在服务部署和调用上有什么特点？
• 如何设计一个限流方案来保护后端服务？有哪些常见的限流算法？