【2027届】大模型推理研发实习生-创作发布

优缺点分析

角色解读

• 实习期表现优秀可转正，正式加入小红书AI引擎团队，深度参与核心项目
• 从推理引擎优化向分布式系统架构师方向发展，或专注AI推理性能调优成为专家
• 积累大规模集群调度经验，未来可胜任云计算、AI基础设施等领域的架构岗位
• 参与大模型推理集群的资源调度和算力池化，优化GPU等异构资源的使用效率
• 设计和实现大模型服务的自动扩缩容、PD分图调度，保障服务高可用和低延迟
• 参与多机房、多云环境下的任务调度和负载均衡，提升分布式系统的可靠性
• 熟练掌握C++/Go/Python等语言，具备Linux环境下的开发能力
• 了解Kubernetes和容器技术（Docker、Containerd等），有分布式系统基础
• 对GPU体系结构、大模型推理引擎（如vLLM、TensorRT-LLM）有基本认知
• 具备逻辑分析和问题抽象能力，能独立处理复杂调度场景

申请策略

• 在简历中体现对小红书业务的理解，比如内容创作场景与AI的结合点
• 提前了解小红书的AI基础设施技术栈，可在面试中展现技术热情
• 突出分布式系统相关项目经历（如容器编排、资源调度、高并发服务等）
• 强调对Kubernetes、Docker等技术的实际使用或理解，最好有调优经验
• 如果有大模型推理或GPU编程经验（CUDA、TensorRT等），务必展示
• 体现技术文档习惯和逻辑分析能力（如竞赛、开源贡献等）
• 快速学习Kubernetes调度原理和容器网络（如CNI），实践搭建小型集群
• 了解主流推理引擎（vLLM、TGI）的架构，尝试部署一个小型LLM服务

面试指南

• 对于系统设计类问题，采用“需求分析→架构设计→关键技术→容错与扩展”的框架
• 对于技术原理类问题，先解释核心概念，再结合实际场景说明应用
• 对于排查问题类问题，遵循“现象→影响范围→可能原因→逐步排查→解决方案”的思路
• 请解释Kubernetes中Pod调度和资源限制的机制
• 如何设计一个大模型推理服务的自动扩缩容策略？
• 如果你负责的推理服务出现GPU显存不足，如何排查和解决？
• 了解哪些大模型推理优化技术（如FlashAttention、PagedAttention）？请简述原理
• 假设需要调度多个大模型任务到GPU集群，你会考虑哪些关键因素？