AI大模型部署系统研发工程师实习生

优缺点分析

角色解读

• 从实习生转正为正式工程师，深入参与大模型平台的核心研发
• 向AI基础设施专家方向发展，掌握分布式系统、调度算法等高级技能
• 有机会接触前沿技术，如多机部署、PD分离部署，成为大模型部署领域的专家
• 参与小红书大模型平台的推理部署、部署、资源调度等核心流程的研发，提升平台性能和稳定性
• 开发Quota管理模块，实现多机房、多集群环境下异构计算资源的配额管理，确保资源高效利用
• 参与大模型训练、压缩、推理、数据集管理等工具链的建设，支持业务快速迭代
• 熟练掌握Go/Python/Java至少一门语言，具备扎实的编程基础
• 熟悉Kubernetes技术栈，有云原生机器学习系统开发经验
• 了解大模型推理框架（如vLLM/SGLang/Dynamo），有实际部署经验
• 熟悉Linux系统、MySQL/Redis/MQ等组件，具备快速学习能力

申请策略

• 关注小红书技术博客，了解其AI平台架构
• 准备相关项目案例，展示解决实际问题的能力
• 突出Kubernetes相关项目经验，如部署、调度、资源管理
• 强调大模型部署实践，如使用vLLM或SGLang的经验
• 展示编程能力和算法基础，以及使用AI编程工具的效率
• 深入学习Kubernetes和云原生技术，了解Volcano、OpenKruise等
• 熟悉大模型推理原理和分布式部署架构，如PD分离
• 掌握常见调度算法，理解多租户Quota治理

面试指南

• 回答时结合项目经验，突出技术深度和解决问题的能力
• 请介绍你在Kubernetes上部署大模型的经验
• 如何设计一个多租户的Quota管理模块？
• 解释vLLM的工作原理和优化点
• 如何处理多集群资源调度中的碎片问题？
• 你对PD分离部署的理解是什么？
• 复习Kubernetes核心概念和调度机制
• 了解大模型推理框架的架构和优化