【快Star】容器&大模型推理调度研发工程师

优缺点分析

角色解读

• 技术深耕：从容器调度专家成长为AI-Infra架构师，主导算力基础设施设计
• 横向拓展：可转向大模型训练/推理平台、云计算产品管理等方向
• 管理路线：带领团队负责容器云平台或推理加速项目，向技术Leader发展
• 设计并实现超大规模容器调度系统，管理千万核级CPU和数十万卡级GPU算力
• 基于Kubernetes构建多集群联邦，统一调度CPU/GPU/NPU等异构资源
• 优化大模型推理服务的性能与稳定性，降低延迟、提升资源利用率
• 探索GPU混部、推理容量预测、实例快速启动等前沿AI-Infra技术
• 扎实的Golang或Java编程能力，数据结构和算法功底
• 深入理解Kubernetes及云原生生态，掌握容器调度原理
• 对大模型推理技术栈有了解，如模型部署、推理引擎等
• 具备系统性能分析和优化能力，熟悉GPU/NPU等异构计算

申请策略

• 详细了解快手的容器平台和AI-Infra现状，在面试中展示你的行业认知
• 关注快手在云原生和大模型方面的技术博客或开源项目，提前准备相关话题
• 突出Kubernetes相关项目经验，尤其是调度或编排方面的实践
• 强调大模型推理优化或AI-Infra项目，说明你在其中的具体贡献
• 展示Golang/Java的代码质量和系统设计能力，最好有开源项目或高并发系统经历
• 如果有性能调优、资源利用率提升的数据，务必量化呈现
• 深入学习Kubernetes调度器源码，理解调度算法和扩展机制
• 学习大模型推理框架（如vLLM、TensorRT-LLM）和GPU底层原理

面试指南

• 对于系统设计问题，采用“需求分析-架构设计-关键点优化-风险评估”的结构化回答
• 对于性能优化问题，先讲清楚问题表象和影响范围，再给出可操作的优化措施，并量化预期效果
• 对于技术原理问题，结合自己的项目经验，从底层原理到上层应用层层递进，展现深度
• 请详细描述Kubernetes调度器的工作流程，以及如何自定义调度策略
• 如何优化大模型推理服务的GPU利用率？你有哪些具体方案？
• 设计一个多集群联邦调度系统，需要考虑哪些关键因素？
• 你的项目中遇到过哪些容器或推理性能问题？如何解决的？
• 你认为当前大模型推理基础设施面临的最大挑战是什么？