高性能GPU调度推理研发实习生-【可灵AI专项】

优缺点分析

角色解读

• 从实习转正，成为GPU集群架构方向的正式员工，深入万卡级平台建设
• 向AI基础设施专家发展，掌握推理优化、调度系统等核心技术
• 积累高性能计算和分布式系统经验，未来可转向芯片厂商或云厂商相关岗位
• 参与GPU利用率下钻分析，从数据中挖掘优化机会，提出并实施提升手段
• 设计算力调度策略，协调多业务资源需求，保障算力高效供给
• 开发虚拟化混部方案，通过潮汐资源提升GPU利用率，参与核心代码编写与落地
• 优化模型推理执行流水线，探索推理加速技术，提升服务性能
• 扎实的编程基础，熟练掌握Java或Python，有服务端开发经验
• 了解大模型推理框架（如vLLM、SGLang、PyTorch）的基本原理
• 熟悉容器化技术（Docker/Containerd）和Kubernetes调度机制
• 具备良好的学习能力和自驱力，能快速理解复杂系统

申请策略

• 在面试中展现对可灵AI产品的了解，关注快手在视频生成领域的动态，体现对业务的思考
• 准备1-2个有深度的技术问题，主动询问团队的技术栈和挑战，展现主动性
• 突出与GPU编程、分布式系统相关的项目或课程实践，如使用CUDA、MPI等
• 展示对vLLM、PyTorch等推理框架的源码阅读或二次开发经历
• 强调Kubernetes或Docker的使用和调优经验，最好有集群管理案例
• 体现数据分析能力，如有性能瓶颈分析或资源利用率优化的项目
• 提前学习vLLM或SGLang的推理调度原理，尝试搭建本地推理服务
• 强化Python/C++性能优化技巧，了解GPU底层架构（如SM、显存管理）

面试指南

• 采用STAR法则（情境-任务-行动-结果）来结构化回答项目经历
• 对于技术原理问题，先给出定义，再分层展开，最后联系实际场景
• 面对开放式问题，先明确问题边界，提出多种方案并比较优劣
• 请解释GPU利用率低的原因有哪些？你会如何系统性地优化？
• 描述Kubernetes调度器的工作流程，如何为GPU资源设计调度策略？
• 大模型推理服务中，如何实现弹性伸缩以应对流量波动？
• vLLM的内存管理机制是怎样的？相比传统方案有什么优势？
• 请举例说明你解决过的性能优化问题，用到了哪些工具和方法？