顶尖实习-AI算力研究员-AI基建

优缺点分析

角色解读

• 纵向可发展为AI Infra领域的资深技术专家，主导万卡集群架构设计与核心调度算法研发
• 横向可向大模型算法优化、高性能计算架构师或AI平台技术负责人方向拓展
• 深入探索GPU芯片技术特性，进行国产卡适配、混合精度及显存优化，提升底层算力效能
• 基于Kubernetes构建和运营万卡级GPU集群，实现拓扑感知调度、故障自愈等核心调度能力
• 推进GPU资源池化、虚拟化及训推混部技术，最大化全集团GPU资源利用率
• 扎实的计算机基础，熟练掌握Go/Python/C++至少一门编程语言
• 熟悉主流GPU芯片及CUDA生态，了解大模型训练与推理的底层优化原理
• 掌握Kubernetes及容器化技术，了解GPU算力管理及分布式集群调度机制

申请策略

• 提前了解自研大模型背景及在AI算力方面的公开技术分享，展现对业务的关注与技术热情
• 突出在Kubernetes、分布式系统或GPU集群管理相关的项目经验，强调解决过的调度或性能瓶颈问题
• 展示在大模型训练/推理优化、CUDA编程或相关框架的底层修改与调优经历
• 强调Go/C++/Python的编程能力，特别是高并发、高性能代码编写经验
• 深入学习Kubernetes源码及Volcano等AI调度组件，理解Gang调度、拓扑感知调度的实现原理
• 熟悉主流大模型训练框架的底层通信与显存优化机制

面试指南

• 针对架构与调度问题：采用“背景痛点 -> 核心设计思路 -> 关键技术细节 -> 最终收益”的STAR法则回答
• 针对底层优化问题：从“硬件特性 -> 框架机制 -> 优化手段（如算子融合、通信重叠） -> 性能指标提升”的逻辑展开
• 请简述Kubernetes中GPU调度的痛点，以及你是如何实现拓扑感知调度或Gang调度的？
• 在大模型训练中，显存优化有哪些常见策略？请结合CUDA或框架底层谈谈你的理解
• 如果万卡集群中某台机器出现GPU掉卡故障，你的故障自愈系统会如何处理？
• 训推混部场景下，如何保证推理任务的延迟SLA同时最大化训练任务的资源利用率？
• 复习分布式系统基础、Kubernetes核心组件及GPU虚拟化/池化技术（如MIG、vGPU）
• 准备1-2个自己主导或深度参与的底层性能优化或集群调度项目，能够深入讲解技术细节和踩坑经验