星星海实验室-AI Infra 研发工程师-GPU方向

优缺点分析

角色解读

• 可向AI基础设施架构师或深度学习系统专家方向发展，逐步主导超大规模集群的算力调度与软硬协同设计
• 也可横向拓展至云原生AI平台或大模型底层引擎研发，成为复合型技术骨干
• 负责AI加速硬件（GPU）的性能评估与软硬件协同调优，覆盖单机到超节点场景
• 深入主流大模型训练与推理框架，进行底层加速与系统级优化
• 跟进业务交付，定位并解决复杂的技术问题，持续提升产品性能与用户体验
• 精通Python/C++及Linux开发环境，具备扎实的计算机系统设计与性能调优能力
• 深入理解GPU/AI DSA架构原理，拥有Nvidia/AMD等芯片的实际开发与优化经验
• 熟练掌握分布式训练框架及高性能网络通信优化技术

申请策略

• 提前了解该实验室的业务布局与自研芯片进展
• 准备至少一个完整的AI系统性能调优案例，清晰阐述问题分析路径与解决方案
• 关注大模型推理加速的前沿论文与开源社区动态
• 突出GPU/DSA架构优化实战项目，量化性能提升指标（如吞吐量、延迟降低比例）
• 详细展示在Megatron、TensorRT或vLLM等框架中的二次开发或调优经历
• 强调Linux环境下C++/Python的高并发编程与系统级排错能力
• 补充CUDA编程与NCCL/RDMA等高速网络通信原理
• 深入研究Transformer架构的并行策略（数据/张量/流水线并行）

面试指南

• 采用STAR法则结构化回答技术案例，重点突出排查思路、工具使用与量化成果
• 对于框架原理题，先简述核心架构设计，再结合具体应用场景分析权衡取舍，最后给出优化建议
• 请分享一次你通过修改底层代码或配置显著提升GPU训练/推理性能的案例
• Megatron的张量并行与流水线并行是如何工作的？各自的优缺点是什么？
• TensorRT或vLLM的核心加速机制是什么？PagedAttention解决了什么问题？
• 在超节点场景下，如何诊断和解决GPU间通信瓶颈？
• 复习计算机组成原理与操作系统核心概念，特别是内存管理、缓存一致性与进程调度
• 梳理主流分布式训练框架的源码逻辑与通信原语