星星海实验室-AI Infra 研发工程师

优缺点分析

角色解读

• 从AI基础设施优化专家，逐步成长为AI系统架构师，负责大规模AI集群的设计与优化
• 有机会深入AI芯片与硬件协同设计领域，成为软硬件协同优化的领军人物
• 在腾讯内部可横向发展，转向AI平台研发、AI产品技术负责人等方向
• 负责AI加速硬件的性能评估与优化，包括单机单卡和超节点场景的软硬件协同调优
• 参与AI训练和推理框架的优化，如Megatron、TensorRT、vLLM等，提升模型训练和推理效率
• 与团队协作，定位并解决性能瓶颈，推动产品线持续优化
• 精通Linux开发环境，熟练掌握Python/C++，具备扎实的编程和系统设计能力
• 深入理解GPU/AI DSA架构，有NVIDIA/AMD等平台的开发优化经验
• 熟悉主流分布式训练框架（如Megatron）和推理加速技术（如TensorRT/vLLM/SGLang）
• 具备高性能网络通信和计算优化知识

申请策略

• 关注腾讯AI Lab和星星海实验室的最新动态，了解其技术方向
• 在面试中展示对AI Infra领域的热情和深入思考
• 突出GPU/AI硬件优化项目经验，如使用NVIDIA/AMD平台的性能调优案例
• 强调对主流训练/推理框架（如Megatron、TensorRT）的深入理解和实践
• 展示在Linux环境下的C++/Python开发能力，以及系统级优化成果
• 如有开源项目或技术博客，可增加技术深度展示
• 深入学习GPU架构和AI加速器原理，掌握性能分析工具（如NVIDIA Nsight）
• 熟悉最新训练/推理框架的优化技巧，如vLLM、SGLang等

面试指南

• 使用STAR法则（情境、任务、行动、结果）回答项目经验，突出量化成果
• 针对技术问题，先阐述原理，再结合实践经验，最后总结优化效果
• 展示逻辑清晰的问题解决思路，强调数据驱动和系统化分析
• 请描述一次你优化GPU性能的案例，具体使用了哪些工具和方法？
• 如何优化分布式训练中的通信瓶颈？
• TensorRT和vLLM在推理优化上有什么异同？
• 如何评估一个AI加速硬件的性能？
• 面对一个性能问题，你的排查思路是什么？