企业微信-大模型训练框架开发工程师-AI Infra（成都/北京）

优缺点分析

角色解读

• 技术深耕路线：成为GPU性能优化或分布式系统领域的专家，攻克更复杂的AI Infra技术难题
• 架构拓展路线：从性能优化延伸至AI框架设计、AI编译器或异构计算架构设计，构建更完整的AI系统栈
• 行业影响路线：将优化经验与方案沉淀为技术标准或开源项目，推动大模型训练/推理技术的发展
• 深入剖析大模型训练与推理过程中的性能瓶颈，并针对GPU计算、显存、通信链路进行定向优化
• 用C++/CUDA等语言开发高性能计算算子（如GEMM、Attention），并实现通信与计算的融合优化
• 利用专业性能分析工具（如Nsight）定位问题，并通过调优分布式框架（如NCCL、Megatron-LM）提升多机多卡集群的整体效率
• 将优化成果在PyTorch、vLLM等主流AI框架中落地，直接提升模型训练速度和推理吞吐量
• 扎实的GPU架构知识与CUDA编程能力，能够熟练进行高性能算子开发
• 深入理解大模型核心算法模块（Attention, MoE）及分布式并行策略（TP/PP/DP）
• 精通分布式通信技术（NCCL/RDMA/InfiniBand），并具备多机多卡系统级性能调优经验
• 熟练使用性能剖析工具进行瓶颈分析，并具备基于数据驱动的优化方案制定能力

申请策略

• 深入研究腾讯微信AI Infra团队可能的技术选型和开源贡献（如Angel-PS），在面试中展现针对性思考
• 准备一个完整的性能优化案例，从发现问题、分析瓶颈、设计方案到验证效果，形成清晰的叙事逻辑
• 重点突出与GPU优化、CUDA编程、分布式系统相关的项目经历，量化性能提升指标（如吞吐提升X%，延迟降低Y%）
• 详细描述使用Nsight、Compute Profiler等工具进行性能分析与瓶颈定位的具体案例
• 展示对Attention、GEMM等核心算子，或NCCL、RDMA等通信技术的深入理解与实践经验
• 系统学习NVIDIA GPU架构文档（如CUDA Programming Guide）和高级性能优化技巧
• 阅读并尝试复现TensorRT-LLM、vLLM等推理框架或Megatron-LM等训练框架中的性能优化代码
• 如果有条件，搭建小型多机环境，实践NCCL通信调优和RDMA配置

面试指南

• STAR-R框架：阐述背景(Situation)、任务(Task)、行动(Action，重点讲技术分析和方案)、结果(Result，量化数据)以及反思(Reflection)
• 自顶向下分析：从系统指标（吞吐/延迟）到模块（通信/计算/内存）再到具体代码/硬件的分析思路
• 对比论证法：对比优化前后、不同技术方案在性能、资源消耗、复杂度上的差异
• 描述一个你主导过的GPU性能优化项目，你是如何定位瓶颈并验证优化效果的？
• 在多机训练场景下，如果发现通信是瓶颈，你会从哪些方面入手进行优化？
• 请解释一下CUDA中的Warp级别调度和内存合并（Memory Coalescing）对性能的影响
• 对于大模型推理中的KV Cache技术，从性能角度有哪些可以优化的方向？
• 如何看待NVIDIA GPU与国产AI芯片在架构和编程模型上的主要差异？对优化工作带来哪些挑战？