【LongCat大模型人才校招】基座大模型工程架构专家

优缺点分析

角色解读

• 技术专家路线：深耕AI系统工程，成为分布式训练或推理优化领域的顶尖专家
• 架构师路线：从单点优化转向全局系统设计，负责大规模AI基础设施架构
• 管理路线：逐步带领技术团队，负责整体技术方向与项目落地
• 设计并优化万亿参数大模型的分布式训练系统，包括数据加载、计算图编译、并行策略等
• 构建高性能推理引擎，应用量化、剪枝等压缩技术降低推理成本
• 通过手工优化和编译优化在GPU/NPU上实现极致性能
• 管理全公司大规模GPU集群，研发智能调度算法提升资源利用率
• 扎实的C++/Python编程能力，熟悉计算机体系结构和系统性能优化
• 深入理解PyTorch框架及常见的分布式训练框架
• 熟悉GPU硬件架构和CUDA编程，了解NCCL、RDMA等通信技术
• 了解TVM/MLIR等编译优化技术，有底层优化经验

申请策略

• 在面试中展现对系统性能优化的热情和深度思考，比如你如何优化一个PyTorch模型
• 了解美团在大模型领域的布局（如“美团GPT”类项目），准备相关行业认知
• 突出系统编程项目经验，如高性能计算、分布式训练或推理优化相关
• 强调对PyTorch、CUDA等框架的熟练程度，最好有实际调优案例
• 展示开源贡献或技术博客，体现对极客精神的追求
• 如果有相关论文（如MLSys、OSDI等）或竞赛获奖，务必重点呈现
• 补强TVM/MLIR等编译优化知识，阅读相关论文并动手实验
• 熟悉NCCL、RDMA等高速通信原理，了解大规模集群通信拓扑

面试指南

• 结构化回答：先总述目标，再分点阐述数据并行、模型并行、流水线并行、ZeRO等策略，最后总结权衡
• 对比分析：对于工具类问题，先说明各自特点，再指出适用场景，展示对底层原理的理解
• 案例驱动：用自己做过的一个优化项目为例，讲述问题、方案、效果，突出量化指标
• 如何设计一个支持万亿参数模型的高效分布式训练方案？
• 解释PyTorch DDP与DeepSpeed ZeRO的区别与原理
• 如何优化一个transformer模型的推理延迟？请从算子、内存、并行度等角度分析
• CUDA kernel编写经验：如何实现一个高效的softmax？
• TVM/MLIR的基本工作流程是什么？如何将一个模型导入并优化？