无人车业务部-多模态大模型Infra工程师

优缺点分析

角色解读

• 从Infra工程师向AI基础设施专家或架构师发展，成为大模型训练/推理平台的核心负责人
• 可转向算法团队，凭借对底层的深入理解，从事模型优化或前沿算法研究
• 在无人车和自动驾驶领域深耕，成为智能系统的关键角色，技术影响力辐射全公司
• 负责多模态大模型（如世界模型、扩散模型）训练和推理基础设施的搭建与优化，确保大规模训练高效稳定
• 设计和实现分布式训练方案，包括数据并行、模型并行、流水线并行等，提升多节点多卡训练吞吐
• 构建高性能推理服务，通过量化、算子融合、显存优化等手段加速生成模型的在线和离线推理
• 搭建端到端数据Pipeline，处理图像、视频、点云等海量多模态数据，支撑训练数据供给
• 扎实的编程能力：精通Python，熟悉C++/CUDA，能进行高性能计算和系统优化
• 深度学习框架：熟悉PyTorch训练和推理流程，有大模型或生成模型实际优化经验
• 分布式技术：掌握DeepSpeed、FSDP、Megatron-LM等至少一种分布式训练框架，或推理加速工具如TensorRT、vLLM
• 数据处理：熟悉Spark、Ray、Airflow等数据Pipeline工具，有TB级多模态数据处理经验

申请策略

• 了解美团无人车业务和自动配送场景，面试中展示对技术如何落地到实际业务的思考
• 准备好系统设计题，尤其是分布式训练和推理服务架构设计
• 突出大模型或生成模型训练/推理优化的实际项目，量化性能提升（如吞吐、延迟指标）
• 详细描述分布式训练实践，如使用DeepSpeed/FSDP的经验，包括模型规模、集群规模、遇到的问题
• 展示系统底层优化能力，如CUDA编程、算子融合、显存优化等具体案例
• 强调数据处理能力，特别是TB级多模态数据的处理经验
• 精通PyTorch底层机制，熟悉torch.distributed和collective communication
• 学习NVIDIA工具链，如TensorRT、Triton Inference Server，并动手实践

面试指南

• STAR法则：描述情景、任务、行动和结果，突出量化成果
• 问题拆解法：先识别瓶颈，再针对性优化，并权衡利弊
• 经验结合原理：解释技术背后的原理，展示深度理解
• 请描述你设计过的分布式训练方案，如何解决通信瓶颈和负载不均衡？
• 如何优化一个大模型的推理延迟？请给出具体的加速方法
• 如果训练数据规模达到TB级，你会如何构建数据Pipeline来保证高效加载？
• 介绍一下你对PyTorch中DDP和FSDP的理解，它们有什么区别和适用场景？
• 如何保证训练任务的稳定性和容错？