广告架构高级工程师-Search Ads Infra

优缺点分析

角色解读

• 技术纵深发展：成为大模型训练推理系统专家，主导核心基础设施架构
• 横向扩展：覆盖更多AI系统领域，如编译器优化、AI芯片适配等
• 管理路线：技术能力成熟后可转型技术Leader，带领系统优化团队
• 负责百亿参数大模型的分布式训练和推理支持，优化训练框架如DDP/TP/PP等
• 与算法团队合作，进行算法与系统的联合调优，提升模型性能和效率
• 探索模型压缩、量化、蒸馏等效率优化技术，降低模型部署成本
• 支持强化学习、联邦学习等新型机器学习范式的系统实现
• 精通C/C++和Python，具备扎实的编程能力和良好的编码习惯
• 深入理解至少一种深度学习框架（TensorFlow/PyTorch/Jax），有大规模分布式训练经验
• 熟悉GPU编程（CUDA）或编译器技术，了解模型推理框架（如vLLM/TRT）
• 具备独立解决复杂问题的能力和团队协作精神

申请策略

• 在简历中量化项目成果，例如训练吞吐提升X倍，推理延迟降低Y%
• 面试前了解字节跳动广告系统的技术架构，准备系统设计类题目
• 突出分布式训练或推理优化项目经验，尤其是处理过大规模模型（如百亿参数）的实际案例
• 强调GPU编程或编译器优化相关经历，如CUDA kernel优化、TVM等
• 展示对深度学习框架（PyTorch/TensorFlow）源码的理解或贡献
• 补充阅读PyTorch分布式组件（DDP/FSDP）源码，加深对分布式并行策略的理解
• 学习模型压缩技术（量化、剪枝）并动手实践，如使用NVIDIA TensorRT部署模型

面试指南

• 对于系统设计类问题，采用STAR法则（情境-任务-行动-结果）并结合具体技术细节
• 对于技术原理问题，先定义概念，再对比不同方案的优劣，最后结合实际场景给出选择依据
• 对于优化类问题，采用分析瓶颈→提出方案→实验验证→迭代优化的思路
• 请解释DDP和FSDP的区别及其适用场景
• 如何优化一个百亿参数模型的训练效率？请从数据并行、模型并行、流水线并行等角度分析
• 描述一次你优化模型推理性能的经历，使用了哪些技术？
• 大模型训练中常见的性能瓶颈有哪些？如何定位和解决？
• 你对模型量化了解多少？量化对精度的影响如何控制？