广告大模型训练/推理优化研发工程师-Data

优缺点分析

角色解读

• 技术深耕：成为深度学习系统优化专家，主导引擎架构演进
• 业务拓展：转向广告推荐系统全栈优化，结合业务需求推动模型迭代
• 管理方向：带领团队负责核心基础设施研发，向技术经理或架构师发展
• 深度优化深度学习引擎，通过编译优化、图融合、低精度计算等技术提升训练和推理效率
• 研发高性能算子库，针对异构硬件（GPU、NPU等）进行并行加速，使用CUDA、Triton等工具
• 支持长序列的大规模分布式训练（如FSDP、TP）和推理框架（vLLM、SGLang）的部署与调优
• 跟踪前沿技术，探索下一代硬件架构和异构计算方案，并推动在广告场景落地
• 精通C/C++和Python，具备优秀的编码和调试能力
• 扎实的计算机体系结构、操作系统、数据结构与算法基础
• 熟悉PyTorch及分布式训练框架（FSDP、DeepSpeed），了解推理框架（vLLM、SGLang）
• 具备高性能编程经验，熟悉CUDA、Triton等并行计算技术

申请策略

• 在简历中用量化指标展示优化成果（如“将推理延迟降低30%”）
• 了解字节广告系统的基本知识，体现业务理解
• 突出分布式训练或推理优化的项目经验，包括具体优化手段和收益（如吞吐量提升、显存节省）
• 展示编程语言（C++/Python）和并行计算（CUDA/Triton）的深度使用案例
• 若参与过开源项目（如vLLM、DeepSpeed）或贡献过算子库，务必列出
• 补充学习：如果未接触过vLLM或SGLang，可以动手部署并阅读源码
• 深入学习：掌握CUDA编程模型、GPU架构细节，理解分布式训练通信模式

面试指南

• 对于优化类问题，采用“问题-方案-效果”结构，先说明瓶颈，再给出具体优化技术，最后量化收益
• 对于原理对比类问题，先简要定义，再比较异同和适用条件，最后给出自己的理解或经验
• 请描述你做过的一次深度学习模型训练加速的优化案例
• 解释FSDP和DeepSpeed ZeRO的区别和适用场景
• 如何优化一个Transformer模型的推理延迟？请从算子融合和显存管理角度分析
• CUDA中shared memory和global memory的使用场景和优化技巧
• vLLM中的PagedAttention是如何工作的？优势在哪里？
• 复习分布式训练相关论文（如ZeRO、Megatron-LM），准备手撕C++或CUDA代码