【B-UP】模型工程开发工程师-搜推（校招）

优缺点分析

角色解读

• 可在模型工程方向深入，成为分布式训练或推理优化专家，主导下一代推荐系统架构
• 可横向拓展至搜推算法方向，理解业务模型并推动算法与工程的协同创新
• 技术管理路径：从个人贡献者成长为技术负责人，带领团队解决复杂工程问题
• 设计和演进大规模离散DNN模型的训练平台与推理框架，提升训练效率和在线服务性能
• 参与多目标搜推模型的分布式训练框架设计，确保模型能够高效稳定地训练
• 优化GPU多卡/多机训练和推理的可扩展性，支持超长用户行为序列建模和参数规模扩展
• 突破超大Embedding表的存储、更新和检索技术瓶颈，优化存储和计算效率
• 扎实的C++/Python编程功底，熟练掌握至少一种深度学习框架（PyTorch/TensorFlow）的底层原理
• 深入理解分布式训练和高性能推理技术，包括GPU异构计算和编译优化工具（TVM、TensorRT、XLA等）
• 有大规模搜广推模型工程经验，熟悉千亿参数DNN模型和超长序列建模的挑战与解决方案
• 具备系统设计能力，能设计毫秒级延迟、高QPS的在线推理服务架构

申请策略

• 在面试中展现对推荐系统全链路（数据、特征、模型、训练、推理）的理解，而不仅仅是单个组件
• 关注B站技术博客和开源项目，了解团队的技术栈和方向，准备有针对性的问题
• 重点突出在搜广推模型训练或推理方面的项目经验，尤其是大规模分布式训练或高性能推理优化相关
• 强调C++/Python编程能力和系统设计能力，可附上GitHub或技术博客链接
• 如果有GPU编程、CUDA、TensorRT等相关经验，务必详细描述
• 展示对深度学习框架底层原理的理解，如PyTorch的分布式数据并行或模型并行
• 提前系统学习分布式训练框架（如Horovod、DeepSpeed）和推理优化工具（TensorRT、ONNX Runtime）
• 动手实践推荐系统的模型工程，例如复现一个简单的DNN推荐模型并优化其训练和推理性能

面试指南

• 使用STAR（Situation-Task-Action-Result）方法描述项目经验，突出技术难点和你的贡献
• 对于系统设计问题，先明确约束（延迟、QPS、数据量），然后分模块阐述架构（如训练框架、推理引擎、存储层），最后讨论可扩展性和容错
• 对于原理性问题，先给出核心概念，然后结合具体工具或框架分析优缺点，最后联系实际场景
• 请描述你在之前项目中如何设计和优化大规模DNN模型的分布式训练流程？
• 面对高QPS推荐请求，如何设计在线推理服务以保证毫秒级延迟？
• 解释一下TVM或TensorRT在模型推理中的作用，并举例如何优化一个模型
• 超大Embedding表在分布式训练中会遇到哪些挑战？如何解决？
• 如何评估和提升推荐系统的内容分发效率？从工程角度如何支撑？