微信-推荐大模型后台开发工程师

优缺点分析

角色解读

• 纵向可深耕大模型底层系统架构，成为推荐系统或AI Infra领域的技术专家
• 横向可拓展至更广泛的AI工程化落地、大模型应用架构或技术团队管理方向
• 负责推荐领域大模型的分布式训练系统建设，优化数据/模型并行、流水线等底层技术
• 搭建和优化推理系统，涉及编译技术、缓存、低精度计算及负载均衡等
• 与算法团队紧密协作，将前沿的推荐模型和算法高效落地到实际业务中
• 扎实的计算机基础，精通 C++ 和 Python 至少两种编程语言
• 深入理解 TensorFlow 或 PyTorch 等深度学习框架的底层运行原理
• 具备分布式系统架构设计能力，熟悉大规模稀疏动态 Embedding、模型并行等技术

申请策略

• 提前了解推荐业务的最新技术博客或公开分享，展现对业务场景和技术痛点的深刻理解
• 准备好在面试中深入探讨复杂系统的底层细节，展现探究底层细节的特质
• 重点突出在分布式系统、高性能计算或深度学习框架底层优化方面的实际项目经验
• 展示对 C++/Python 的熟练掌握程度，以及在深度学习框架上的源码级理解或二次开发经验
• 若有推荐系统、大模型训练/推理加速的相关落地成果，务必详细量化指标
• 深入研读分布式训练框架和推理引擎的源码与核心机制
• 补充计算机体系结构、CUDA 编程及编译器基础知识，提升底层优化能力

面试指南

• STAR法则：针对系统设计或优化问题，按照情境、任务、行动、结果的逻辑清晰阐述，重点突出行动中的技术细节和思考过程
• 原理+实践+收益：回答技术原理时，先讲清楚底层机制，再结合具体项目说明如何应用，最后用量化数据证明收益
• 请详细描述数据并行和模型并行在分布式训练中的区别，以及在实际系统中如何结合使用？
• 在推理系统中，你是如何设计和优化缓存机制或负载均衡策略的？
• 请谈谈你对大规模稀疏动态 Embedding 的理解，以及在工程实现上有哪些难点和解决方案？
• 如果模型推理延迟突然增加，你会从哪些维度进行排查和优化？
• 请分享一个你深入探究复杂系统底层细节并解决疑难问题的具体案例
• 复习并深入理解 C++ 内存管理、多线程并发，以及 Python 的底层机制