微信-推荐大模型后台开发工程师

优缺点分析

角色解读

• 从大模型基础设施开发工程师成长为系统架构专家，主导更大规模的AI底层平台建设
• 向AI工程化负责人方向发展，统筹算法与工程团队的协同落地与业务赋能
• 负责微信推荐大模型的分布式训练系统建设，优化数据并行、模型并行及流水线等底层技术
• 开发高性能推理系统，涉及编译技术、缓存及低精度训推等核心模块
• 与算法团队紧密协作，推动前沿推荐模型和算法的工程化与快速落地
• 扎实的计算机基础与底层系统探究能力，熟练掌握 C++ 和 Python 编程语言
• 深入理解 Tensorflow 或 Pytorch 等深度学习框架的底层运行原理
• 具备优秀的代码品味、独立思考能力以及分布式系统架构设计经验

申请策略

• 提前了解微信推荐业务的最新技术博客或开源项目，展现对腾讯技术文化的认同
• 准备好针对大模型系统底层优化的深度技术探讨，体现独立思考的品质
• 重点突出在分布式训练、推理系统优化或深度学习框架底层开发方面的实际项目经验
• 展示对 C++/Python 的熟练掌握程度，以及对 Tensorflow/Pytorch 运行原理的深入理解
• 强调解决复杂系统性能瓶颈的具体案例与量化成果
• 深入学习分布式系统架构设计、GPU 编程及大模型推理加速技术
• 关注业界最新的大模型训练框架的源码与优化策略，提升底层调优能力

面试指南

• 采用 STAR 法则回答项目经验，重点突出“底层细节”和“性能优化”的思考过程与最终收益
• 对于框架原理问题，从内存管理、计算图优化、算子调度等底层维度进行拆解分析
• 请详细描述你参与过的分布式训练系统中，数据并行与模型并行是如何设计与优化的？
• 在推理系统建设中，你是如何优化缓存策略或实现低精度训推的？
• 请谈谈你对 Pytorch 或 Tensorflow 底层计算图执行机制的理解
• 面对大规模稀疏动态 Embedding，你在工程实现上遇到过哪些性能瓶颈，如何解决的？
• 复习 C++ 高级特性、操作系统底层原理及计算机网络知识
• 深入阅读主流大模型训练或推理框架的源码，准备具体的性能调优案例