微信小程序-大模型后台开发工程师-开发生态

优缺点分析

角色解读

• 向大模型训练架构师或AI系统专家方向发展，成为分布式训练领域的技术权威
• 可向技术管理岗转型，带领团队负责更复杂的AI基础设施或应用平台
• 在腾讯内部积累微信生态经验后，可跨团队拓展至其他AI业务或创业
• 负责大模型训练框架的开发和优化，支撑高效稳定的大规模训练任务，提升训练效率
• 参与大模型应用层面的开发，包括Agent应用、RAG实现与调优、数据合成、自动化测评等，推动大模型落地
• 与团队协作解决分布式训练中的性能瓶颈和技术难题，持续迭代优化系统
• 精通C/C++/Python，具备扎实的数据结构和算法功底，能高效处理复杂逻辑
• 有海量服务开发经验，熟悉分布式系统设计与优化，具备良好的工程素养
• 熟悉主流大模型训练框架Megatron/DeepSpeed，掌握分布式训练调优技术
• 具备快速学习能力和团队合作精神，对前沿技术保持热情并能独立探索

申请策略

• 深入了解微信小程序开发生态，思考大模型如何赋能微信业务
• 准备一个完整的项目案例，从问题背景、技术选型到实现效果，展示解决问题的能力
• 突出分布式系统和大规模训练项目经验，例如在集群上优化过训练性能或解决过扩展性问题
• 展示在Megatron/DeepSpeed等框架上的实践细节，包括调优策略和效果
• 强调算法优化和工程落地能力，如代码优化、数据管道设计等
• 补充大模型训练调优知识，学习最新的并行策略和显存优化技术
• 掌握Agent和RAG应用开发，了解LangChain、向量数据库等工具

面试指南

• 采用STAR法则：先说明任务背景和目标，再描述具体方案（包括技术选型和权衡），最后展示成果和数据
• 对于原理性问题，先给出定义，再对比差异，最后结合实践经验说明
• 如何优化分布式训练的通信效率？请举例说明
• 请比较Megatron和DeepSpeed的主要区别和适用场景
• 如何实现一个高效的RAG系统？从索引构建到检索回答
• 描述一次你遇到的分布式系统性能瓶颈，你是如何定位和解决的？
• 如果训练任务出现loss不收敛，你会如何排查？
• 复习分布式训练原理，包括数据并行、模型并行、流水线并行等，以及相关框架的配置