混元大模型平台研发工程师（北京/深圳）

优缺点分析

角色解读

• 在技术深度上，可以成长为分布式训练、LLMOps平台架构等细分领域的专家，主导核心系统的架构演进
• 在业务广度上，可以深入理解大模型从训练到部署的全链路，成为连接算法与工程的桥梁型人才
• 在腾讯内部，有机会参与混元大模型这一核心战略项目的长期建设，获得广阔的职业发展空间和影响力
• 负责混元大模型平台的架构设计与核心开发，聚焦训练、推理、评估、数据等关键场景，解决大规模分布式训练和性能优化问题
• 持续迭代LLMOps工程体系，将业界前沿的AIGC和大模型工程化技术落地到内部平台，提升平台的易用性、自动化和标准化水平
• 与算法、数据、产品等多个团队紧密协作，推动大模型从预训练到部署的全链路工程优化，降低大模型研发与落地的门槛
• 扎实的AI工程化功底，熟练掌握PyTorch、TensorFlow、DeepSpeed等主流深度学习框架，具备分布式训练和模型服务化的实战经验
• 精通Python、Go、Java中至少一种开发语言，具备优秀的软件架构设计和复杂系统开发能力
• 具备极强的项目Owner意识和自驱力，能够主动发现并解决平台性能、架构、流程中的痛点，并推动跨团队协作落地

申请策略

• 在申请材料中表达对混元大模型和LLMOps方向的浓厚兴趣，展示你对大模型工程化趋势的独到见解
• 可以提前了解腾讯混元大模型的技术公开资料和行业动态，在面试中展现你对业务和技术的深入思考
• 重点突出大模型训练优化、分布式训练、模型服务化等真实落地项目，用具体数据和指标（如训练吞吐提升、稳定性提升）量化成果
• 详细描述在复杂系统架构设计中的角色和贡献，体现独立完成核心模块设计与开发的能力
• 强调使用PyTorch、DeepSpeed等框架的深度经验，以及Python/Go/Java等语言的工程实践
• 系统梳理LLMOps相关知识体系，包括数据流水线、训练调度、模型评估、部署推理等环节，形成全局认知
• 深入学习DeepSpeed、Megatron等分布式训练框架的源码和原理，提升对大规模训练底层机制的理解
• 补充学习Kubernetes、容器化等云原生技术，这是现代大模型平台基础设施的重要组成部分

面试指南

• 对于项目经验类问题，采用STAR法则（情境-任务-行动-结果），清晰阐述项目背景、个人职责、技术方案和量化成果
• 对于系统设计类问题，先明确需求和约束，再给出整体架构，最后深入讨论关键模块和潜在瓶颈，体现结构化思维
• 对于技术原理类问题，先解释核心概念，再结合自己的实践经验举例说明，最后可以提出自己的思考和优化建议
• 请详细描述你参与过的一个大规模分布式训练项目，包括架构设计、遇到的挑战和最终优化效果
• DeepSpeed的ZeRO技术原理是什么？在训练千亿级模型时，你会如何设计数据并行、模型并行和流水线并行的策略？
• 如何设计和实现一个高可用、易扩展的LLMOps平台？请谈谈你对平台模块划分和API设计的思路
• 在训练过程中遇到模型loss不收敛或训练中断，你会如何排查和定位问题？
• 如何评估和优化大模型推理服务的性能？请谈谈你对模型量化、算子融合等优化手段的理解