机器学习平台专家/架构师（深圳/北京）

优缺点分析

角色解读

• 技术纵深发展：成为AI基础设施或分布式系统领域的顶级专家
• 横向拓展：涉及更多AI平台组件，如推理引擎、数据管道，成为全栈AI架构师
• 管理方向：未来可带领关键技术团队，负责平台技术战略规划
• 负责腾讯混元机器学习平台的核心设计与开发，专注大规模训练系统性能优化
• 跟踪AIGC前沿技术，优化平台易用性和LLMOps能力，降低大模型研发门槛
• 参与技术方案演进和架构升级，解决分布式训练中的关键问题
• 熟练掌握TensorFlow、PyTorch、deepSpeed等框架，具备模型训练或服务优化经验
• 精通Java/Go/Python之一，有扎实的软件工程能力
• 具备主人翁意识，能主动推动项目，并擅长团队协作

申请策略

• 在简历和面试中强调对AIGC趋势的理解，以及如何将其落地到平台建设
• 提前了解腾讯混元的技术栈和开源项目，展现深入的技术热情
• 突出大规模分布式训练优化项目经验，量化性能提升指标
• 展示对TensorFlow/PyTorch等框架的底层理解，如自定义算子、显存优化
• 强调自己的软件工程能力，包括系统设计、代码质量和团队协作
• 深入学习deepSpeed、Megatron等分布式训练框架的源码
• 补充LLMOps相关工具链知识，如MLflow、Kubeflow
• 了解GPU架构和CUDA编程，提升底层优化能力

面试指南

• 对于优化案例：采用STAR原则，先说明背景和目标，然后分析瓶颈（通信、计算、IO），最后展示具体优化手段和量化效果
• 对于系统设计问题：从需求出发，讨论数据流、通信拓扑、容错和弹性伸缩，并给出权衡
• 对于趋势理解：结合业界最新论文或开源项目，提出自己的见解，并联系到实际平台改进方向
• 请描述一次大规模模型训练性能优化的具体案例，你如何定位瓶颈并解决？
• 如何设计一个支持多机多卡训练的分布式架构？需要考虑哪些关键问题？
• 在LLMOps中，你认为最核心的挑战是什么？如何提升平台易用性？
• 你对AIGC领域的最新进展如Diffusion Models、RLHF等有什么了解？如何应用到平台？
• 如果让你设计一个训练平台的任务调度系统，你会考虑哪些因素？