点评技术部-机器学习训推框架工程师

优缺点分析

角色解读

• 可从训推框架工程师成长为分布式训练、推理引擎或算子优化方向的资深技术专家
• 随着对模型与系统协同设计的理解加深，可承担架构设计和技术路线选择，负责更大范围的核心模块
• 若具备团队管理和项目统筹能力，也可向技术管理或平台负责人方向发展
• 建设一体化训练推理框架，支撑大规模搜推模型和生成式模型的训练与在线推理，持续提升性能、稳定性与易用性
• 优化分布式训练中的数据读取、Embedding访问、GPU计算、通信和显存等瓶颈，提高吞吐与资源效率
• 与算法团队协同设计模型与系统，优化算子、模型执行和并行策略，在模型效果、训练成本和推理时延之间取得平衡
• 建设性能分析、故障诊断与恢复、训推一致性验证等能力，保障框架稳定运行并推动方案规模化落地
• 扎实的Python与C++编程和系统基础，具备代码设计、调试与性能分析能力
• 深入理解至少一种主流深度学习框架，熟悉自动求导、计算图、算子执行、混合精度和分布式执行等机制
• 在训练框架、推理引擎、算子或框架底层优化中至少一个方向有深入实践，能定位复杂性能问题并验证优化收益
• 具备技术方案设计、项目推进和跨团队协作能力，能够独立负责关键模块并对结果负责

申请策略

• 投递前了解美团核心本地商业、点评搜索推荐和生成式模型的应用场景，准备与业务结合的技术案例
• 面试中重点展示定位复杂性能问题、验证优化收益和保障正确性的完整闭环，而不仅是单点技术点
• 突出Python/C++系统开发与性能优化经历，量化说明吞吐、时延、显存或资源效率的改善
• 展示对主流深度学习框架底层机制的理解，如计算图、自动求导、算子执行、混合精度或分布式训练
• 重点呈现训练框架、推理引擎、算子优化或框架底层优化中至少一个方向的深入实践
• 如果有跨团队协作、关键模块负责或技术方案落地经验，建议写明项目背景、个人职责和结果
• 系统复习分布式训练与推理引擎的关键机制，包括数据并行、模型并行、通信优化、显存管理和算子融合
• 加强GPU性能分析与调优能力，熟悉Nsight、profiling工具和常见瓶颈定位方法

面试指南

• 用“背景-问题-分析-方案-结果”的结构回答项目题，明确个人职责和可量化收益
• 面对系统设计题，先拆解训练/推理链路和瓶颈层次，再给出优化方案、权衡取舍与验证方法
• 面对协作题，强调理解算法目标、建立共同指标、分阶段验证和风险兜底
• 请介绍你参与过的一个训练框架或推理引擎优化项目，如何定位瓶颈并验证收益？
• 分布式训练中数据读取、Embedding访问、GPU计算、通信和显存瓶颈分别如何分析和优化？
• 你如何理解自动求导、计算图和算子执行？混合精度训练可能带来哪些问题？
• 如何与算法团队协同设计模型与系统，在模型效果、训练成本和推理时延之间做权衡？
• 如何建设训推一致性验证、故障诊断与恢复能力？