商业增值-机器学习平台引擎工程师

优缺点分析

角色解读

• 在机器学习系统工程领域持续深耕，成为推理优化、训练加速等方向的技术专家或架构师
• 凭借对业务的理解和平台化能力，成长为能影响业务技术选型的技术负责人（Tech Lead）
• 在AI基础设施领域积累影响力，参与制定公司或行业内的技术标准与最佳实践
• 构建和优化支持CTR和LLM模型的高性能机器学习推理平台，是算法模型落地业务的基础设施
• 针对具体模型结构（如Transformer）进行算子级和系统级的性能优化，充分挖掘GPU等硬件算力
• 建设和优化分布式训练框架，探索算法与工程协同设计的最佳实践，提升模型训练效率
• 将前沿的AI技术（如GenAI、LLM）与美团的本地商业场景结合，驱动业务创新与增长
• 精通C++/Python编程，具备扎实的系统级编程和多线程开发能力，熟悉RPC框架
• 深度理解深度学习框架（TensorFlow/PyTorch等）原理，并有CUDA编程及性能调优的实战经验
• 熟悉分布式系统，了解高速通信技术（NVLink, InfiniBand），并有大规模分布式训练调优经验
• 具备优秀的算法和数据结构基础，以及操作系统、计算机网络等底层知识

申请策略

• 深入研究美团的业务场景（如外卖推荐、广告排序），思考机器学习技术如何在这些场景中创造价值
• 在面试中，准备能体现你系统思维、性能优化意识和解决复杂问题能力的深度案例
• 展现你对技术的热情和对业务的理解，说明你为何对这个“商业增值”的平台方向感兴趣
• 重点突出在C++/Python高性能编程、CUDA编程及性能优化方面的项目经验与成果
• 详细描述参与或主导的深度学习框架应用、优化或分布式训练项目，量化其带来的性能提升
• 展示对操作系统、网络、分布式系统等底层知识的深入理解与实践
• 如有相关开源贡献或技术博客，可作为加分项展示
• 系统学习CUDA编程模型和GPU体系结构，进行实战练习，如编写高性能矩阵乘法、实现算子等

面试指南

• 使用STAR法则（情境、任务、行动、结果）来组织回答，清晰描述项目背景、你的职责、具体技术方案和最终量化的收益
• 回答系统设计类问题时，从“需求分析”、“架构设计”、“关键技术点”、“性能与可靠性考量”、“监控与迭代”等维度展开
• 对于开放性技术问题，展现你的思考框架和知识广度，可以结合业界的最佳实践进行论述，即使没有亲身经历也要体现原理认知
• 请介绍一个你做过的最具挑战性的机器学习系统性能优化项目，你做了哪些工作，效果如何？
• 如果让你为一个新的推荐模型设计一个高性能的推理服务，你会考虑哪些方面？如何评估和优化其吞吐与延迟？
• 在分布式训练中，你遇到过哪些通信瓶颈或负载不均衡的问题？是如何解决的？
• 对于Transformer结构的模型，从算子和系统层面可以有哪些性能优化思路？
• 你如何看待平台工程师与算法工程师在模型工程化过程中的协作与分工？