Machine Learning Performance Engineer

优缺点分析

角色解读

• 技术专家路径：成为公司内AI基础设施和性能优化领域的权威，主导技术选型和架构设计
• 跨领域领导路径：深入理解交易业务后，可向量化开发或AI策略研究等方向拓展，担任技术桥梁角色
• 行业影响力路径：通过解决金融科技领域特有的高性能计算挑战，积累经验，成为该细分领域的顶尖人才
• 设计和实现用于训练和部署深度学习模型的高性能、可扩展的软件流水线
• 深入分析和优化开源深度学习框架（如PyTorch, JAX）的核心代码，以提升计算效率
• 与AI研究人员合作，将前沿算法高效地集成到公司的交易基础设施中
• 诊断并解决从单GPU到大规模分布式集群环境中的系统性能瓶颈
• 精通CUDA编程，能够利用Tensor Cores、协作组等高级特性进行底层GPU性能调优
• 深入理解主流深度学习框架（PyTorch, JAX, TensorFlow）的内部架构和计算图执行机制
• 扎实的C++和Python编程能力，用于开发高性能核心组件和工具脚本
• 对计算机体系结构（如内存层次结构、并行计算）有深刻理解，以指导系统级优化

申请策略

• 在申请前，尝试了解Optiver作为做市商的业务模式，思考AI性能如何为其创造价值，这能在面试中展现你的业务洞察力
• 准备讨论你过去如何与研究人员合作，将他们的模型想法高效工程化的具体案例
• 重点展示与CUDA编程、深度学习框架内部机制优化相关的项目经验，用具体指标（如速度提升百分比）量化成果
• 详细描述参与过的开源项目贡献，特别是与PyTorch、JAX、TensorFlow或其生态工具相关的代码提交
• 突出在大规模分布式训练系统或高性能计算（HPC）环境中的设计和调优经验
• 如有金融科技或交易系统相关经验，务必明确写出，以证明跨领域理解能力
• 如果对JAX生态不熟，可提前学习XLA编译器和Flax库，并尝试进行一些性能实验
• 深入研究Triton等新兴GPU编程语言或工具，了解其在特定算子优化上的优势

面试指南

• 对于技术问题，采用“情境-任务-行动-结果”（STAR）框架，并专注于你采取的具体技术行动和最终的量化影响
• 对于系统设计问题，从数据流、计算图、硬件资源利用和潜在瓶颈等多个层次进行结构化分析
• 在比较不同技术时，结合具体的使用场景、性能特性和易用性进行平衡讨论，避免绝对化的好坏判断
• 请描述一次你深入挖掘PyTorch或TensorFlow源码以解决一个具体性能问题的经历
• 如何为一个新的Transformer模型设计并实现一个高效的训练流水线？你会考虑哪些性能瓶颈？
• 解释一下CUDA中协作组（Cooperative Groups）与传统线程块同步的区别，并给出一个适用场景
• 如果发现分布式训练中某个节点的GPU利用率远低于其他节点，你的诊断思路是什么？
• 谈谈你对JAX和XLA的理解