资深大模型训练推理算子高性能优化工程师-Data AML

优缺点分析

角色解读

• 技术专家路线：在算子优化领域深耕，成为GPU/NPU计算优化领域的权威
• 架构师路线：参与AI芯片协同设计或AI编译器开发，影响更广泛的生态系统
• 管理路线：带领优化团队，负责大规模AI系统的整体性能
• 负责多模态生成与理解模型的训练和推理核心算子（如Attention、卷积、矩阵乘）的高性能优化，提升计算效率
• 深入底层硬件架构（GPU/NPU），使用CUDA/AscendC等编程语言实现算子加速
• 支持字节跳动旗下抖音、剪映等产品的AI功能落地，解决实际算力瓶颈
• 探索低比特量化、稀疏化等前沿优化技术，以及编译优化（TVM/MLIR）以进一步提升性能
• 精通CUDA/AscendC/BangC中的至少一种，熟悉GPU/NPU体系结构
• 深入理解计算机体系结构，有AI工程系统优化经验
• 熟悉常见计算密集型算子（Flash Attention, Conv2d, GEMM等）的实现与加速方法
• 了解AIGC、多模态模型原理，具备并行训练或推理优化经验更佳

申请策略

• 在简历和面试中展示对高性能计算的热爱和动手能力，可以带上自己的优化项目代码
• 了解字节跳动在AI基础设施方面的公开资料（如ByteMLPerf），体现对公司的研究
• 突出GPU/NPU相关的项目经验，尤其是算子优化或高性能计算方面的成果（如加速比、延迟降低等量化指标）
• 强调对CUDA/AscendC等语言的熟练程度，以及熟悉Flash Attention等常用算子的实现细节
• 如果有模型并行训练或推理优化经验，务必重点描述
• 展示对底层体系结构的理解，如缓存、内存带宽、计算单元等
• 系统学习CUDA编程和GPU体系结构，可参考《CUDA C++ Programming Guide》和《Professional CUDA C Programming》
• 动手实现一个Attention或Conv算子的优化版本，对比原生性能

面试指南

• 对于技术问题，采用“问题-分析-方案-验证”的结构，先明确目标，再分析瓶颈（计算/访存），接着提出优化策略（如tiling、向量化、共享内存等），最后用实验结果证明
• 对于项目经验，使用STAR法则（Situation, Task, Action, Result），重点突出你的贡献和量化成果
• 如何优化一个Flash Attention算子？请从算法和硬件层面分析
• 解释SIMT（Single Instruction Multiple Thread）和指令级并行、线程级并行的区别
• 描述一个你曾经做过的算子优化项目，包括遇到的瓶颈和如何解决的
• 什么是warp divergence？如何避免？
• 了解过AscendC/BangC吗？它们与CUDA的主要异同是什么？
• 复习计算机体系结构基础知识，如缓存层级、内存带宽、延迟隐藏等