AI异构计算优化专家-Seed

优缺点分析

角色解读

• 从专项优化专家发展为AI基础设施架构师，主导硬件选型和系统设计
• 可转向AI编译器或芯片设计方向，深入软硬件协同创新
• 在团队内成长为技术负责人，带领小组攻克关键性能瓶颈
• 评估和选型异构计算芯片，建立评估体系和负载模型，为业务提供最优硬件方案
• 针对AI大模型的推理和训练进行深度优化，包括算子开发、显存优化、通信优化等
• 研究前沿软硬件结合技术，如稀疏计算、存内计算，推动AI基础设施升级
• 精通C/C++和Python，具备扎实的计算机科学基础和算法能力
• 熟练使用PyTorch或TensorFlow等框架，了解内部实现机制
• 熟悉并行计算架构（如GPU、NPU），掌握CUDA或类似编程模型
• 了解AI编译器（XLA、TVM、MLIR）和模型优化技术（剪枝、量化）

申请策略

• 在简历和面试中体现对大模型推理/训练瓶颈的分析能力，而非仅罗列工具
• 关注字节跳动Seed团队的技术分享和开源项目，了解其技术栈方向
• 突出异构计算或GPU优化项目经验，量化性能提升（如吞吐提升X倍）
• 展示对深度学习框架底层的理解，例如自定义算子、通信优化等
• 若有编译器或芯片相关经验（如TVM、MLIR、CUDA），重点强调
• 深入学习CUDA编程和GPU架构，尝试实现高性能算子
• 了解主流AI编译器（如MLIR、Triton）的编译流程和优化原理
• 动手复现模型剪枝、量化等优化方法，理解其对推理速度的影响

面试指南

• 对于优化类问题，采用'问题识别->方案设计->实施->量化结果'的结构，突出分析过程和权衡
• 对于架构类问题，先阐述基本原理，再结合实际案例说明优缺点，体现深度理解
• 对于评估类问题，建立系统性评估框架，从算力、带宽、显存、生态等维度分析
• 请介绍一个你优化过的AI模型推理/训练项目，你做了哪些优化，效果如何？
• CUDA中的warp和thread如何调度？如何避免bank conflict？
• 解释Transformer模型在GPU上的推理瓶颈，你会如何优化？
• MLIR和TVM有什么区别？你用过哪些编译器优化pass？
• 如何评估一款新的AI芯片是否适合大模型训练？需要考虑哪些指标？