AI性能优化专家-火山引擎

优缺点分析

角色解读

• 技术深耕：成为AI基础设施性能优化领域的专家，主导大规模集群优化方案
• 架构演进：转向AI Infra架构师角色，设计下一代高性能计算平台
• 管理路线：带领性能优化团队，负责核心项目的技术决策和团队建设
• 深入分析AI Infra性能瓶颈，构建性能标尺和竞争力模型，为优化提供数据驱动依据
• 针对云上AIGC场景，进行训练和推理的底层优化，提升吞吐量并降低延迟
• 引入并优化国产AI加速器，与硬件协同工作，充分发挥异构计算潜力
• 精通C/C++、Python、Go，具备分布式系统开发调试能力
• 深入理解LLM/CV/NLP等AI业务场景，熟悉主流深度学习框架（如PyTorch、TensorFlow）的实现
• 掌握异构计算、网络、存储的性能分析工具，有软硬协同优化经验

申请策略

• 准备一份详细的性能优化案例集，说明问题、方法、效果和思考过程
• 了解火山引擎IaaS产品线和AI Infra整体架构，在面试中展现业务理解
• 突出分布式系统性能优化的项目经验，尤其是涉及大量数据传输或异构计算的部分
• 强调对AI框架（PyTorch/TensorFlow）底层实现的掌握，如自定义算子、内存优化等
• 展示在LLM训练或推理优化方面的具体成果，例如显存节省、吞吐提升等量化指标
• 若缺乏国产加速器经验，可提前了解华为昇腾、寒武纪等生态，并动手实践
• 补充TensorRT/CUTLASS等底层加速库的使用经验，可通过开源项目练习

面试指南

• 针对性能优化问题，先明确场景和瓶颈指标（吞吐、延迟、显存等），再通过性能分析工具定位根因，最后给出具体优化方案并验证效果
• 对于框架底层问题，从计算图、算子实现、内存管理、通信等多维度展开
• 注重软硬协同，考虑硬件特性如Tensor Core、共享内存等
• 请描述一次你优化分布式训练性能的经历，遇到了哪些瓶颈，如何解决的？
• 谈谈你对LLM推理加速的理解，有哪些常用技术（如量化、剪枝、KV cache优化）？
• 如何分析一个GPU训练任务中的性能瓶颈？请举例说明你常用的工具和方法
• 对于国产AI加速卡（如昇腾），你认为在软件生态方面还需要哪些改进？
• 在PyTorch中，如何实现一个自定义算子并对其性能进行优化？