面向真武AI芯片的深度学习编译与大模型推理引擎优化-阿里星

优缺点分析

角色解读

• 纵向可成长为AI芯片编译与推理系统领域的顶尖技术专家，在MLSys、ASPLOS等系统顶会发表开创性成果
• 横向可拓展至芯片架构设计、AI基础设施全栈研发，成为软硬件协同设计的复合型领军人才
• 构建面向自研AI芯片的深度学习编译技术栈，开发涵盖计算图优化、算子融合等核心能力的芯片编译器
• 主导大模型推理引擎的设计与开发，在PD分离、KV Cache管理、显存优化等前沿技术上实现突破，提升大模型在自研芯片上的推理性能
• 推动推理引擎的产品化落地，深入业务场景进行端到端调优，并基于模型负载特征反向推动芯片架构迭代，实现软硬件协同设计
• 扎实的计算机体系结构与编译原理基础，精通C/C++和Python，深入理解深度学习框架底层实现
• 熟悉TVM、MLIR、XLA等主流编译框架，具备分布式推理或大模型推理优化实践经验
• 了解模型量化、显存优化、KV Cache、FlashAttention等前沿大模型推理技术

申请策略

• 提前了解平头哥真武芯片的架构特点及阿里在大模型领域的布局，在面试中展现对软硬件协同设计的思考
• 重点突出在编译优化、高性能计算或深度学习系统方向的研究经验与项目成果
• 详细列出在MLSys、CGO、ASPLOS等系统顶会发表的论文，或在TVM、MLIR、vLLM等知名开源项目中的实质性贡献
• 展示对C/C++、Python的熟练掌握程度，以及对深度学习框架底层实现的深入理解
• 深入学习TVM、MLIR等主流编译框架的源码与实现机制，尝试参与开源社区贡献
• 系统学习大模型推理优化技术，如FlashAttention、PagedAttention、模型量化等，并动手实现相关Kernel

面试指南

• STAR法则：针对项目经验，清晰描述背景、任务、行动和结果，重点突出性能提升的具体指标（如吞吐量提升、延迟降低）
• 底层原理剖析：在回答技术问题时，从计算机体系结构（如内存层级、缓存一致性、指令集）和编译原理角度进行深度剖析
• 请详细介绍你在编译优化或大模型推理引擎方面做过的最深入的项目，遇到了哪些性能瓶颈，是如何解决的？
• 在TVM或MLIR等编译框架中，计算图优化和算子融合的具体实现原理是什么？
• 针对大模型推理中的KV Cache管理，有哪些主流的优化策略？如何与显存优化结合？
• 如果模型负载特征发生变化，你会如何反向推动芯片架构的迭代设计？
• 复习计算机体系结构、编译原理的核心知识，熟悉主流深度学习编译框架（如TVM、MLIR）的架构设计
• 阅读近期MLSys、ASPLOS等顶会关于大模型推理优化、编译器设计的最新论文，了解业界SOTA方案