高性能计算专家

优缺点分析

角色解读

• 向AI芯片架构师或系统优化专家方向深入发展
• 可晋升为技术团队负责人，带领端侧AI优化团队
• 横向扩展到其他硬件加速领域，如自动驾驶、边缘计算
• 负责端侧大模型的工程优化，建立硬件能力量化分析方法，协同业务进行性能功耗调优
• 分析行业硬件选型的优劣势，为平台硬件选型和算法硬化定制提供改善建议
• 探索并行解码等全新计算加速方法，推动技术落地
• 精通SoC和AI芯片架构，熟悉大模型算法结构设计
• 掌握AI编译器开发和优化，如LLVM、TVM，以及并行编程（CUDA/OpenCL/OpenMP）
• 熟悉计算机体系结构、算法与数据结构、内存管理和进程管理机制

申请策略

• 准备一个端到端的端侧模型部署案例，展示从选型到优化的完整思路
• 关注vivo在AI方面的公开技术博客或论文，在面试中展现对公司的了解
• 突出端侧模型优化项目经验，如模型压缩、量化、剪枝等具体成果
• 强调AI编译器开发经验，如基于TVM/LLVM的优化案例
• 体现对芯片架构的理解，如SoC内存带宽、计算单元利用率等分析
• 补充最新的大模型推理加速技术，如FlashAttention、Speculative Decoding
• 熟悉移动端AI框架，如TensorFlow Lite、ONNX Runtime Mobile
• 了解硬件性能分析工具，如NVIDIA Nsight、ARM Streamline

面试指南

• 对于优化问题，从计算、内存、通信三个维度展开，结合具体量化数据说明
• 对于芯片评估，从理论峰值（算力、带宽）和实际应用benchmark两方面回答
• 对于编译器优化，从图优化和算子优化两个层面，结合TVM的调度和自动调优策略
• 如何优化大语言模型在手机端的推理速度？请从模型、算法、编译、硬件等层面分析
• 请介绍TVM的工作原理，你如何利用它进行算子优化？
• 如何评估一款AI芯片的性能？你会关注哪些指标？
• 请举例说明你在CUDA/OpenCL中处理内存访问优化的经验
• 大模型在端侧部署时，如何处理内存限制问题？