AI模型压缩工程师-福州

优缺点分析

角色解读

• 成长为AI模型优化专家，深入掌握模型压缩、端侧部署等前沿技术
• 向算法架构师或技术负责人发展，主导AI模型在芯片平台的整体优化策略
• 可横向拓展至自动驾驶、机器人、边缘计算等高增长领域的AI部署岗位
• 研发并落地AI模型压缩算法，包括量化、剪枝、蒸馏、稀疏化等，将大模型或CV模型适配到芯片平台
• 针对不同部署场景（如端侧、边缘侧）的性能和资源约束，设计优化方案，平衡精度、速度、内存和功耗
• 与算法和工程团队协作，使用C++/CUDA/ONNX/TensorRT等工具链完成压缩模型的推理优化和工程化部署
• 精通深度学习基础理论，熟练使用PyTorch或TensorFlow等框架，能独立训练和优化模型
• 掌握至少两种模型压缩核心技术（量化、剪枝、蒸馏、稀疏化），有实际项目经验
• 扎实的编程能力，熟悉Python和C++，了解CUDA编程和常见模型部署工具链（ONNX、TensorRT、RKNN等）

申请策略

• 准备一个完整的端到端模型压缩案例，从模型选择、压缩到部署，能够在面试中清晰讲解技术决策和结果
• 了解瑞芯微的芯片系列（如RK3588、RK3568）及其AI加速器（NPU）的特性，体现对业务的理解
• 重点突出模型压缩相关项目，具体说明采用的压缩技术（如8-bit量化、结构化剪枝）及其效果（模型大小、推理速度变化）
• 强调在PyTorch/TensorFlow下独立完成模型训练和优化的经历，附上GitHub链接或论文
• 如有端侧部署经验（如ARM、NPU、Rockchip平台），务必详细描述
• 补充C++和CUDA编程能力，特别是对TensorRT和ONNX Runtime的使用
• 阅读并复现顶会（如ICLR、NeurIPS）最新模型压缩论文，熟悉前沿方法
• 动手搭建一个简单的压缩流程（如使用PyTorch量化工具箱对ResNet量化），积累实践经验

面试指南

• 对于技术原理问题，先给出定义，再结合具体方法（如对称/非对称量化、PTQ/QAT）以及实际经验说明
• 对于项目描述，使用STAR法则：背景-任务-行动-结果，突出你的贡献和量化指标
• 对于开放设计问题，先分析约束条件（芯片内存、算力、延迟），再提出多方案对比，并权衡取舍
• 请解释量化的基本原理，以及如何减少量化带来的精度损失？
• 剪枝和蒸馏各自的优缺点是什么？在什么场景下你会选择哪种方法？
• 描述一个你参与过的模型压缩项目，包括技术方案、遇到的挑战和最终效果
• 如果要将一个LLM部署到端侧芯片，你会如何设计压缩策略？
• 你对定点推理和浮点推理的理解？在芯片上如何实现高效定点运算？