低精度量化/模型压缩算法工程师

优缺点分析

角色解读

• 在技术深度上，可向模型优化专家或AI芯片应用专家方向发展，成为端侧AI领域的权威
• 在业务广度上，可转向具身智能系统架构师，负责整体模型部署与优化策略
• 在管理路径上，可晋升为技术团队负责人，带领团队进行模型优化与部署工作
• 负责具身智能模型的轻量化压缩与低精度量化优化，包括模型蒸馏、剪枝、稀疏化等，以降低模型大小和推理成本
• 主导量化体系迭代，应用PTQ/QAT等量化技术，解决模型在动态输入和时序特征下的精度问题
• 对接推理框架与硬件平台，完成模型转换、算子适配和内存调度优化，实现端侧部署
• 针对机器人实时交互、导航、操控等场景进行专项性能优化，提升推理速度和能效
• 精通低精度量化算法，包括PTQ、QAT、混合精度量化，并能解决量化误差和精度掉点问题
• 熟悉模型压缩技术，如剪枝、蒸馏、稀疏化，并能结合具体场景进行优化
• 熟练使用PyTorch、TensorRT、ONNX等工具，熟悉NPU/RKNN等端侧推理部署流程
• 具备较强的实验设计和问题分析能力，能独立完成方案设计、实验验证和指标复盘

申请策略

• 了解智元机器人的产品和技术方向，在面试中展示对具身智能领域的热情和见解
• 准备一个完整的模型压缩量化项目案例，展示从方案设计到工程落地的能力
• 突出模型量化、压缩相关的项目经验，特别是PTQ/QAT、混合精度量化的实际应用案例
• 强调在端侧部署和推理优化方面的成果，如降低延迟、减少内存占用等量化数据
• 展示对具身智能或机器人模型优化的理解，如多模态、时序感知模型的优化经验
• 提及使用PyTorch、TensorRT、ONNX等工具链的熟练程度，以及NPU/RKNN部署经验
• 深入学习最新的量化算法，如FP8、INT4等，并了解其在具身智能模型中的应用
• 熟悉端侧推理框架，如TensorRT、RKNN，并掌握算子优化和内存调优技巧

面试指南

• 采用STAR法则：情境、任务、行动、结果，清晰描述项目背景、你的角色、具体行动和量化成果
• 强调问题分析和解决方案的思考过程，展示逻辑性和系统性
• 结合具体数据，如精度提升、延迟降低等，体现你的实际贡献
• 请介绍一个你主导的模型量化项目，如何平衡精度和性能？
• 在PTQ和QAT中，你如何选择？请举例说明
• 如何处理动态输入或时序特征带来的量化误差？
• 你如何优化推理延迟和显存占用？请分享具体方法
• 你了解哪些端侧推理框架？如何实现模型部署？