端侧Agent模型算法工程师-灵犀业务部

优缺点分析

角色解读

• 技术深度：从模型训练到端侧部署全栈能力，成为端侧AI专家
• 产品视野：深度参与爆款机器人产品的AI迭代，积累产品定义经验
• 职业发展：可向算法负责人、技术专家或机器人AI方向架构师进阶
• 搭建端侧AI模型的数据处理流水线，包括数据采集、清洗、标注和训练闭环
• 训练并优化端侧LLM（通过蒸馏从大模型迁移能力）和BERT等NLU模型，提升意图识别和槽位填充效果
• 对模型进行蒸馏、剪枝、量化（INT8/INT4）压缩，在精度和端侧算力约束间取得平衡
• （加分项）将压缩后的模型部署到Jetson等边缘设备，并优化推理延迟和稳定性
• 扎实的机器学习/深度学习基础，理解Transformer、BERT、LLM原理
• 熟练Python和至少一种深度学习框架（如PyTorch）
• 掌握模型压缩技术（蒸馏、量化、剪枝）并有项目或竞赛实践
• 了解端侧部署工具链（如TensorRT、ONNX Runtime、llama.cpp等）者优先

申请策略

• 面试前准备一个端侧模型优化的案例，从问题背景、方法、结果到总结，展示全流程思考
• 关注智元机器人灵犀产品的技术路线，了解其机器人AI架构，体现对业务的兴趣
• 突出端侧模型部署或模型压缩相关的项目/竞赛经历，具体说明使用的工具和优化效果
• 强调独立完成训练pipeline的经验，展示数据处理到模型调优的完整闭环
• 列出掌握的框架和工具（如PyTorch、TensorRT、ONNX等），体现技术广度
• 补充端侧推理引擎的实践，如用TensorRT或ONNX Runtime部署一个小模型
• 深入学习模型量化和蒸馏技术，动手复现经典论文
• 了解机器人操作系统（ROS）或边缘设备（如Jetson）的基本知识

面试指南

• 对于技术问题，先给出方法框架（如量化、蒸馏、剪枝），然后结合自己的实践具体说明
• 遇到困难时，描述问题背景、分析过程、尝试的方案及最终结果，展现问题解决能力
• 对于开放性问题，结构化回答：先说核心原则，再按步骤展开，最后总结关键点
• 请详细讲讲你做过的一个模型压缩项目，用了哪些技术，遇到了什么困难，如何解决？
• 端侧部署时，如何在模型精度和推理速度之间做取舍？你有哪些实践经验？
• 如何设计一个数据pipeline来支持端侧BERT模型的持续训练？
• 你对LLM蒸馏有什么理解？请比较一下蒸馏和量化的适用场景
• 如果模型在Jetson上推理延迟过高，你会从哪些角度进行优化？