端侧AI infra工程师

优缺点分析

角色解读

• 向端侧AI架构师或算法专家发展，深入模型部署与推理优化
• 横向扩展至机器人全栈算法，成为具身智能领域的技术专家
• 可转向AI平台或基础设施方向，负责大规模AI系统设计
• 优化端侧模型的微调与推理流程，提升部署效率
• 将算法落地到实际机器人业务场景，根据反馈迭代改进
• 对接模型优化、部署框架和应用接口，确保算法顺利交付
• 跟进AI前沿动态，持续优化内部算法和部署方案
• 扎实的机器学习基础，熟悉有监督/无监督算法原理
• 熟练使用PyTorch或Jax进行模型训练和调优
• 掌握训练优化手段如torch profiler、compile、trition等
• 了解模型优化框架如transformer engine、model opt、torchao

申请策略

• 在面试中准备一个完整的端侧模型部署案例，从训练到推理优化
• 关注公司产品动态，提前了解其机器人平台和技术栈
• 突出端侧模型优化或部署的项目经验，如量化、剪枝、蒸馏等
• 展示对PyTorch/Jax框架的深入理解，包括训练调优和性能分析
• 提及参与开源项目或相关竞赛，体现对前沿技术的关注
• 补充学习Lerobot、Gr00t等具身框架，动手复现训练流程
• 熟悉torch profiler和CUDA优化技巧，提升对性能瓶颈的敏感度

面试指南

• STAR法则：情境-任务-行动-结果，清晰描述技术问题与解决过程
• 对比方法：列举不同优化方案的优缺点，展示系统性思维
• 从数据到部署：阐述完整流程，体现全链路视角
• 介绍你用过哪些模型优化手段？如何量化或剪枝？
• 如何优化端侧模型的推理速度？具体步骤是什么？
• 遇到过训练或部署中的性能问题吗？如何调试和解决的？
• 对具身智能框架（如Lerobot）了解多少？对比过其他框架吗？
• 复习模型压缩（量化、剪枝、蒸馏）原理和常见工具