算法优化实习生

优缺点分析

角色解读

• 从实习生转正为正式算法优化工程师，深入端侧推理方向
• 积累模型压缩与硬件适配经验，可向AI芯片或自动驾驶优化领域发展
• 未来可晋升为技术专家或团队负责人，主导模型优化工具链建设
• 针对NVIDIA平台进行算子适配和性能优化，减少推理延迟和内存占用
• 解决模型优化过程中的问题，提出改进方案并落地到自研框架
• 调研主流模型优化技术（量化、剪枝、蒸馏），构建工具链和评测工具
• 与算法团队协作，确保模型从训练到端侧部署的精度和效率
• 精通Python和C++编程，熟练使用PyTorch、HuggingFace等框架
• 深入理解TensorRT、MNN等推理引擎底层原理及二次开发
• 掌握模型压缩技术（量化、剪枝、蒸馏）及常用优化框架
• 了解Transformer、VLM/VLA架构，有CUDA算子开发经验更佳

申请策略

• 在简历中附上GitHub链接或技术博客，展示技术深度
• 面试前了解智元机器人的产品方向（如人形机器人），思考模型优化在其场景中的应用
• 突出C++/Python编程项目和开源贡献，尤其是涉及性能优化的经历
• 强调对TensorRT、量化等技术的实际使用经验，最好有具体项目案例
• 展示CUDA或GPU编程经验，哪怕是小规模算子开发
• 提及参与过的大模型或VLM部署项目，体现端侧适配能力
• 系统学习TensorRT官方文档和样例，动手实现一个简单的模型优化demo
• 补充CUDA编程基础，例如编写并优化一个简单算子

面试指南

• 对于技术原理类问题，先定义概念，再解释流程，最后举例说明
• 对于工程实践类问题，按照“问题-方案-结果”结构回答，量化效果
• 遇到未知问题，可坦诚不熟悉，但尝试从原理推导或提出解决思路
• 请解释TensorRT的FP16和INT8量化的原理及优缺点
• 如何优化一个Transformer模型的推理速度？
• 描述一次你使用CUDA进行算子优化的经历
• VLM在端侧部署时有哪些常见挑战？
• 剪枝和蒸馏的区别是什么？如何评估精度损失？