AI推理引擎/模型部署实习生

优缺点分析

角色解读

• 实习表现优秀可转正，进入正式校招岗位，成为AI推理工程师或嵌入式开发工程师
• 可向AI部署优化专家方向发展，深入异构计算、模型压缩等领域
• 有机会参与机器人、VLM/LLM等前沿项目，积累端侧AI落地经验
• 负责AI模型在CPU/GPU/NPU/DSP等异构平台上的部署与推理优化，包括模型转换、编译、调试
• 参与推理引擎的算子适配、性能优化、内存管理及数据传输优化，提升端侧推理效率
• 进行模型量化（FP32/FP16/INT8）与精度验证，分析性能指标如延迟、FPS、资源利用率
• 参与机器人感知、VLM/LLM等AI模型的端侧部署与工程化落地
• 熟悉C++或Python编程，具备良好的代码能力
• 了解PyTorch、ONNX等深度学习框架，熟悉模型转换与部署流程
• 了解异构计算平台（CPU/GPU/NPU/DSP）和推理引擎（如TensorRT、ONNX Runtime）优先
• 具备性能分析、量化、内存优化等经验者更佳

申请策略

• 关注安克创新在AI领域的布局，了解其机器人或智能硬件产品
• 在面试中展示对AI部署优化的热情和快速学习能力
• 突出C++/Python编程能力，展示相关项目或课程设计
• 强调深度学习框架使用经验，如PyTorch、ONNX
• 如有嵌入式开发、模型量化或推理优化项目，重点描述
• 展示对AI部署的兴趣，如参与过开源项目或竞赛
• 提前学习推理引擎（如TensorRT、ONNX Runtime）的基本使用
• 了解模型量化技术（PTQ、QAT）和精度验证方法

面试指南

• 使用STAR法则（情境、任务、行动、结果）回答项目经历，突出具体贡献和成果
• 对于技术问题，先阐述原理，再结合实践经验，最后总结优化思路
• 展示问题解决思路：从分析指标、定位瓶颈、尝试优化到验证效果
• 请介绍一个你使用PyTorch或ONNX进行模型部署的经历
• 如何优化一个推理引擎的算子性能？请举例说明
• 模型量化对精度和性能有什么影响？如何验证？
• 你如何理解异构计算？在CPU/GPU/NPU上部署模型有何区别？
• 遇到推理性能瓶颈时，你会如何分析和解决？