人工智能推理引擎软件开发工程师（南京）(J10517)

优缺点分析

角色解读

• 可向AI基础架构专家、高性能计算架构师方向发展
• 也可转型为AI系统技术负责人，带领团队攻克底层算力优化难题
• 负责基于GPU和专用芯片的AI推理引擎开发与底层性能优化
• 结合具体AI应用场景（如视频处理、人脸检测）进行定制化推理优化
• 追踪并引入业界最新的推理引擎特性与优化算法，保持技术领先性
• 扎实的计算机体系结构基础与Linux系统开发能力
• 熟练掌握TensorRT、TVM等主流推理引擎及其底层实现原理
• 具备图优化、算子融合等深度学习性能优化经验及英文文献阅读能力

申请策略

• 了解中科曙光在智算中心及AI服务器领域的业务布局，面试时可结合其硬件生态探讨软件优化策略
• 突出在TensorRT/TVM等推理引擎上的实际项目经验及量化的性能提升数据
• 展示对计算机体系结构的理解及底层算子优化成果
• 强调阅读英文文献及复现前沿算法的能力
• 深入学习CUDA编程及GPU架构原理
• 研究TVM/MLIR等编译框架的底层实现
• 关注最新的AI模型压缩与量化技术

面试指南

• 采用STAR法则回答项目经验，重点突出“遇到的性能瓶颈-分析的底层原因-采取的优化手段-最终的量化收益”
• 对于原理性问题，结合具体代码或架构图进行讲解，展现深度
• 请详细描述一次你使用TensorRT或TVM进行模型推理优化的经历，最终性能提升了多少？
• 图优化和算子融合的基本原理是什么？在实际项目中遇到过哪些坑？
• 如何针对特定的AI应用（如视频处理）在专用推理芯片上进行定制化优化？
• 谈谈你对现代计算机体系结构（如GPU内存层级、缓存机制）的理解，以及如何利用其进行性能调优？
• 复习CUDA编程、GPU架构及主流推理引擎的官方文档
• 准备1-2个自己主导的底层性能优化项目案例，并准备好相关的性能测试数据