大模型推理引擎研发工程师（练习生）

优缺点分析

角色解读

• 技术专家路线：深耕AI推理系统优化，成为领域内性能调优或框架开发的核心专家
• 架构师路线：扩展至分布式训练、调度系统、AI编译器等更广阔的系统架构设计领域
• 全栈AI工程师：结合推理优化与业务理解，成长为能支撑复杂AI项目落地的全栈技术负责人
• 负责大模型推理服务框架的研发与性能优化，确保模型在生产环境中高效、稳定运行
• 运用并行计算、分布式系统等技术手段，解决AI推理场景下的工程挑战
• 参与AI系统工程化全流程，包括模型部署、监控、工作流编排等，打通算法到应用的“最后一公里”
• 与算法团队紧密协作，从系统层面优化特定算法的执行效率，共同推进业务目标实现
• 扎实的编程与算法基础（C++/Python），熟悉高性能计算与Linux环境开发
• 对深度学习框架（如PyTorch、TensorRT）及LLM推理引擎（如vLLM）有实践或源码理解
• 具备GPU硬件架构知识与CUDA编程能力，能够进行性能分析与优化
• 良好的沟通协作与自驱力，能够快速学习并跟进AI系统领域的前沿技术

申请策略

• 深入研究小红书在AI技术（特别是大模型应用）方面的公开分享、论文或开源项目，了解其技术选型与关注点
• 准备一个能体现你系统思维和技术深度的项目介绍，即使规模小，但要能说清楚问题、思路、技术细节与成果
• 关注该岗位所属团队的技术博客或公众号，了解其正在解决的具体技术挑战，使你的面试准备更有针对性
• 突出与系统性能优化相关的项目经历，如使用CUDA/GPU加速计算、参与开源框架贡献、高性能代码开发等
• 详细描述对任一深度学习框架或LLM推理框架（如vLLM、TensorRT-LLM）的源码阅读、使用或改进经验
• 展示扎实的数据结构与算法功底，可列举在算法竞赛、LeetCode或复杂工程问题中的优异表现
• 如有涉及分布式系统、并行计算或网络通信的项目或课程设计，务必重点呈现
• 系统学习并实践CUDA编程与GPU性能分析工具（如Nsight Systems/Compute），完成一个端到端的性能优化小案例

面试指南

• 采用STAR法则（情境-任务-行动-结果）清晰地组织项目经验，重点突出你的“行动”中所体现的技术决策和工程能力
• 对于框架原理问题，先阐述核心思想，再结合具体技术点（如内存管理、计算图优化、算子融合）进行解释，展示理解的深度
• 对于系统性问题（如延迟排查），采用结构化思维，从硬件（GPU利用率、显存）、框架（算子效率、并发）、模型（本身复杂度）、服务（批处理、资源调度）等多个层面展开
• 请介绍一个你过去进行性能优化的项目，遇到了什么瓶颈，你采用了哪些技术手段（如算法、并行、内存优化）来解决？
• 你熟悉vLLM或TensorRT-LLM吗？请解释其一个核心的性能优化技术（如PagedAttention）的大致原理
• 如果给你一个大模型推理服务，响应延迟过高，你会从哪些方面进行排查和优化？请给出你的分析框架
• 如何评估一个AI推理框架的优劣？你会关注哪些关键指标（如吞吐、延迟、资源占用、易用性）？
• 在C++和Python混合开发的AI系统中，如何设计高效的数据交互和调用接口？