【快Star】大模型推理/训练优化工程师

优缺点分析

角色解读

• 深耕GPU编译优化与高性能计算，成为AI Infra专家
• 向大模型系统架构师方向演进，负责整体推理/训练平台设计
• 可转向AI芯片或异构计算领域，拓展硬件协同设计能力
• 参与大模型推理和训练的性能优化，通过AI Compiler技术提升GPU计算效率
• 开发推理所需的功能模块，包括图优化、算子融合和高性能算子
• 支持大模型推理服务的日常部署，并研发内部提效工具
• 精通Python和C++，具备扎实的算法与数据结构基础
• 熟悉AI Infra技术栈，有大模型训练或推理优化实战经验
• 掌握至少一种主流框架（如vLLM、TensorRT-LLM、PyTorch）

申请策略

• 提前了解快手搜推业务场景，思考如何优化落地
• 展示自己的技术热情和快速学习能力，可附上技术博客或GitHub
• 突出大模型训练/推理优化项目经验，量化性能提升指标
• 强调CUDA或其他异构计算编程能力，展示算子开发成果
• 提及相关开源贡献或顶会论文，体现技术深度
• 系统学习CUDA编程和GPU架构，掌握Nsight工具使用
• 深入理解至少一个推理框架（如vLLM、TensorRT-LLM）的源码
• 熟悉MLIR/TVM等编译器框架，动手编写优化pass

面试指南

• STAR法则：描述场景、任务、行动、结果，量化收益
• 从问题根源出发，给出多个解决方案并比较优劣
• 结合底层原理和实际表现，展示系统化思维
• 请介绍你在大模型推理优化方面的一个具体项目，遇到了什么挑战？
• 解释CUDA中的warp级编程和shared memory优化技巧
• Transformer模型推理时，如何做KV-cache优化？
• 你如何调优GPU kernel的Occupancy和带宽利用率？
• 对比vLLM和TensorRT-LLM的架构差异及适用场景