智能引擎-推理研发工程师-视觉生成大模型

优缺点分析

角色解读

• 技术专家路线：在推理优化领域深耕，成为GPU内核、分布式推理或模型压缩方向的专家
• 架构师路线：从单一模块优化走向整体推理系统架构设计，负责大规模AI基础设施的规划与演进
• 技术管理路线：积累项目经验后，可转向技术管理岗位，带领团队负责核心项目的交付与创新
• 深度优化视觉生成大模型（如通义万相）的推理引擎，包括运行时环境、算子性能和显存管理，以降低延迟和推理成本
• 针对多种异构AI加速硬件（如GPU），开发高性能Kernel（CUDA/Triton），并结合量化、蒸馏、cache等技术进行极致性能优化
• 设计并实现智能请求调度算法，优化高并发场景下的响应时间和吞吐量，保障线上服务的稳定性
• 持续跟踪业界前沿技术，探索新的推理优化方向，并推动创新性解决方案的落地
• 扎实的编程功底，精通Python和C++，具备复杂系统的设计、开发和调试能力
• 深入理解深度学习基础理论，熟悉主流训练/推理框架（如PyTorch、Megatron、DeepSpeed、JAX）的实现细节
• 熟悉计算机体系结构，具备高性能Kernel开发（CUDA/Triton）、模型压缩与硬件调度等实践经验
• 对视频生成模型（如Diffusion）有深入理解，具备相关优化或工程落地经验者优先

申请策略

• 在简历中突出对AI Infra的热情和持续学习能力，展示你对该领域技术趋势的思考
• 了解阿里巴巴通义万相、Happy系列模型的技术细节，在面试中展现对业务的理解
• 突出高性能计算或推理优化项目经验，如CUDA Kernel开发、推理引擎优化、模型压缩等，并量化性能提升指标（如延迟降低、吞吐提升）
• 强调对主流深度学习框架（PyTorch、Megatron等）的深入理解，展示源码阅读或二次开发经验
• 如果有视频生成模型（如Diffusion）相关项目，务必重点描述，这是该岗位的核心加分项
• 展示复杂系统的设计、调试和性能分析能力，体现解决实际工程问题的能力
• 系统学习CUDA编程和GPU架构，掌握Triton等新工具，并动手实践Kernel优化
• 深入了解Diffusion模型原理和推理优化技术，如模型量化、蒸馏、缓存等

面试指南

• 使用STAR法则（情境、任务、行动、结果）清晰描述项目经历，突出个人贡献和量化成果
• 从系统角度分析问题，先定位瓶颈，再提出多级优化方案，并说明权衡取舍
• 结合具体技术细节和业界实践，展示对底层原理的深入理解
• 请详细描述你做过的一个推理优化项目，包括遇到的问题、优化思路和最终效果
• 如何优化一个Transformer模型的推理性能？请从算子、内存、调度等角度分析
• 谈谈你对CUDA编程的理解，如何编写一个高性能的Kernel？
• 在视频生成模型推理中，如何平衡推理质量和成本？
• 如何设计一个高并发场景下的请求调度算法？