AI推理平台-LLM / AIGC 推理加速算法专家-杭州/北京

优缺点分析

角色解读

• 成为推理优化领域的资深技术专家，主导关键算法方向
• 向AI系统架构师发展，负责构建下一代高效推理基础设施
• 凭借深厚的技术积累，参与或领导大型AI技术平台的规划与建设
• 研究和优化大语言模型、AIGC模型在推理部署阶段的性能瓶颈
• 探索并应用如投机推理、稀疏注意力、模型蒸馏等前沿加速技术
• 与工程团队紧密合作，推动算法研究成果落地为系统级性能提升
• 扎实的生成模型理论知识与推理优化实践经验
• 优秀的算法设计能力，能够将前沿研究转化为可落地的解决方案
• 强大的工程实现与系统调优能力，熟悉高性能计算与分布式系统

申请策略

• 在简历或面试中，清晰阐述你对“从研究到落地”完整流程的理解和过往案例
• 提前了解阿里巴巴在AI基础设施和推理平台方面的公开技术分享或产品，展示你的了解和思考
• 详细阐述在模型推理优化（如量化、剪枝、蒸馏、编译优化）方面的具体项目和量化成果
• 突出在大规模模型部署、高性能计算（HPC）、CUDA编程等方向的实践经验
• 展示阅读并复现前沿论文的能力，或在相关领域的技术博客、开源贡献
• 深入学习并实践当前主流的推理加速框架（如TensorRT-LLM, vLLM, DeepSpeed-Inference）
• 系统梳理Transformer架构及LLM/AIGC模型的计算图，理解各算子性能瓶颈
• 关注MLSys、NeurIPS、ICML等顶会中关于推理优化的最新研究进展

面试指南

• 采用STAR法则（情境、任务、行动、结果）结构化回答，重点突出你的分析过程和技术决策
• 对于技术原理问题，从基本概念讲起，结合你的理解阐述其优缺点和适用场景，并可适当延伸
• 对于系统设计问题，先明确核心目标与约束条件，再分模块（如调度、批处理、内核优化）阐述思路
• 请介绍一个你主导的模型推理优化项目，你遇到了什么核心挑战？是如何分析和解决的？
• 你对投机推理（Speculative Decoding）技术有什么理解？它在实际应用中可能面临哪些问题？
• 如果让你设计一个支持千万级并发请求的LLM推理服务，你会在架构和算法层面做哪些核心设计？
• 如何评估一个推理优化方案的优劣？你关注哪些核心指标？如何平衡延迟、吞吐量和显存占用？
• 复习生成模型推理的关键流程、性能分析工具（如PyTorch Profiler, Nsight）的使用