大模型推理性能优化算法工程师

优缺点分析

角色解读

• 从算法工程师成长为技术专家，专注于AI Infra领域的性能优化
• 向架构师方向发展，负责更大规模的推理系统设计与优化
• 转向技术管理岗位，带领团队进行大模型技术创新与落地
• 主导大模型推理优化体系的整体规划，设计无损优化方案如自注意力机制和并行推理
• 实施轻量化技术如知识蒸馏、量化和剪枝，将有损加速方案落地到实际部署中
• 从软硬件协同角度优化计算通信重叠和异构硬件适配，提升端到端推理性能
• 建立量化评估机制，通过基准测试验证优化收益，并保障高并发场景下服务稳定
• 熟悉大模型推理优化全栈技术，包括自注意力机制改进、并行推理与负载均衡
• 掌握轻量化推理技术如知识蒸馏、量化、剪枝和缓存压缩的选型与调优
• 具备系统瓶颈洞察能力，能从性能数据中识别关键优化点并形成验证假设
• 有创新优化探索能力，能针对计算通信重叠、异构硬件适配等方向设计新方案

申请策略

• 研究京东云AI Infra的公开技术成果和博客，了解团队方向
• 准备面试时，重点讨论技术深度和创新案例，贴合京东价值观
• 突出大模型相关项目经验，如推理优化、轻量化技术应用等
• 强调性能优化成果，用量化数据展示优化收益
• 展示系统瓶颈分析和软硬件协同优化能力
• 体现创新探索和验证流程的严谨性
• 深入学习大模型推理优化技术，如量化、剪枝和并行推理
• 了解最新硬件加速方案和异构计算趋势

面试指南

• 使用STAR法则（情境、任务、行动、结果）描述项目，突出技术决策和量化结果
• 强调系统性思维，从数据驱动的角度分析瓶颈和验证假设
• 展示对前沿技术的跟踪和创新能力，结合实际案例说明
• 请描述你过去在大模型推理优化方面的项目经验，遇到过哪些挑战？
• 如何评估一个推理优化方案的收益和通用性？
• 在性能优化中，你如何识别系统瓶颈并形成优化假设？
• 请举例说明你如何实施知识蒸馏或量化等轻量化技术？
• 你对计算通信重叠或异构硬件适配有什么创新想法？