AI推理平台-AI模型推理技术专家-北京/杭州/上海

优缺点分析

角色解读

• 可沿技术专家路线深耕推理引擎、分布式系统与高性能计算，成长为领域架构师
• 有机会参与Qwen等前沿多模态模型的工程落地，积累大模型基础设施稀缺经验
• 后续可转向AI基础设施技术负责人或跨团队平台架构岗位
• 负责Qwen系列多模态模型的推理功能支持与性能优化，覆盖文本、视觉、音频等多模态输入输出
• 设计并落地多机分布式推理架构，包括P/D分离、A/F分离、VL模型分离、WideEP/ElasticEP等
• 将推理引擎接入线上服务平台，完善自动扩缩容、可观测性与稳定性保障
• 参与NPU/GPU算子、kernel、算子融合及Compiler开发，持续压缩推理时延与成本
• 精通C++/Python，具备OOP/OOD与良好抽象设计能力
• 掌握系统性能优化方法论，能用Roofline Model分析IO、计算与带宽瓶颈
• 熟悉LLM/多模态推理引擎架构，理解分布式推理、并行策略与服务化
• 具备CUDA/算子/kernel或Compiler经验者更具竞争力

申请策略

• 投递时优先选择与自身项目最匹配的城市和团队方向，并在简历中注明可接受城市
• 关注Qwen多模态模型和阿里云AI基础设施动态，面试中体现业务理解与技术判断
• 突出C++/Python工程能力与大型系统抽象设计经验，量化代码规模、性能收益或稳定性提升
• 写明LLM/多模态推理引擎、分布式推理架构（P/D分离、EP等）相关项目
• 展示性能优化案例：瓶颈定位、Roofline分析、算子/kernel优化、时延/吞吐/成本改善
• 如有CUDA、Compiler、NPU适配或高性能计算论文，单独列出
• 系统梳理vLLM/SGLang/TensorRT-LLM等开源推理引擎架构与调度机制
• 补强CUDA编程、算子融合、Kernel优化与NCCL/通信优化实践

面试指南

• 用STAR结构讲清背景、目标、方案、结果，重点量化时延、吞吐、成本或稳定性指标
• 性能题按“建立基线—定位瓶颈—提出假设—实验验证—上线收益”展开
• 架构题先讲业务约束与SLA，再比较方案权衡，最后说明落地与容灾
• 请介绍你做过的一个LLM/多模态推理性能优化项目，瓶颈如何定位、提升了多少？
• 如何设计多机分布式推理架构？P/D分离、EP、VL分离分别解决什么问题？
• 给定一个多模态模型推理服务，如何用Roofline Model分析计算、IO和带宽极限？
• 你如何优化一个GPU/NPU算子或实现算子融合？有哪些注意事项？
• 线上推理服务如何做自动扩缩容、可观测性和稳定性保障？