【快Star】多模态推理平台工程师

优缺点分析

角色解读

• 成为大模型基础设施专家，深入推理优化与架构设计
• 向系统架构师方向发展，负责大规模分布式系统设计
• 有机会转向技术管理或AI产品经理，结合业务推动创新
• 设计和实现多模态推理工作流，支持分布式部署和异构资源调度，保障大模型服务的高效运行
• 构建AIOps平台，覆盖开发测试监控全流程，提升团队协作与业务迭代效率
• 开发Agent应用，支持TOC多模态AIGC任务的编排计算，辅助用户进行复杂视频生成
• 扎实的编程基础，熟悉Python或Java，具备服务端开发经验
• 理解大模型推理框架（如vLLM、SGLang）和分布式系统原理
• 掌握云原生技术（如Kubernetes）和编排调度

申请策略

• 深入了解快手AI业务（如视频生成、内容理解），展示对多模态推理的热情
• 准备一个完整的项目案例，说明从设计到部署的思考过程
• 突出大模型推理或训练相关项目经验，展示对框架的理解
• 强调分布式系统设计经验，如微服务、容器化等
• 列出云原生技术实践，如Kubernetes编排案例
• 熟悉vLLM、SGLang等推理框架的源码和优化方法
• 提高分布式调度和异构计算知识，学习Kubernetes Operator
• 了解Agent相关技术，如LangChain、ReAct模式

面试指南

• 结合项目经验，从系统架构、优化策略、实际效果等方面系统回答
• 先阐述设计目标，再分步骤说明实现方案，最后总结权衡
• 如何优化大模型推理延迟和吞吐量？
• 设计一个多阶段分布式推理工作流，需要考虑哪些因素？
• 对比vLLM和SGLang的特点和适用场景
• 如何处理异构资源（CPU/GPU/NPU）的调度？
• Agent应用在复杂视频生成中如何设计编排逻辑？
• 复习大模型推理优化技术，包括量化、批处理、KV Cache等