Kwai logo
快手
AI 推理研发工程师(多模态/视频生成方向)-【可灵AI】

AI 推理研发工程师(多模态/视频生成方向)-【可灵AI】

发布于 38 分钟前

普通员工/个人贡献者

AI 估算 · 3.5–6.5万 · AI 参考估算
中级经验
本科
全职员工仅现场办公AI算法
AI算法
Go
分布式系统
模型推理优化
视频生成

值不值得投

76综合评分

综合评分 76

前沿多模态推理工程岗,技术成长强,生活节奏信息不足

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

5.0万

比AI算法中位数高

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 2840 个在招 · 其中AI算法 5 个

市场机会

选择面较广

北京 · AI算法 · 约 240 个在招

职位详情

关于这个职位

该岗位面向可灵AI的多模态与视频生成业务,负责大模型推理系统的架构设计与工程研发

你将建设端到端推理服务、分布式任务调度、模型服务化框架和全球化部署能力,重点提升生成时延、吞吐、稳定性与GPU利用率

最低要求

本科及以上学历,计算机、软件工程、人工智能等相关专业,具备 3 年及以上后端基础架构、分布式系统或机器学习系统研发经验

熟练掌握 Go、Python、C++ 中至少一种语言,具备扎实的数据结构、操作系统、网络和并发编程基础
能够阅读和调试 Python 模型推理代码,有 Go 或 Python 生产系统研发经验者优先
具备分布式服务或异步任务系统的设计经验,理解任务队列、状态机、幂等、重试、租约、故障恢复等机制,能够处理长耗时任务、多副本并发和服务异常场景下的正确性问题
熟悉 Linux、Docker、Kubernetes ,具备服务部署、监控告警、容量评估和故障排查经验
熟悉 Redis、对象存储、HTTP/gRPC 等常用组件及协议,能够结合业务场景进行设计和优化
熟悉至少一种主流模型推理框架,了解模型加载、GPU 显存管理、批处理和多卡推理的基本原理,能够定位推理链路中的计算、通信或 I/O 性能瓶颈
具备良好的工程质量意识、问题分析能力和跨团队协作能力,能够与算法、平台及业务团队共同推进模型从研发验证到生产部署,重视自动化测试、性能数据与技术文档

工作职责

负责多模态大模型与视频生成模型的推理系统设计和研发,建设覆盖请求接入、异步任务管理、工作流编排、模型执行及结果交付的端到端服务,支撑 B 端业务规模化落地

建设高可用、可扩展的分布式任务执行体系,完善任务调度、并发控制、状态一致性、超时重试、故障恢复和可靠回调等核心能力
研发和优化模型服务化框架,支持模型加载与预热、多进程推理、前后处理流水线、任务预取及数据传输,降低冷启动和端到端生成时延,提升推理吞吐与 GPU 有效利用率
与算法及推理优化团队协作,推进视频生成模型的单机多卡、分布式推理,围绕并行策略,在保障生成效果的前提下降低推理成本
面向全球化业务、公有云、专有云及混合云场景,建设标准化、可移植的推理部署与交付能力,推进不同 GPU 规格和软硬件环境适配,支持模型授权、用量计量与安全交付
建设推理服务的可观测性、性能评测与容量规划体系,持续分析排队、预处理、模型计算、通信及存储等环节的瓶颈
结合业务优先级和资源供需,优化任务分配与弹性扩缩容策略,提升服务稳定性和算力使用效率

优先资格

有视频生成、图像生成或其他多模态模型的生产部署经验,熟悉 Diffusion/DiT、VAE、文本编码器等组件及其推理特点

有张量并行、序列并行、NCCL 通信优化、计算通信重叠或多机多卡性能调优经验
有 CUDA/Triton 算子开发、Attention 优化、混合精度/量化、torch.compile 或模型加载与显存优化经验
熟悉 vLLM、SGLang 等推理框架的实现机制
有多云/混合云、异构 GPU 适配、私有化交付、模型授权与用量计量经验,或在任务预取、资源调度、推理成本优化方面有可量化的实践成果

AI 洞察

优缺点分析

优点

  • 岗位处于多模态和视频生成大模型落地的核心链路,技术场景前沿且业务价值直接
  • 能同时积累后端架构、分布式系统、模型服务化和GPU推理优化能力,技术复合度高
  • 面向全球化、公有云、专有云和混合云场景,工程复杂度和可迁移经验较强
  • 与算法和推理优化团队协作,有机会深入理解视频生成模型从验证到生产部署的完整流程
  • 需要同时处理分布式系统正确性和模型推理性能问题,技术栈跨度大、学习成本高
  • 长耗时任务、多副本并发、故障恢复和弹性扩缩容场景复杂,对工程质量与排障能力要求高
  • 适合有三年以上后端基础架构、分布式系统或机器学习系统经验,并希望深入大模型推理工程化的技术候选人

缺点 / 挑战

  • 需要在生成效果、时延、吞吐、成本和稳定性之间持续权衡,性能优化压力较大

角色解读

  • 可向大模型推理系统专家方向发展,深耕分布式推理、GPU调度、模型服务化和成本优化
  • 可成长为AI基础设施技术负责人,负责推理平台、任务调度平台或云上模型交付体系
  • 长期可转向AI平台架构、技术管理或跨团队推动模型从研发到规模化落地的综合角色
  • 设计多模态大模型和视频生成模型的端到端推理服务,覆盖请求接入、任务编排、模型执行和结果交付
  • 建设分布式任务执行体系,解决长耗时任务下的调度、并发、幂等、重试、故障恢复和可靠回调问题
  • 优化模型服务化框架与推理链路,降低冷启动和端到端时延,提升吞吐、GPU利用率和成本效率
  • 与算法、平台和业务团队协作,支持单机多卡、分布式推理以及公有云、专有云、混合云等多场景交付
  • 需要扎实的后端基础架构能力,熟悉 Go、Python 或 C++,并具备数据结构、操作系统、网络和并发编程基础
  • 需要掌握分布式服务与异步任务系统设计,理解任务队列、状态机、租约、幂等和故障恢复等机制
  • 需要熟悉 Linux、Docker、Kubernetes、Redis、对象存储、HTTP/gRPC 等生产级组件与协议
  • 需要理解模型推理框架、GPU显存管理、批处理、多卡推理和性能瓶颈定位,有视频生成或多模态部署经验更佳

申请策略

  • 面试前梳理可灵AI或视频生成产品的业务场景,思考B端规模化落地对推理服务的稳定性、成本和交付要求
  • 准备用系统设计和性能排查案例说明你如何定位瓶颈、做取舍并推动跨团队协作落地
  • 突出你设计过的高可用分布式服务或异步任务系统,尤其说明任务队列、状态机、幂等、重试和故障恢复方案
  • 量化展示性能优化成果,如端到端时延下降、吞吐提升、GPU利用率提升、冷启动缩短或推理成本降低
  • 强调生产环境经验,包括 Kubernetes 部署、监控告警、容量评估、故障排查和技术文档建设
  • 如有模型推理相关经历,重点写清模型加载、批处理、多卡推理、显存管理、vLLM/SGLang或CUDA/Triton等实践
  • 补齐大模型推理链路知识,重点理解模型加载、预热、批处理、显存管理、多卡并行和前后处理流水线
  • 强化分布式任务系统能力,练习设计超时重试、租约、幂等、状态一致性和可靠回调机制

面试指南

  • 系统设计题可按“业务约束—核心链路—状态模型—异常场景—容量与监控—取舍总结”的结构回答
  • 性能优化题按“建立基线—定位瓶颈—提出假设—实施优化—量化验证—风险控制”展开,尽量给出可衡量指标
  • 项目经历题使用STAR框架,重点说明背景复杂度、你的职责、关键决策、最终收益和复盘经验
  • 如何设计一个支撑视频生成长耗时任务的异步推理服务?请说明任务状态流转、重试和可靠回调机制
  • 如何降低多模态模型冷启动时间和端到端生成时延?你会从哪些环节做优化?
  • 在多副本并发和异常恢复场景下,如何保证任务状态一致性和幂等性?
  • 如何定位推理链路中的计算、通信、I/O或排队瓶颈?请结合监控指标说明排查思路
  • 面对不同GPU规格、公有云和专有云环境,如何设计可移植的模型部署与交付方案?

职位点评

薪资福利78
成长发展88
工作生活55
使命价值82

薪资福利

78中等

JD未披露薪资与福利信息,但岗位要求较高的工程与模型推理能力,通常对中高级技术人才有较强吸引力。由于缺少明确薪资和福利条款,补偿性判断保留一定不确定性。

薪资信号未披露(AI估算:3.5千–6.5万/月)

成长发展

88较高

岗位覆盖多模态大模型、视频生成、分布式推理、GPU优化和云上交付,技术复杂度高且成长空间大。JD强调与算法、平台及业务团队协作,有利于积累从研发验证到生产部署的完整经验。

技术前沿前沿/新兴技术
技术栈多模态大模型、视频生成模型、Go、Python、C++、Linux、Docker、Kubernetes、Redis、HTTP/gRPC、模型推理框架、GPU显存管理、多卡推理、Diffusion、DiT、VAE、CUDA、Triton、vLLM、SGLang
业务类型ambiguous

工作生活

55较低

JD仅明确地点为北京,未提及远程、弹性办公、双休或加班强度等信息。工作地点与生活节奏相关条款不足,无法判断办公灵活性。

工作模式未明确
办公地点未明确
加班情况未提及(无法判断)

使命价值

82较高

岗位服务于多模态与视频生成模型的规模化落地,属于AI应用和生成式技术前沿方向,技术价值较强。JD未直接描述社会使命或公共价值,意义感主要来自前沿技术落地与业务规模化。

行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs