Kwai logo
快手
多模态大模型量化研究专家-【可灵AI】

多模态大模型量化研究专家-【可灵AI】

发布于 37 分钟前

普通员工/个人贡献者

AI 估算 · 6.0–12.0万 · AI 参考估算
专家级经验
硕士
全职员工仅现场办公AI算法
AI算法
Ai算法
Cuda
Gptq
Llm
模型量化
高性能计算

值不值得投

78综合评分

综合评分 78

顶尖大厂核心AI算法岗,技术前沿极具挑战性,薪资优厚但工作强度可能较大

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

9.0万

比AI算法中位数高

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 2840 个在招

市场机会

选择面较广

北京 · AI算法 · 约 150 个在招

职位详情

关于这个职位

负责面向LLM和DiT等Transformer类模型的低比特量化研究(如NV-FP4/INT4),通过数值分析与软硬协同优化,在无损生成质量的前提下提升推理效率

需结合GPU硬件特性设计量化方案并实现Kernel原型验证,将算法收益转化为实测加速

最低要求

硕士及以上学历

熟悉 Transformer 结构及其变种,熟悉 GPTQ、AWQ、SmoothQuant、QuaRot 等主流量化方法,了解 INT / FP8 / FP4 / MX 等各种数制的特点和取舍
数理要求:熟练掌握线性代数、概率论和矩阵论,擅长数值分布分析和误差归因
熟练使用 Triton,掌握 CUDA,能独立实现量化 kernel 原型并做性能分析
有较强的自驱力和学习力,对大模型压缩加速有强烈的兴趣

工作职责

负责Transformer 量化,面向 LLM 和 DiT 等 Transformer 类模型,探索 NV-FP4 / MXFP4 / INT4 等低 bit 精度的 PTQ / QAT 和 KV-cache 量化,在提升推理效率的同时保证模型效果和生成质量无损

负责数值分析与数制设计,从矩阵谱结构和数值分布的角度分析量化误差的来源,比如 outlier、massive activation、timestep 分布漂移
在此基础上设计 rotation、smoothing、低秩补偿等等价变换,并为不同模块选择最优的数制和 scale 粒度
软硬协同,结合 GPU 的硬件特性设计量化方案,用 kernel 原型做验证,比如低比特 GEMM、量化 Attention、Softmax / Norm 融合
目标是让算法收益真正转化为实测加速

AI 洞察

优缺点分析

优点

  • 处于AI前沿核心技术领域,技术壁垒高,个人竞争力强
  • 依托快手平台,拥有海量数据和算力资源支持落地
  • 技术迭代极快,需要持续跟进最新论文和SOTA方法
  • 软硬协同优化难度大,需兼顾算法效果与硬件性能
  • 适合对底层算法和系统优化有浓厚兴趣、具备极强数理基础和工程落地能力的资深AI研究员或工程师

缺点 / 挑战

暂无明显挑战项

角色解读

  • 可向AI基础设施架构师、首席科学家方向发展,或在模型压缩领域成为行业权威专家
  • 专注于大语言模型(LLM)和扩散模型(DiT)的低比特量化技术研究,旨在降低模型存储和计算成本
  • 深入理解Transformer架构及量化算法(如GPTQ/AWQ),具备扎实的数学功底(线性代数/矩阵论)

申请策略

  • 准备详细的项目案例,展示如何通过量化技术显著提升模型推理速度或降低显存占用
  • 突出在模型量化、稀疏化或剪枝方面的具体研究成果,特别是涉及LLM或DiT的经验
  • 强化CUDA编程能力和Triton使用技巧,深入理解GPU硬件架构对算子优化的影响

面试指南

  • 采用STAR法则(情境、任务、行动、结果)描述过往项目,重点阐述技术选型的理由、遇到的挑战及最终的量化指标提升
  • 请详细介绍你熟悉的几种主流量化方法(如GPTQ, AWQ)的原理及优缺点
  • 如何分析量化过程中的误差来源?请举例说明Outlier的影响及处理策略
  • 在使用Triton编写自定义算子时,有哪些性能优化的关键点?
  • 针对KV Cache的量化,你有什么见解或解决方案?
  • 复习线性代数和矩阵论基础知识,阅读最新的量化相关顶会论文(如NeurIPS, ICLR),准备CUDA/Triton代码演示

职位点评

薪资福利90
成长发展95
工作生活40
使命价值70

薪资福利

90较高

作为已上市的互联网巨头,提供极具竞争力的薪酬包和完善的福利体系,满足高收入预期。

薪资信号未披露(AI估算:6.0千–12.0万/月)

成长发展

95较高

岗位聚焦于AI最前沿的大模型量化技术,技术栈先进,成长空间巨大,能满足极高的专业发展需求。

技术前沿前沿/新兴技术
技术栈Transformer、LLM、DiT、NV-FP4、MXFP4、INT4、PTQ、QAT、KV-cache、GPTQ、AWQ、SmoothQuant、QuaRot、Triton、CUDA
业务类型profit_center

工作生活

40较低

互联网大厂核心研发岗通常工作节奏较快,JD未提及弹性工作制,可能面临较高的工作压力。

工作模式未明确
办公地点市区核心地段
加班情况未提及(无法判断)

使命价值

70中等

通过技术优化降低大模型运行成本,促进AI技术的普及和应用,具有一定的社会价值和技术使命感。

行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新(行业首创)
Watch Jobs