快手
算法工程 Codesign 实习生-【可灵】
算法工程 Codesign 实习生-【可灵】
发布于 大约 19 小时前实习/见习
实习生仅现场办公算法优化工程师
算法优化工程师
Cuda
Diffusion
Gpu优化
Pytorch
大规模训练
并行策略
性能优化
稀疏注意力
量化
值不值得投
73综合评分
综合评分 73
前沿AI算法实习，技术成长空间大，但WLB可能一般。
从学习成长、工作节奏、岗位方向和实习待遇综合评估，方便比较实习机会。
薪资怎么样
7K
比算法优化工程师中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2240 个在招 · 其中算法优化工程师 9 个
市场机会
选择面较广
北京 · 算法优化工程师 · 约 200 个在招
职位详情
关于这个职位
这个实习岗位专注于快手可灵视频生成项目的算法工程与效率优化，探索架构设计、训练吞吐提升和高性能系统实现，旨在降低计算开销并提升模型性能
适合对人工智能和高性能计算感兴趣的硕士及以上在读学生，有机会参与前沿研究并积累大规模训练经验
最低要求
计算机科学、人工智能、数学或相关专业硕士及以上学历
扎实的深度学习基础，理解 Diffusion / Flow Matching 的建模与训练原理，熟悉 DiT 类架构的计算特征
对生成式模型的效率瓶颈（注意力复杂度、超长序列、显存压力）有第一手认知
较强的算法工程化能力：熟练使用 CUDA/C++ 或 Triton/CUTLASS，理解 GPU 执行模型与存储层级，有 attention/GEMM 级别的算子编写或调优经验，能用 roofline 等方法判断算子的性能上限与优化空间
熟悉 PyTorch 及至少一种大规模训练框架（Megatron-LM/FSDP/DeepSpeed 等），理解 DP/TP/PP/CP/EP 各类并行策略的通信语义与适用边界，有数百卡及以上规模的训练实践，能独立完成从算法设计到 Infra 落地的全链路开发
在模型量化、稀疏化、算子融合等方向至少一个领域有深入积累，能在精度、吞吐、显存、研发成本等多重约束下给出可量化的 trade-off 分析与决策
良好的科研能力与技术品味：能快速复现并批判性评估前沿论文，判断其在业务规模下的适用边界，并结合实际约束改进落地
工作职责
面向token efficiency的架构探索与设计：针对视频 Diffusion及生成-理解统一架构，探索在同等精度下显著降低训练与推理开销的架构方案，包括但不限于稀疏注意力（block-sparse、时空局部窗口、可学习稀疏模式）、Latent Moe、Attention Residual、Muon优化器变种等的探索
面对超长序列问题，从算法与系统两侧联合给出可扩展的注意力与架构方案，并以严谨的消融实验量化每项改动的精度-效率收益
训练与推理吞吐优化：以 MFU、单位算力产出为核心指标，推动Co-design 优化：设计并落地低精度训练方案（BF16/FP8 混合精度、细粒度量化 scaling、数值稳定性监控），建立配套的精度回归评估体系，给出精度、吞吐、显存之间可量化的 trade-off 结论
Scaling 效率研究：研究优化器变种（如 Muon等二阶方法）与超参迁移方法在 Diffusion 训练中的适用性
结合数据配比与数据利用效率实验，设计小规模代理实验并外推，为"同样算力如何训出更强模型"提供可复用的 scaling 结论，支撑下一代模型的 compute-optimal 决策
高性能训练系统实现：把架构与算法设计落进生产训练系统：编写或调优关键算子（CUDA/CUTLASS），设计与序列形态、稀疏模式匹配的并行方案（FSDP/TP/CP/EP 及其组合），实现通信-计算 overlap 与显存峰值控制
用 Nsight Systems/Compute、torch profiler 等工具对训练全链路做性能分析，持续定位并消除瓶颈，保障大规模训练的稳定与高效
优先资格
在 CVPR/ICCV/ECCV、NeurIPS/ICML/ICLR，或 MLSys/OSDI/ASPLOS 等系统方向顶会发表过相关论文
有大规模生成模型（视频/图像/多模态）训练提效或推理加速的完整落地案例，能清晰量化优化前后的收益
深刻理解 GPU 体系结构（SM 与 Tensor Core、寄存器/共享内存/HBM 存储层级、NVLink 互联与集合通信），了解并实践过 Hopper/Blackwell 代际的新硬件特性（如 TMA、FP8/FP4 Tensor Core）
参与过主流开源项目（PyTorch、Megatron-LM、FlashAttention、vLLM/SGLang、xDiT 等）的开发，或有高质量的个人开源作品
有超长序列训练（context/sequence parallel、ring attention）、MoE 训练系统（专家并行、负载均衡、通信优化）或视频生成模型加速的实战经验
AI 洞察
优缺点分析
优点
- 接触前沿的视频生成技术和Diffusion模型，参与创新性强的研究项目
- 在快手这样的大型平台积累大规模训练和高性能计算经验，提升工程化能力
- 有机会与顶尖团队合作，发表高质量论文或贡献开源项目，增强职业竞争力
- 技术难度高，需要深入理解算法和系统，对编程和数学基础要求严格
- 工作强度可能较大，涉及优化、调试和性能分析等复杂任务
- 适合对人工智能和高性能计算有浓厚兴趣，具备扎实编程、算法基础和科研能力的硕士及以上在读学生，追求技术深度和行业前沿探索
缺点 / 挑战
- 实习可能面临较高的学习曲线和竞争压力，需要快速适应和产出
角色解读
- 从实习生发展为算法工程师或研究员，专注于模型效率优化方向
- 可能转向系统架构设计或前沿AI研发，参与更复杂的项目
- 通过积累项目经验和论文发表，在行业内建立专业声誉
- 探索和设计高效的视频生成模型架构，通过稀疏注意力、混合精度等技术降低训练与推理开销
- 实现和调优高性能算子（如CUDA/CUTLASS），优化大规模训练吞吐和显存使用
- 研究Scaling定律和优化器变种，为模型训练提供可复用的效率结论，支撑compute-optimal决策
- 将算法设计落地到生产训练系统，使用并行策略和性能分析工具确保稳定高效
- 扎实的深度学习基础，特别是Diffusion模型和Transformer架构的理解
- 熟练的CUDA/C++或Triton编程能力，熟悉GPU执行模型和存储层级
- 大规模分布式训练框架（如PyTorch、Megatron-LM、FSDP）经验，理解并行策略
- 良好的科研能力，能复现和评估前沿论文，并进行量化trade-off分析
申请策略
- 研究快手可灵团队的最新研究动态和论文，了解业务方向以便在面试中展示针对性兴趣
- 准备一个完整的项目案例，描述从问题定义、算法设计到系统实现的全链路过程
- 突出与Diffusion模型、生成模型相关的深度学习项目经验，量化成果如精度提升或效率优化
- 展示CUDA/C++编程技能和算子优化案例，使用roofline模型进行性能分析
- 列出发表的顶会论文、开源贡献或参与的大规模训练项目，证明科研和工程能力
- 加强PyTorch和大规模训练框架（如Megatron-LM、DeepSpeed）的实践，理解并行策略细节
- 学习GPU性能分析工具（如Nsight Systems）和优化技术，提升算子调优经验
- 复现前沿论文并实现关键部分，积累量化trade-off分析的经验
面试指南
- 使用STAR方法（情境、任务、行动、结果）描述项目经验，突出技术挑战和量化成果
- 结合技术深度回答问题，如解释roofline模型、并行策略的通信语义等
- 展示批判性思维，讨论论文方法的局限性和在实际业务中的适用边界
- 请解释Diffusion模型的训练原理，以及你如何优化其效率瓶颈？
- 描述一个你编写或调优过的GPU算子，如何判断其性能上限？
- 在大规模训练中，如何设计并行策略来平衡通信和计算开销？
- 什么是token efficiency？你有哪些降低训练开销的思路？
- 如果让你复现一篇关于高效注意力机制的论文，你会如何进行？
职位点评
薪资福利70
成长发展90
工作生活50
使命价值75
薪资福利
70中等
实习岗位提供有竞争力的津贴，但作为实习期，薪资和稳定性不是核心优势。
薪资信号市场水准 (5K-8K/月)
成长发展
90较高
职位涉及前沿AI技术和大规模系统优化，提供显著的技术成长空间和技能积累机会。
技术前沿前沿/新兴技术
技术栈Diffusion、CUDA、大规模训练、量化、稀疏注意力
业务类型ambiguous
工作生活
50较低
实习岗位通常需要投入较多时间学习和项目工作，办公地点在市区，但WLB未明确提及。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
75中等
视频生成是AI高速增长赛道，对内容创作有积极影响，但社会直接影响力有限，创新性较强。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs