小红书
AI Infra工程师/专家
AI Infra工程师/专家
发布于 大约 13 小时前普通员工/个人贡献者
全职员工仅现场办公架构师
架构师
Cuda
Deepspeed
Megatron
Mlir
Tilelang
Tvm
分布式训练
多模态Ai
推理优化
值不值得投
73综合评分
综合评分 73
前沿AI Infra技术岗位，技术挑战大、成长机会多，但WLB和薪资透明度有限。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
40K
比架构师中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 1300 个在招
市场机会
选择面较广
北京 · 架构师 · 83 个在招
职位详情
关于这个职位
该职位是小红书AI Infra核心部门的工程师/专家，负责设计与开发下一代超大模型的GPU/NPU/PPU/CPU分布式训练和推理框架，优化大规模分布式训练的性能，支撑多模态模型在生活兴趣社区的落地
最低要求
有扎实的工程算法基础，精通数据结构和常用算法，熟练掌握各种编译、调试、性能分析工具
精通C/C++/CUDA/Ascend C/Triton/Tilelang/CuTe DSL，具备扎实的系统底层能力（内存、并发、网络）
有大规模分布式系统开发和优化经验
有大模型分布式训练经验者优先
精通MLIR/TVM/Triton/Torch Inductor/TileLang/Verbs/NCCL/NVSHMEM等分布式异构计算框架和相关工具链
精通Megatron/DeepSpeed/veRL/OpenRLHF/LLaMA-Factory等业界开源训练框架
熟悉常见深度学习模型结构
工作职责
参与开发分布式并行/流水线/通信优化/ZeRO/FSDP工作，消除大规模分布式训练通讯/计算/内存瓶颈，极致优化模型训练和推理的性能
参与开发Triton，TileLang计算图编译优化或者使用CUDA/cutlass编写高性能算子，将硬件性能压榨到极致，最大化发挥出GPU/NPU/PPU/CPU等异构硬件协同算力
参与开发/调试用于异构计算全链路的AI编译器，探索基于IR编译优化的片内多部件并行流水线等前沿技术，构建业界影响力
支撑业界领先的多模态模型在国内最大的生活兴趣社区上落地
优先资格
【加分项】 • 在Megatron、DeepSpeed、veRL、TVM、LLVM等社区有持续代码贡献
或有高质量技术博客、GitHub Repo、顶会论文（OSDI、SOSP、MLSys、KDD、RecSys 等）
AI 洞察
优缺点分析
优点
- 技术前沿，涉及下一代大模型训练和编译优化，学习成长空间大
- 公司平台资源丰富，业务场景多元，能接触业界领先技术
- 参与核心模块开发，对性能优化有直接贡献，成就感强
- 多城市办公，团队协作可能涉及跨地域沟通
- 适合对AI基础设施有浓厚兴趣、追求技术深度、具备扎实系统编程和分布式经验的工程师
缺点 / 挑战
- 技术难度高，需要持续跟进AI Infra最新发展，学习压力较大
- 性能优化要求极致，可能面临高压调试和快速迭代挑战
角色解读
- 从工程师成长为架构师或AI Infra领域专家，深入技术前沿
- 可向技术管理方向发展，带领团队攻克复杂技术挑战
- 通过开源贡献和顶会论文，建立行业影响力
- 设计与开发分布式训练和推理框架，优化大规模计算性能
- 探索AI编译器技术，编写高性能算子以提升硬件利用率
- 支撑多模态模型在生活兴趣社区的落地应用
- 精通C++/CUDA编程和系统底层知识，如内存、并发、网络
- 具备大规模分布式系统开发和优化经验，熟悉深度学习框架
- 掌握编译优化技术，如MLIR、TVM，以及性能分析工具
申请策略
- 研究小红书的AI业务方向和多模态应用场景，在面试中展示理解
- 准备技术博客或GitHub项目，以佐证你的技术热情和贡献
- 突出分布式训练或推理优化项目经验，展示性能提升成果
- 列举CUDA、MLIR、TVM等技术栈的实际应用案例
- 强调开源社区贡献或顶会论文，体现技术影响力
- 描述系统底层开发经历，如内存管理、并发优化等
- 深入学习MLIR、TVM等AI编译器框架，参与相关开源项目
- 实践大规模分布式训练，掌握Megatron、DeepSpeed等工具链
面试指南
- 使用STAR方法（情境、任务、行动、结果）结构化描述项目经验
- 结合具体技术细节，如通信优化、内存管理，展示深度思考
- 强调性能指标提升（如训练速度、吞吐量），量化成果
- 描述一个你优化过的大规模分布式训练项目，遇到的挑战和解决方案
- 解释ZeRO和FSDP在分布式训练中的区别和应用场景
- 如何使用CUDA或Triton编写高性能算子？请举例说明优化思路
- 对于AI编译器，你了解哪些前沿技术？如何应用于实际开发？
- 你如何平衡模型训练的性能和资源消耗？
职位点评
薪资福利70
成长发展85
工作生活60
使命价值75
薪资福利
70中等
JD未明确薪资和福利信息，但公司规模较大，可能提供有竞争力的薪酬包。
薪资信号未披露（AI估算：30K-50K/月）
成长发展
85较高
职位涉及前沿AI Infra技术，如大模型训练和编译优化，有显著的学习和成长机会。
技术前沿前沿/新兴技术
技术栈分布式训练、CUDA、Triton、MLIR、TVM、Megatron、DeepSpeed
业务类型ambiguous
工作生活
60中等
JD未提及办公模式或工作强度，无法判断WLB情况，可能需现场办公且技术挑战大。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
75中等
工作在AI前沿领域，支撑生活兴趣社区的智能应用，有技术创新和社会价值。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs