小红书
dots-AI infra
dots-AI infra
发布于 26 分钟前普通员工/个人贡献者
北京市 / 上海市
中级经验
全职员工
仅现场办公
学历未注明
信息技术与基础设施
Cuda
Deepspeed
Fp8
Llm
Lora
Megatron
Nlp
Pytorch
Tensorflow
AI 估算 · 45k–75k
一线城市AI infra高级岗位，小红书大厂薪资有竞争力，结合市场行情估算月薪45k-75k。
职位详情
关于这个职位
该职位属于小红书AI基础设施团队，专注于大语言模型（LLM）的训练与推理框架研发
你将参与高性能机器学习系统的构建，优化核心业务模型，并探索量化、稀疏化、模型结构优化等前沿技术
适合对大规模分布式训练和推理部署有浓厚兴趣的工程师
最低要求
熟练掌握Linux环境下的C/C++、Python语言
具备扎实的计算机科学功底和编程能力，熟悉常见算法和数据结构，具有良好的编程习惯
能够熟练使用至少一种主流的机器学习框架(TensorFlow / PyTorch等)，熟悉框架内部实现
熟悉Transformer模型及其应用场景等
拥有上述轻量化方向（量化、高性能模型结构、稀疏化、新型方向）中一个或多个的实际落地经验，能独立从头到尾完成上述某个方向
熟练使用主流大规模训练或推理引擎开发，例如DeepSpeed/Megatron/Transformer Engine等
两年以上工作经验，工程能力较强者优先，拥有实际Cuda算子开发经验者优先
工作职责
负责机器学习框架的研究与开发，服务于公司各个产品
高效部署，优化NLP/多模态大模型核心业务模型
量化方向：负责但不限于大语言模型的低精度训练(FP8)、推理（W8A8KV8等）、低精度优化器（量化梯度、优化器状态、参数等）
高性能模型结构：大语言模型Finetune或者其他阶段的LoRA系列（熟悉各种变种），训练阶段的MQA/GQA系列等
稀疏化方向：大语言模型剪枝、稀疏、蒸馏、Sparse Attention等
新型方向：Medusa、超长文本、Speculative Sampling等
AI 洞察
优缺点分析
优点
- 小红书处于高速发展期，AI是核心战略方向，技术投入大，项目前景好
- 工作内容前沿，涉及大模型训练推理、量化、稀疏化等热门技术，技能积累价值高
- 薪资待遇有竞争力，超大型企业福利完善
- 技术难度高，需要扎实的计算机基础和系统编程能力，对学习能力要求高
- 工作强度可能较大，大模型训练部署时效性要求高，需要快速解决问题
- 团队内部竞争激烈，需要持续跟进前沿论文和技术更新
缺点 / 挑战
- 团队技术氛围浓厚，有挑战性，能接触海量数据和真实业务场景
- 适合对系统性能优化有热情、享受挑战复杂技术问题、具备较强编程和工程能力的AI工程师
角色解读
- 技术深耕：成为AI Infra领域的专家，主导核心框架的设计与迭代
- 横向拓展：向AI算法或系统架构方向发展，成为全栈AI工程师
- 管理方向：带领团队负责某个技术方向，从IC转向技术管理
- 研究和开发机器学习框架，支持公司内部各产品的AI需求
- 负责NLP/多模态大模型的训练和推理优化，提升性能和效率
- 探索量化、稀疏化、模型结构压缩等轻量化技术，降低模型部署成本
- 参与分布式训练和推理引擎的构建与调优，如DeepSpeed、Megatron等
- 精通C/C++和Python，熟悉Linux环境开发
- 深入理解PyTorch或TensorFlow框架内部实现，掌握Transformer模型原理
- 有大规模训练或推理引擎（如DeepSpeed、Megatron）的实际使用经验
- 具备CUDA编程能力或算子开发经验，了解量化、蒸馏等模型优化方法
申请策略
- 提前了解小红书在AI方向的产品和技术栈，面试时展现对业务场景的理解
- 准备好项目复盘，清晰阐述技术选型、难点和解决方案
- 突出分布式训练或推理优化相关项目经验，详细描述使用的框架和优化效果
- 展示对PyTorch/TensorFlow内部机制的理解，如自定义算子、模型并行等
- 强调CUDA编程或量化/蒸馏等模型加速经验，附上性能提升数据
- 如果有开源贡献或相关论文发表，务必重点标注
- 深入学习DeepSpeed/Megatron源码，理解ZeRO、张量并行等原理
- 动手实现简单的量化算子或稀疏化算法，积累实际落地经验
面试指南
- 技术原理类：先阐述基本概念，再结合实际项目经验说明优化思路，最后总结效果和局限性
- 方案设计类：明确问题定义，对比几种可行方案，分析 trade-off，给出推荐方案及理由
- 经验复盘类：按STAR原则（情境、任务、行动、结果）结构化回答，突出个人贡献
- 请详细解释Transformer的自注意力机制，并说明如何优化其计算效率
- 你用过哪些分布式训练框架？比较DeepSpeed和Megatron的优缺点
- 描述一个你参与过的模型量化项目，包括精度损失和加速效果
- 如何在大规模推理中减少显存占用？列举几种技术
- CUDA编程中，如何实现一个高效的LayerNorm算子？
职位点评
73
综合评分
小红书AI Infra岗位，技术前沿、薪资有竞争力，WLB一般，适合技术驱动型人才。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
最适合追求技术成长和职业发展的求职者，对薪酬有较高期待，能接受现场办公和一定强度。
表现最好
成长发展
相对薄弱
工作生活
薪资福利80
成长发展90
工作生活40
使命价值70
薪资福利
80较高
小红书的薪资在行业内有竞争力，尤其AI岗位，但JD未提及具体福利，评分中等偏上。
薪资信号未披露（AI估算：45K-75K/月）
成长发展
90较高
职位涉及前沿AI技术和大规模系统，学习资源和成长空间极大，技术栈新且有挑战。
技术前沿前沿/新兴技术
技术栈LLM、量化、FP8、Distributed Training、DeepSpeed、Megatron、Transformer、CUDA、稀疏化
业务类型profit_center
工作生活
40较低
JD未提及工作模式，通常互联网公司现场办公，且大模型方向强度较大，WLB一般。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
小红书是内容社交平台，AI技术提升用户体验，有社会价值，但JD未过多强调使命感。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
小红书 的其他在招职位
相似职位推荐
Watch Jobs