小红书
大模型 Infra 产品运营
大模型 Infra 产品运营
发布于 大约 15 小时前普通员工/个人贡献者
北京市 / 上海市
中级经验
全职员工
仅现场办公
硕士
产品管理
跨团队协作
数据驱动
GPU
MLOps
LLMOps
资源管理
产品运营
大模型
Ai Infra
AI 估算 · 30k–60k
小红书为一线互联网大厂，大模型基础设施岗位技术门槛高，薪资竞争力强，月薪中位数约45K，16薪。
职位详情
关于这个职位
这个职位主要负责大模型基础设施平台的产品运营工作，需要协同算法、工程和基础设施团队，定义和追踪训练与推理的效能指标，通过数据分析和跨团队推动来优化GPU集群利用率和资源效率
同时还要负责资源配额产品化、用户分层运营以及内容影响力建设，是一个技术深度与业务广度兼备的岗位
最低要求
学历与经验：硕士及以上学历，计算机或相关专业优先，3 年以上产品经理或平台运营经验，有技术 PM / 开发者工具产品经验者优先
大模型平台认知：理解大模型训练 / 推理 / 部署的基本流程，熟悉 LLM、MaaS、Agent 等核心概念，能与研发 / 算法同学无障碍沟通
效能治理经验：有 GPU 利用率、训练吞吐、推理延迟等效能指标定义与追踪经验者优先
理解 MFU、ETTR、Roofline 等核心概念
数据驱动能力：具备数据敏感度，能从平台使用数据和效能数据中发现问题、提炼洞察，并将数据结论转化为优化策略
推动力与跨团队协作：善于在高技术密度团队中推动复杂事项落地，能平衡多方诉求
具备 Owner 意识，能拉通上下游团队达成目标
产品设计能力：具备扎实的需求分析与功能设计能力，能将复杂技术需求转化为清晰可落地的产品方案
工作职责
效能指标体系搭建：协同算法、工程、基础设施团队，定义训练 & 推理效能核心指标（如 ETTR、MFU、GPU 利用率、吞吐、延迟等），建立统一的效能度量标准与口径
效能数据分析与诊断：基于平台运行数据，追踪效能指标变化趋势，识别瓶颈与异常，输出效能诊断报告，定位根因并推动优化
跨团队协同与推动：作为治理方向 Owner，拉通训练框架组、推理框架组、算力调度组、token 服务组等上下游团队，推动效能优化方案落地，跟踪优化效果并闭环
效能治理机制建设：建立效能问题发现、评估、排期、验收的标准流程，推动效能治理常态化、制度化
资源配额产品化：将 Quota 管理、潮汐调度、故障机自动化处理等底层能力产品化，设计清晰的配额分配策略与可视化看板，让资源管理对用户透明、可控、易用
资源利用率优化：监控 GPU 集群利用率、空置率、碎片化等指标，推动在离线混部、弹性调度等策略落地，提升整体资源效率
用户分层运营：建立平台用户分层运营策略，组织周期性 NPS 调研，持续追踪用户痛点并驱动产品改进
跟进重点业务用户回访，沉淀 Best Practice 案例
内容与影响力运营：联动引擎、业务、产研团队，构建内外部运营渠道并持续输出大模型平台技术内容，推动平台内外部影响力建设
数据运营：建立平台运营数据看板，追踪渗透率、DAU、功能使用深度等核心指标，定期输出运营分析报告，驱动策略迭代
优先资格
有 AI 平台、LLMOps、MLOps 或开发者工具完整产品交付经验
有 GPU 资源管理、云平台配额或弹性调度相关产品认知
对 AI Agent、工具调用、Prompt 工程、多 Agent 协作有基本认知
熟练使用 Claude Code、Cursor 等 AI 编程 / 生产工具，本身是 AI Native 工作方式的实践者
有 ToB 平台用户运营体系从 0 到 1 搭建经验，或有开发者社区运营经验
AI 洞察
优缺点分析
优点
- 站在AI浪潮核心，接触前沿大模型基础设施技术，技能积累快
- 小红书平台大，资源丰富，项目影响力高，职业发展空间大
- 综合技能要求高，能同时锻炼产品、运营、技术理解力，复合型人才稀缺
- 技术密度高，需快速学习大模型底层知识，对非技术背景的运营有一定门槛
- 跨团队协作复杂，涉及算法、工程、基础设施等多方，推动难度大
- 效能优化往往需要长期投入，短期内看到显著成果可能较慢
- 适合具备技术背景或快速学习能力，喜欢在技术驱动的环境中做产品运营，并且有较强数据分析和跨团队推动力的求职者
缺点 / 挑战
暂无明显挑战项
角色解读
- 向AI基础设施产品负责人方向发展，负责更大范围的平台产品规划
- 深入大模型效能优化领域，成为技术运营专家，或转向技术型产品经理
- 在AI平台运营方向积累经验，向LLMOps/MLOps领域专家或产品总监晋升
- 定义和监控大模型训练/推理的效能指标（如GPU利用率、吞吐量等），识别瓶颈并推动优化
- 将资源配额、调度等底层能力产品化，设计可视化看板和分配策略，提升资源管理效率
- 建立用户分层运营体系，通过NPS调研和回访驱动产品改进，并输出技术内容提升平台影响力
- 深入理解大模型训练/推理流程，熟悉LLM、MaaS、Agent等概念，能与技术团队无障碍沟通
- 数据敏感度高，能从效能数据和平台使用数据中提炼洞察，并转化为优化策略
- 较强的跨团队推动力，能作为Owner拉通多方资源实现复杂目标
- 基础的产品设计能力，能将技术需求转化为可落地的产品方案
申请策略
- 关注小红书技术博客和AI基础设施公开分享，面试时展示对公司的了解
- 准备2-3个自己主导的效能优化或平台运营案例，并用STAR法则清晰阐述
- 突出大模型或AI平台相关项目经验，尤其是涉及效能指标、GPU资源管理的内容
- 强调数据驱动案例：如何通过数据分析发现瓶颈并推动优化，量化成果
- 展示跨团队协作和Owner意识，列举推动复杂项目落地的经历
- 如果有产品设计经验，附上PRD或功能设计文档链接
- 系统学习大模型训练/推理基本流程，了解MFU、ETTR、Roofline等概念
- 熟悉GPU集群管理和调度相关知识，可通过在线课程或论文积累
面试指南
- 对于定义和追踪指标类问题：先明确核心指标（如MFU、利用率），再说明数据采集和分析方法，最后举例具体优化行动和结果
- 对于跨团队协作问题：强调建立沟通机制、明确Owner和里程碑、定期同步进展，并使用数据驱动决策来对齐各方利益
- 对于产品设计问题：从用户需求出发，描述主要功能、交互流程、以及如何衡量产品效果
- 请描述你如何定义和追踪GPU利用率？遇到过哪些挑战？
- 举例说明你是如何通过数据分析推动一项效能优化的？
- 作为Owner，如何协调多个技术团队共同推进一个方案？
- 你对大模型训练中的MFU和ETTR如何理解？
- 如何设计一个资源配额管理产品？考虑哪些用户场景？
职位点评
71
综合评分
小红书大模型核心产品运营，高成长、高回报，但需承受一定工作压力。
更适合这类人
最适合追求技术成长和职业发展的求职者，愿意在快节奏环境中持续学习。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展90
工作生活50
使命价值70
薪资福利
75中等
作为一线大厂的核心技术产品岗位，薪资水平具有较强竞争力，但JD中未明确提及福利细节，且薪资通常与绩效挂钩。
薪资信号未披露（AI估算：30K-60K/月）
成长发展
90较高
该职位处于大模型基础设施前沿，涉及大量新技术（LLM、GPU优化、MLOps），技能成长空间大，且有明确的效能治理机制建设等挑战性工作。
技术前沿前沿/新兴技术
技术栈大模型、GPU、MFU、ETTR、Roofline、LLM、MaaS、Agent、LLMOps、MLOps
成长机会Owner、建立标准流程、从0到1搭建
业务类型profit_center
工作生活
50较低
JD未提及远程或弹性办公，且大厂大模型团队通常工作强度较大，WLB可能一般。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
AI基础设施对行业有推动意义，但JD中未强调社会价值或使命感，更多侧重技术效能和商业价值。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs