小红书
大模型算法工程师（Safety&Ethos Expert 基模方向）-T&S
大模型算法工程师（Safety&Ethos Expert 基模方向）-T&S
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Pytorch
Sft
可解释性
大语言模型
强化学习
自动化攻防
值不值得投
76综合评分
综合评分 76
前沿AI安全研究方向、技术成长性强、平台资源优厚，但工作节奏较快需做好抗压准备
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
5.0万
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2210 个在招 · 其中机器学习工程 35 个
市场机会
选择面较广
北京 · 机器学习工程 · 约 550 个在招
职位详情
关于这个职位
负责小红书基座大模型的安全与伦理对齐研究，涵盖预训练、SFT、偏好优化与强化学习等训练方法
构建模型安全评测体系与Benchmark，探索自动化攻防与可解释性分析
推动安全数据与Agent环境协同，持续迭代模型风险识别与稳健响应能力
最低要求
本科及以上学历，计算机、人工智能、数学等相关专业优先
熟悉Python，具备扎实的算法实现和工程能力
熟练使用PyTorch等主流深度学习框架，熟悉Linux环境
具备大语言模型训练或应用经验
具备良好的问题拆解与实验分析能力，能够从评测结果、对抗样本和真实失败案例中发现安全问题，并推动数据、训练、评测与模型迭代的闭环改进
对大模型安全、价值观与Agent风险保持持续关注，具备主动推进和跨团队协作能力
工作职责
负责Safety&Ethos Expert基模的研究与建设，围绕大模型及Agent的安全、价值观与行为准则，提升模型对风险的识别、理解、判断与稳健响应能力
负责模型安全与价值观对齐训练，探索预训练、SFT、偏好优化及强化学习等方法
建设高质量安全与价值观数据，推动安全能力融入模型训练与迭代
建设大模型及Agent安全评测体系与Benchmark，覆盖风险识别、指令遵循、拒答与边界处理、价值观判断及复杂任务执行等场景
探索自动化攻防，形成“评测—分析—训练”闭环
探索模型安全能力的可解释性分析与风险监控方法，结合模型内部表征、输出行为及Agent执行过程，定位安全失效模式并推动治理策略迭代
推动安全数据、模型能力与Agent环境协同建设，跟踪模型与Agent演进带来的新型风险，探索面向未来风险的评估、对齐与应对机制
优先资格
在以下一个或多个方向有实践经验者优先：模型安全对齐、偏好优化或强化学习、安全评测与Benchmark、自动化攻防、模型可解释性
有高质量论文、开源项目或相关模型落地成果者优先
AI 洞察
优缺点分析
优点
- 深度参与行业前沿的大模型安全研究，技术栈处于第一梯队，个人技术壁垒高
- 依托头部内容平台海量真实数据与业务场景，研究成果可直接落地产生广泛影响
- 团队聚焦高价值安全专项，资源投入充足且跨部门协作紧密
- 大模型安全领域标准仍在快速演进，需持续跟进最新学术进展与攻击手法
- 互联网研发节奏快，需兼顾学术严谨性与工程交付效率
- 适合具备扎实算法功底、对AI安全与伦理有强烈兴趣，且能在高压环境下保持技术敏锐度与持续学习能力的研究型工程师
缺点 / 挑战
- 评测体系构建与自动化攻防探索存在较高不确定性，需频繁试错与调优
角色解读
- 可向AI安全架构师、大模型对齐专家或首席科学家方向发展
- 随着Agent生态与多模态技术发展，可拓展至通用AI安全治理、人机交互伦理研究或跨领域技术管理岗位
- 负责基座大模型的安全与伦理对齐研究，设计并实施预训练、SFT及强化学习等训练流程
- 构建覆盖多场景的模型安全评测体系与Benchmark，探索自动化攻防与可解释性分析方法
- 推动安全数据、模型能力与Agent环境的协同迭代，建立风险识别与治理闭环
- 精通Python与PyTorch等深度学习框架，具备扎实的算法实现与Linux工程能力
- 掌握大语言模型训练全流程，熟悉偏好优化、强化学习及模型安全对齐技术
- 具备优秀的实验设计与数据分析能力，能快速定位模型失效模式并推动迭代
申请策略
- 提前了解目标平台的社区规范与内容安全政策，将技术能力与业务场景结合思考
- 准备1-2个完整的项目复盘，清晰阐述从问题发现、方案设计到效果验证的闭环逻辑
- 关注公司近期技术博客或开源动态，面试中展现对业务痛点的理解
- 突出大语言模型训练/微调的具体项目经历，量化安全对齐或评测指标的提升效果
- 详细列出掌握的深度学习框架、自动化测试工具链及数据处理流水线经验
- 如有顶会论文、高质量开源贡献或实际模型部署案例，务必前置展示
- 系统梳理RLHF/RLAIF等偏好优化算法原理，动手复现经典安全对齐代码库
- 熟悉常见大模型漏洞类型（如Prompt注入、越狱攻击）及防御策略，掌握自动化红队测试工具
面试指南
- 采用STAR法则结构化回答，重点突出数据构建质量、实验控制变量、指标定义合理性及闭环改进动作
- 针对技术权衡类问题，先阐明核心矛盾，再给出基于理论依据与实验数据的决策路径，最后总结可复用的方法论
- 如何设计一套覆盖多维度风险的大模型安全评测基准？
- 在偏好优化或强化学习中，如何平衡模型安全性与生成质量/多样性？
- 请分享一次你通过对抗样本或真实失败案例定位模型缺陷并推动迭代的经历
- 面对Agent执行过程中的新型安全风险，你的监控与治理思路是什么？
- 复习大模型训练核心论文（如InstructGPT、RLHF系列），梳理关键公式与实验设置
- 整理过往项目中关于数据清洗、模型评估、故障排查的详细案例，准备好可视化图表或代码片段辅助说明
职位点评
薪资福利80
成长发展92
工作生活45
使命价值78
薪资福利
80较高
头部互联网企业算法岗提供具备市场竞争力的薪酬包与标准化福利，但高强度研发节奏与敏捷迭代要求可能部分抵消补偿收益。
薪资信号未披露（AI估算：3.5千–6.5万/月）
成长发展
92较高
深度参与基座模型安全与伦理对齐的前沿研究，技术栈处于行业第一梯队，接触海量真实业务数据，个人技术成长曲线陡峭。
技术前沿前沿/新兴技术
技术栈Python、PyTorch、大语言模型、强化学习、SFT、模型安全对齐、自动化攻防、可解释性
业务类型ambiguous
工作生活
45较低
互联网大厂核心算法研发岗通常伴随较高的工作强度与快速响应要求，灵活办公与工时弹性未在描述中体现，WLB保障相对有限。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
78中等
致力于构建大模型安全防线与价值观对齐机制，直接服务于负责任的人工智能发展，对社会技术向善具有明确的正向推动作用。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
小红书 的其他在招职位
相似职位推荐
Watch Jobs