阿里巴巴
ATH事业群-大模型安全算法专家--杭州
ATH事业群-大模型安全算法专家--杭州
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Llm-As-A-Judge
Pytorch
Reward Model
大语言模型
强化学习
模型评测
值不值得投
80综合评分
综合评分 80
核心大模型安全算法岗，技术前沿且薪资丰厚，适合追求技术深度与行业影响力的算法专家。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
6万
比人工智能中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3270 个在招 · 其中人工智能 约 340 个
市场机会
选择面较广
杭州 · 人工智能 · 约 410 个在招
职位详情
关于这个职位
该职位主要负责大模型的安全与评测算法研发，包括设计自动化评测方案、训练奖励模型以及利用强化学习提升模型能力
你需要跟踪前沿技术并推动研究成果在真实业务场景中的落地
最低要求
硕士及以上学历
深入理解 Transformer 架构及大语言模型基础知识，熟悉模型评测方案（Evaluation）或具有后训练（Post-training，如 SFT、RL等）经验
具备卓越的代码工程能力，精通 Python 编程及 PyTorch、TensorFlow 等深度学习框架
具备系统性研究思维
具备跨学科视野，良好的沟通能力和团队协作精神
工作职责
深度挖掘大模型在复杂任务、长尾场景、不同语种下的弱点，设计并构建具有可扩展性的自动化评测方案及高质量数据集
参与 LLM-as-a-Judge 方案的设计与实现，训练高精度的 Reward Model（奖励模型），建模人类偏好，提升模型在指令遵循、安全性及复杂逻辑上的表现
设计高效的 Reward Signal（奖励信号）并合成对应数据，通过强化学习（RL）算法持续提升模型的能力上限与泛化性
参与开发 Evaluation 与 Reward System 所需的工程框架，简化多任务测试流程，提升大规模模型集成与实验的效率
跟踪全球大模型最新进展（如 Agent 评测、多模态对齐、自动化数据合成等），推动研究成果在真实业务场景中的落地
优先资格
计算机、人工智能、软件工程、数学、自动化等相关专业
有模型训练、推理加速或自动化数据合成经验
在国际顶级计算机会议/期刊（如 NeurIPS、ICML、ICLR、ACL、EMNLP 等）发表过一作论文，或在知名开源社区、顶级竞赛（如 ACM/ICPC、Kaggle）中有突出成果
AI 洞察
优缺点分析
优点
- 处于大模型技术爆发的核心赛道，能接触到最前沿的LLM后训练与对齐技术
- 依托丰富的业务场景和算力资源，研究成果易于落地并产生巨大业务价值
- 团队技术氛围浓厚，与顶尖AI人才共事，有利于个人技术深度的突破
- 具备扎实深度学习理论基础、有顶会论文背景，且渴望在LLM对齐与安全领域深耕的算法研究者
缺点 / 挑战
- 大模型技术迭代极快，需要持续跟踪全球最新论文和技术进展，学习压力大
- 模型训练和评测涉及海量数据与庞大算力，工程落地和调试的复杂度较高
角色解读
- 纵向可晋升为高级技术专家或首席科学家，主导大模型核心算法架构
- 横向可拓展至多模态、Agent等前沿AI领域，成为综合性AI技术领军人物
- 负责大模型的安全与能力评测，设计自动化评测方案并构建高质量数据集
- 训练奖励模型（Reward Model），利用强化学习（RL）提升大模型在指令遵循和安全性上的表现
- 开发评测与奖励系统的工程框架，跟踪前沿技术并推动研究成果在业务中落地
- 深入理解Transformer架构及大语言模型原理，熟悉SFT、RL等后训练技术
- 精通Python及PyTorch/TensorFlow等深度学习框架，具备卓越的代码工程能力
- 具备系统性研究思维，有顶会论文发表或顶级竞赛获奖经历者优先
申请策略
- 提前了解阿里通义千问等大模型产品的最新动态和技术博客，展现对业务的关注
- 重点突出在LLM后训练（SFT/RLHF）、Reward Model训练或模型评测方面的实际项目经验
- 详细列出在NeurIPS、ICML、ACL等顶会发表的一作论文，或在Kaggle等顶级竞赛中的名次
- 展示卓越的代码工程能力，如参与过知名开源项目或实现过推理加速、自动化数据合成等
- 深入学习RLHF、DPO等对齐算法的最新变体，以及LLM-as-a-Judge的前沿方案
- 提升大规模分布式训练和推理加速的工程实践能力，熟悉Megatron-LM或DeepSpeed等框架
面试指南
- 采用STAR法则描述项目：背景（大模型对齐痛点）、任务（提升安全性/指令遵循）、行动（设计Reward Model/RL算法）、结果（指标提升/业务落地）
- 对于系统设计问题，从数据构建、模型选型、训练策略、工程部署四个维度进行结构化拆解
- 请详细介绍你之前训练Reward Model或进行RLHF/DPO对齐的具体流程和遇到的难点
- 如何设计一个可扩展的自动化评测方案来评估大模型在长尾场景下的安全性？
- 在LLM-as-a-Judge方案中，如何解决评测模型自身的偏见和幻觉问题？
- 请分享一篇你发表过的顶会论文的核心创新点，以及它在实际业务中的潜在应用
- 复习大模型后训练的核心论文（如InstructGPT, RLHF, DPO等），掌握其数学原理和工程实现细节
- 准备1-2个自己主导的复杂算法项目，能够深入探讨其中的技术选型、踩坑经验及优化方案
职位点评
薪资福利85
成长发展95
工作生活50
使命价值80
薪资福利
85较高
大模型算法专家岗位薪资极具竞争力，且作为已上市企业，福利体系完善，稳定性较高。
薪资信号偏高 (4千–8万/月)
成长发展
95较高
岗位处于AI最前沿领域，能接触大模型核心对齐技术，且要求跟踪全球最新进展，技术成长空间极大。
技术前沿前沿/新兴技术
技术栈大语言模型、Transformer、Reward Model、强化学习、LLM-as-a-Judge、PyTorch、SFT、RL
成长机会跟踪全球大模型最新进展
业务类型profit_center
工作生活
50较低
JD未提及工作模式和WLB信息，但大模型算法专家岗位通常面临较高的研发压力和较快的技术迭代节奏。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
大模型安全与对齐研究旨在让AI更可靠、更符合人类价值观，具有较高的社会正向价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
Watch Jobs