蚂蚁集团
蚂蚁集团-大语言模型算法专家-北京/上海/杭州
蚂蚁集团-大语言模型算法专家-北京/上海/杭州
发布于 大约 3 小时前普通员工/个人贡献者
北京市 / 上海市
高级经验
全职员工
仅现场办公
硕士
机器学习工程
Deepspeed
Flashattention
Llm
Megatron-Lm
Nlp
Pytorch
强化学习
指令微调
数据工程
AI 估算 · 50k–80k
LLM算法专家稀缺，蚂蚁集团薪资领先，北京/上海/杭州一线城市，硕士+博士优先，月薪5-8万合理
职位详情
关于这个职位
该职位是蚂蚁集团的大语言模型算法专家，负责大模型的指令微调、强化学习全流程研发，以及数据工程和模型评测
你将接触前沿的LLM技术，参与构建高质量的数据集，并追踪如MoE、Long Context等最新进展
适合对NLP和LLM有深厚功底、期望在顶级平台从事前沿算法研究的候选人
最低要求
学历背景：计算机、人工智能、数学等相关专业硕士及以上学历，博士优先
核心技能：
(1）深厚的 NLP 算法功底，熟悉 Transformer 架构（Llama, Qwen, Ling 等）
（2）熟练掌握 PyTorch，熟悉 Megatron-LM, DeepSpeed, FlashAttention 等分布式训练框架
实战经验：
（1）拥有从 0 到 1 训练或微调过 10B+ 参数规模模型的经验
（2）熟悉 SFT 数据构建技巧，能够通过合成数据（Synthetic Data）提升模型能力
（3）编程能力：优秀的 Python 编程能力，具备良好的代码规范和工程素养
工作职责
模型训练与调优：负责大语言模型的特定能力的指令微调及人类反馈强化学习的全流程研发工作
数据工程：设计并实施高质量的数据清洗、配比与增强策略，构建用于提升模型逻辑推理、代码生成或领域知识能力的特定数据集
模型评测与迭代（重点）：
（1）构建完善的模型评测体系，深入分析模型在各类 Benchmark（如 C-Eval, CMMLU, GSM8K, MMLU, HumanEval 等）上的表现
（2）针对模型在特定任务上的短板进行归因分析，并提出针对性的优化方案（如数据合成、Prompt Engineering、思维链 CoT 优化等）
前沿技术跟进：追踪 NLP 及 LLM 领域的最新学术进展（如 MoE 架构、Long Context、Agent 等），并快速复现与落地到业务场景中
优先资格
具备极强的数据敏感度，能够有效识别并处理训练数据中的污染问题，确保模型能力的真实泛化而非单纯记忆
竞赛获奖：在 Kaggle、ACM、KDD Cup 等顶级算法竞赛中获得过金牌/名次
学术成果：在 ACL, EMNLP, ICLR, NeurIPS 等顶会发表过高质量论文
开源贡献：知名开源 LLM 项目的核心贡献者
AI 洞察
优缺点分析
优点
- 蚂蚁集团平台大，拥有丰富的业务场景和海量数据，技术落地价值高
- LLM方向是当前AI最热赛道，技能积累极具市场竞争力
- 团队技术氛围浓厚，可接触前沿技术（如MoE、Agent），个人成长快
- 职位要求极高，需要从0到1训练10B+模型经验，门槛高
- 适合具备深厚NLP算法功底、有大模型训练实战经验、追求技术前沿和快速成长的资深算法工程师
缺点 / 挑战
- 算法领域竞争激烈，需持续跟进学术前沿，工作压力较大
- 大模型训练对算力和时间成本要求高，可能需要应对工程和资源协调挑战
角色解读
- 技术纵深：成为LLM训练和调优领域的专家，主导核心模型研发
- 技术管理：可转向AI团队的技术负责人或架构师，带领团队攻克难题
- 行业影响：通过顶会论文和开源贡献建立个人品牌，进入顶尖AI公司或创业
- 负责大语言模型的指令微调和强化学习全流程，包括训练、调优和部署
- 设计和实施高质量的数据清洗、配比与增强策略，构建特定任务数据集
- 构建模型评测体系，分析Benchmark表现，定位短板并提出优化方案
- 追踪LLM前沿技术（如MoE、Long Context、Agent），并快速落地到业务中
- 深厚的NLP和Transformer架构功底，熟悉主流LLM（如Llama、Qwen）
- 熟练掌握PyTorch及分布式训练框架（Megatron-LM、DeepSpeed、FlashAttention）
- 具备从0到1训练或微调10B+参数规模模型的实战经验
- 优秀的数据敏感度和Python编程能力，能通过合成数据提升模型能力
申请策略
- 提前研究蚂蚁集团在LLM方向的产品（如支小助、蚂蚁百灵），结合自身经验阐述如何贡献
- 准备一个完整的大模型训练项目演示，包括数据构建、训练过程、评测结果和优化思路
- 突出从0到1训练或微调大模型的完整项目经验，明确模型参数量、训练框架和效果
- 展示数据工程能力，如数据清洗、合成数据策略及对模型能力的提升
- 列出在Benchmark（如C-Eval、MMLU）上的成绩或优化案例
- 强调竞赛获奖、顶会论文或开源贡献等加分项
- 熟悉分布式训练框架（DeepSpeed、Megatron-LM）和FlashAttention等优化技术
- 学习RLHF和指令微调的最新方法，如DPO、PPO等
面试指南
- STAR法则：描述项目背景、任务、行动和结果，突出个人贡献和量化指标
- 问题解决导向：先分析问题根因，再提出多种方案，最后选择并落地
- 技术深度与广度结合：既讲原理，也讲实现细节和工程优化
- 请详细描述你从0到1训练一个10B+大模型的全流程，包括数据、训练、调优和评测
- 你如何设计一个数据清洗和增强策略来提升模型的逻辑推理能力？
- 在SFT和RLHF中，你遇到过哪些挑战？如何解决数据污染和奖励破解问题？
- 请解释FlashAttention的原理以及在大模型训练中的优势
- 你对MoE架构的理解？它在蚂蚁的业务场景中可能有哪些应用？
职位点评
76
综合评分
顶级的LLM研发岗位，技术前沿、成长极快，但工作强度高、WLB有限。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
最适合追求技术成长、薪资优厚、能接受高强度工作的资深NLP/LLM算法专家。
表现最好
成长发展
相对薄弱
工作生活
薪资福利85
成长发展95
工作生活40
使命价值70
薪资福利
85较高
蚂蚁集团薪资竞争力强，福利完善，但未明确披露具体薪资范围，可能面议。
薪资信号面议 (50K-80K/月)
成长发展
95较高
该职位处于LLM前沿技术领域，可深度参与大模型研发，个人成长空间极大，能积累稀缺技能。
技术前沿前沿/新兴技术
技术栈LLM、NLP、PyTorch、Megatron-LM、DeepSpeed、FlashAttention、SFT、RLHF、MoE、Long Context
业务类型profit_center
工作生活
40较低
工作地点为北京/上海/杭州，需现场办公，未提弹性工作，大模型研发通常强度较高。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
蚂蚁集团在金融科技领域有重要社会价值，LLM可赋能业务提升效率，但职位本身未强调使命感。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
蚂蚁集团 的其他在招职位
相似职位推荐
Watch Jobs