月之暗面的大语言模型架构实习生（预训练方向）薪资是多少？

该职位薪资范围为 8k–15k（人民币/月）。

大语言模型架构实习生（预训练方向）的工作地点在哪里？

该职位工作地点位于北京市。工作形式为仅现场办公。

该职位要求本科学历及初级经验工作经验。

🤖 AI 估测：¥8K-15K

发布时间：6 天前

这是一个专注于大语言模型（LLM）预训练方向的实习生岗位

你将深度参与LLM模型架构（如MLP、Attention模块）的改进与训练方法（如模型并行、优化算法）的设计与优化，目标是提升模型训练与推理效率至SOTA水平

同时，你将学习如何设计科学实验，利用Scaling Law验证模型与算法，获得端到端的大模型训练实战经验

深度参与LLM的模型结构，包括MLP以及attention模块改进，以及训练方法的设计，包括模型并行策略优化，优化算法改进，量化算法改进，目标损失函数改进等方向，目标是同时在模型训练以及大概规模推理效率上取得SOTA级别的领先水平

深入调研如何设计科学的实验，利用scaling law验证模型设计以及训练算法，获取从头开始，端到端的大模型训练经验

本科及以上学历，计算机、人工智能、自动化、数学专业优先

扎实的编程基础，对数据结构、算法设计基础有深度了解，熟练使用PyTorch或其他深度学习框架

责任心强，积极主动，有良好的沟通和合作能力

有深度学习训练丰富实操以及参数调优经验者优先

有高性能计算经验者优先，有Triton，CUDA等GPU kernel编码经验优先

有ACM/IOI/NOI/Top Coder等算法竞赛获奖经历优先

在顶级学术会议上发表论文者优先，在机器学习、人工智能领域内获得过优异成绩者优先

大语言模型架构实习生（预训练方向）

🤖 AI 估测：¥8K-15K

发布时间：6 天前