科大讯飞
AI研究算法工程师-大模型训推框架优化方向(J13368)
AI研究算法工程师-大模型训推框架优化方向(J13368)
发布于 大约 8 小时前普通员工/个人贡献者
合肥市
无经验要求
全职员工
仅现场办公
硕士
研究与开发 (研发)
Ascendc
Cuda
Megatron
Pytorch
Vllm
大模型
并行计算
推理加速
训练优化
AI 估算 · 25k–35k
顶尖AI岗位，硕士及以上学历，科大讯飞上市大厂，合肥薪资水平，含年终奖约14薪。
职位详情
关于这个职位
这是一个面向应届硕士/博士的AI研究算法工程师岗位，专注于大模型的训练和推理框架优化
你将参与讯飞星火大模型的核心技术研发，包括推理加速、训练效率提升和前沿算法探索，有机会接触业界最新技术并落地到实际业务中
最低要求
重点院校硕士及以上学历，计算机、信号处理、自动化、应用数学等相关专业，具备一定的数理统计、模式识别、图像处理等理论知识
推理方向掌握C/C++和数据结构，了解大语言模型，有CUDA/AscendC/BangC等使用经验优先
训练方向掌握Python/Pytorch，了解工程加速技术，掌握大模型并行训练技术优先
对大模型训练和推理框架有使用和掌握者优先，如vLLM、SGLang、Megatron等
有AI芯片效率优化和使用经验者优先
学习能力强，可快速学习掌握新的方案，对LLM的业界新技术和新算法有求知欲
工作职责
负责多个领域的大模型推理加速算法在云端和嵌入式场景研发，包括量化、PD分离、算子优化等技术，支撑讯飞主要的云端和嵌入式推理业务，提升用户体验，降低部署成本
负责多个领域的大模型训练方案的设计和研发，基于超大训练集群，针对不同任务设计高效分布式系统，联合芯片底座优化训练效率，支撑讯飞星火大模型的长时稳定训练
负责跟进业界最前沿技术方案（并行技术、量化技术、MoE算法、稳定性保障等），结合实际任务需求和硬件特性，探索业务落地场景
参与新的大模型结构的设计、性能评估，从训练和推理的成本角度参与模型结构设计和优化
AI 洞察
优缺点分析
优点
- 接触大模型最前沿技术，参与核心算法研发，技术积累深厚
- 科大讯飞上市大厂，平台稳定，资源充足，有超大训练集群支持
- 合肥生活成本相对一线城市较低，薪资竞争力强，工作生活平衡较好
- 大模型领域技术迭代快，需持续学习新方案，保持技术敏锐度
- 作为校招岗位，对基础理论要求高，需要扎实的数学和编程功底
- 适合对大模型底层技术有浓厚兴趣、乐于钻研算法和系统优化、抗压能力强且愿意持续学习的应届硕士/博士
缺点 / 挑战
- 涉及底层硬件优化和分布式系统，调试难度较高，需要较强的问题解决能力
角色解读
- 从算法工程师逐步成长为技术专家，深入大模型训练/推理底层优化
- 可向AI系统架构师发展，主导大规模分布式训练和推理系统设计
- 在讯飞星火大模型体系内，有机会参与核心模型设计，成为AI领域的领军人才
- 研发大模型推理加速算法，包括量化、PD分离、算子优化，用于云端和嵌入式场景，降低部署成本
- 设计并优化大模型训练方案，基于超大集群实现高效分布式训练，保障星火大模型稳定训练
- 跟踪前沿技术（并行、量化、MoE等），探索业务落地，参与新模型结构设计并评估训练推理成本
- 扎实的编程基础：推理方向需精通C/C++，训练方向需精通Python/PyTorch
- 熟悉深度学习框架和工具，如vLLM、SGLang、Megatron等，有CUDA/AscendC/BangC经验优先
- 了解大模型架构和并行训练技术，具备较强的学习能力和算法研究能力
申请策略
- 建议提前了解讯飞星火大模型的技术路线和业务场景，在面试中展现对方向的理解
- 准备一个自己主导过的技术难点突破案例，展示算法设计、实现和调试能力
- 突出相关项目经验：如参与过大模型推理/训练优化、使用过vLLM/Megatron等框架、有CUDA或AscendC优化经历
- 强调编程和数学基础：展示C/C++或Python项目，以及数理统计、模式识别等课程成绩
- 如有竞赛或论文发表（如MLsys、NeurIPS等），务必列出，增强竞争力
- 提前熟悉主流大模型推理框架（vLLM、SGLang）和训练框架（Megatron、DeepSpeed）
- 学习并行计算和GPU编程（CUDA），掌握量化、蒸馏等模型压缩技术
面试指南
- 对于原理性问题，先给出定义，然后说明关键环节，最后举例或对比
- 对于项目或案例问题，使用STAR法则：背景、任务、行动、结果，突出个人贡献和技术难点
- 对于开放性问题，先分析问题本质，再列举可行方案，最后给出优先级建议
- 请详细解释大模型推理中的KV Cache优化原理，以及常见的量化方法（如INT8、INT4）
- 描述一下Megatron-LM中的张量并行和流水线并行是如何实现的，优缺点是什么？
- 如果训练过程中遇到loss spike，你会如何定位和解决？
- 你如何看待MoE在大模型中的应用？它的训练和推理有什么挑战？
- 请结合你的项目经验，讲一个你优化深度学习模型推理性能的案例
职位点评
80
综合评分
大厂核心AI研发岗，前沿技术栈，成长空间大，但薪资细节未明确，现场办公，WLB待观察。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
更适合这类人
该职位最适合以技术成长和发展为第一驱动的求职者，尤其是希望深入大模型底层优化、追求前沿技术的人才。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展90
工作生活70
使命价值80
薪资福利
75中等
科大讯飞为上市大厂，薪酬福利良好，硕士应届生薪资在合肥具备较强竞争力，但JD未明确具体薪资和福利细节。
薪资信号未披露（AI估算：25K-35K/月）
成长发展
90较高
岗位聚焦大模型前沿技术，涉及训练推理优化、芯片适配等，技术成长空间极大；公司提供超大训练集群和业界最新工具链，学习资源丰富。
技术前沿前沿/新兴技术
技术栈大模型、推理加速、训练优化、量化、CUDA、AscendC、vLLM、Megatron、并行计算
业务类型profit_center
工作生活
70中等
合肥非一线城市，生活成本低，但JD未提及远程办公或弹性工作，可能以现场办公为主，工作强度因项目压力可能较大。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
大模型和AI为核心技术赛道，行业增长迅速，讯飞星火大模型具有较大影响力，工作直接推动技术落地和行业进步，社会价值较高。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
科大讯飞 的其他在招职位
相似职位推荐
Watch Jobs