研究型实习生-大模型推理&训练实习工程师

优缺点分析

角色解读

• 从实习生转正为正式研究员或工程师，深入大模型优化领域
• 成为技术专家，主导推理或训练优化项目，发表高水平论文
• 向技术管理方向发展，带领团队攻克AI基础设施难题
• 研究并落地大模型推理优化技术，如量化、蒸馏、压缩、投机解码等，提升模型推理效率
• 优化大模型推理框架（如vLLM、SGLang），结合业务场景改进开源框架
• 参与大模型后训练（SFT、RL、AgenticRL）的迭代优化，解决训练技术难题
• 撰写技术论文并贡献开源代码，推动技术影响力
• 扎实的数学功底和深度学习理论基础，熟悉常见模型架构
• 精通C++和Python，具备高性能编程能力
• 熟悉推理优化技术（量化、蒸馏、压缩等）和推理框架（vLLM、SGLang等）
• 具备较强的自我驱动力和探索精神，能独立研究和解决问题

申请策略

• 关注阿里达摩院或AI部门的技术博客，了解研究方向
• 在简历中展示对开源社区的热情，如参与过知名项目
• 突出深度学习项目经验，尤其是模型优化或推理加速相关
• 强调C++/Python编程能力，可附上GitHub代码或开源贡献
• 展示数学功底，如竞赛获奖或相关课程成绩
• 如有论文发表或参与过相关研究，务必突出
• 提前学习vLLM、SGLang等推理框架源码
• 熟悉模型量化、蒸馏等优化技术，动手实践

面试指南

• 用STAR法则回答项目经历，突出挑战和成果
• 技术问题先讲原理，再结合实践，展示深度
• 遇到不会的问题，展示思考过程和求知欲
• 介绍你参与过的深度学习项目，如何优化模型性能？
• 解释模型量化的原理和常见方法
• 如何优化大模型推理速度？请举例说明
• 你对vLLM或SGLang的了解？如何改进它们？
• 谈谈你对大模型后训练（如RLHF）的理解