阿里巴巴
研究型实习生-算法工程师-端侧LLM加速&语音大模型加速方向
研究型实习生-算法工程师-端侧LLM加速&语音大模型加速方向
发布于 大约 14 小时前实习/见习
杭州市
初级经验
实习生
仅现场办公
硕士
机器学习工程
Llm
Pytorch
后训练
学术研究
模型压缩
端侧推理
语音多模态
量化
解码加速
AI 估算 · 5k–9k
阿里巴巴研究型实习生薪资在行业内偏中上，结合杭州生活成本和实习性质，估算月薪5000-9000元。
职位详情
关于这个职位
该岗位是阿里巴巴的研究型实习生职位，专注于端侧大语言模型（LLM）和语音多模态大模型的加速优化，包括后训练、压缩量化、解码加速等技术，目标是在手机、XR眼镜等设备上实现实时低延迟运行
适合对AI模型部署和优化有浓厚兴趣的在校硕士或博士生
最低要求
计算机科学、人工智能、语音处理、机器学习或相关领域的硕士或博士学位
在自然语言、语音等相关领域的研究研发经验
具备出色的编程能力，熟练掌握Pytorch等深度学习框架和Python编程语言
在顶级领域会议（如NIPS、ICML、ICLR、CVPR、ACL、AAAI、Interspeech、EMNLP、ICASSP等）发表过一作文章，有ACM竞赛获奖者优先
一周能实习至少三天，持续实习半年者优先
工作职责
探索端侧大语言模型LLM的后训练、压缩、量化、解码加速等技术，实现Qwen系列模型的手机端、XR眼镜端、AI眼镜端的实时运行和低延迟回复
探索端侧语音多模态大模型的架构升级、后训练、压缩量化等技术，打造手机端、XR眼镜端、AI眼镜端能实时运行和低延迟回复的语音对话大模型
持续关注学术界和行业的最新研究动态，参与研讨会，与顶级团队进行交流合作
优先资格
有ACM竞赛获奖者优先
持续实习半年者优先
AI 洞察
优缺点分析
优点
- 阿里巴巴大平台，资源丰富，有机会接触Qwen等旗舰模型和真实业务场景
- 研究前沿端侧AI技术，是未来AI落地的关键方向，技术含金量高
- 与顶级学术团队交流合作，积累科研和工程双重经验
- 端侧资源受限，优化难度大，可能面临大量工程调试和失败试错
- 实习要求每周至少3天，持续半年，时间投入大，可能影响学业或生活平衡
- 适合对AI模型部署和优化有强烈兴趣、具备扎实算法基础、能够在高压下自我驱动的硕博在校生
缺点 / 挑战
- 研究型实习门槛高，需要较强的自我驱动力和科研能力，压力较大
角色解读
- 深入研究端侧AI技术，成为AI推理优化领域的专家
- 可转正为正式研究员/算法工程师，继续推进大模型部署技术
- 有机会发表高质量论文，积累学术影响力，未来走向学术或行业领袖路线
- 研究并优化端侧大语言模型的推理性能，包括后训练、压缩、量化、解码加速等技术，实现Qwen系列模型在手机端、XR眼镜端的实时运行
- 开发端侧语音多模态大模型，进行架构升级和压缩量化，打造低延迟的语音对话体验
- 跟踪学术界和行业的最新研究动态，参与研讨会和合作交流，推动技术创新
- 扎实的机器学习/深度学习理论基础，熟悉LLM和语音模型架构
- 精通Python和Pytorch，能够快速实现和验证模型优化算法
- 有模型压缩、量化、推理加速等实践经验者优先
- 良好的学术能力，能读懂并复现顶会论文
申请策略
- 在简历或自荐信中明确表达对端侧LLM加速的独特见解和浓厚兴趣
- 提前研究阿里巴巴Qwen系列模型的技术特点，面试中展现对业务的理解和热情
- 突出顶会论文发表经历，尤其是一作论文，证明科研能力
- 强调模型压缩、量化、推理加速等项目的具体技术细节和量化成果
- 展示ACM竞赛等获奖经历，体现算法和编程实力
- 如有相关实习或开源项目（如GitHub），附上链接并说明贡献
- 系统学习LLM量化和剪枝技术，如GPTQ、AWQ、SparseGPT等
- 熟悉端侧推理框架，如MLC LLM、llama.cpp、TensorFlow Lite等
面试指南
- 采用STAR法则（情境-任务-行动-结果）清晰描述项目经验，突出量化结果和自己的贡献
- 针对技术方案类问题，先给出总体思路，再分步骤展开，体现逻辑性和工程思维
- 对于权衡类问题，先说明关键因素，再结合具体实例说明决策过程，展现批判性思维
- 你如何理解端侧LLM加速的主要挑战？有哪些常见的优化方案？
- 请详细介绍一下你参与过的模型压缩或加速项目，具体使用了什么技术？效果如何？
- 如果要求你将一个7B的LLM部署到手机端，你会如何设计技术方案？重点考虑哪些问题？
- 在量化过程中，如何平衡模型精度和推理速度？你会如何评估量化对任务性能的影响？
- 语音大模型与文本LLM在端侧部署上有何不同？需要额外注意哪些方面？
职位点评
64
综合评分
大厂前沿研究型实习，技术含量高，发展空间大，但需投入时间和现场办公。
从学习成长、工作节奏、岗位方向和实习待遇综合评估，方便比较实习机会。
更适合这类人
最适合追求技术成长和前沿研究机会，对工作时间投入有充分准备的硕博在校生。
表现最好
成长发展
相对薄弱
工作生活
薪资福利50
成长发展95
工作生活40
使命价值70
薪资福利
50较低
该职位为研究型实习，薪资固定且相对正式岗较低，但阿里巴巴的平台声誉和资源提供了较好的综合回报。
薪资信号未披露（AI估算：5K-9K/月）
成长发展
95较高
该职位处于AI前沿技术领域，有大量学习和成长机会，能与顶级团队合作，发展性动机高度满足。
技术前沿前沿/新兴技术
技术栈LLM、模型压缩、量化、解码加速、语音多模态、Pytorch、Python
业务类型ambiguous
工作生活
40较低
该职位要求现场实习，每周至少3天，持续半年，灵活性较低，工作节奏可能较快。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
该职位推动AI技术在智能硬件上的普惠应用，有积极的技术价值，但更偏商业导向。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs