米哈游
大模型推理部署优化实习生-AI引擎
大模型推理部署优化实习生-AI引擎
发布于 大约 11 小时前实习/见习
上海市
无经验要求
实习生
仅现场办公
本科
软件工程
分布式系统
开源社区
GPU优化
CUDA
SGLang
vLLM
推理加速
大模型推理
AI 估算 · 4k–8k
米哈游待遇优厚，实习薪资在行业内处于较高水平，但具体视面试表现定。
职位详情
关于这个职位
该职位是大模型推理部署优化实习生，隶属于米哈游AI引擎团队
你将跟踪业界前沿推理技术，参与开源推理框架（如SGLang、vLLM）的部署、适配与性能优化，包括PD分离、显存优化等方向
同时会接触推理网关技术，积累分布式系统和高性能计算经验，为团队大模型平台建设提供技术支撑
适合对AI infra充满热情、动手能力强的同学
最低要求
计算机、数学、电子信息、自动化等相关专业本科及以上学历，优秀在校生优先
具备扎实的 Python 或 C++ 编程基础，熟悉 Linux 开发环境和常用工程工具
对大模型推理部署、推理加速、GPU 计算等方向有浓厚兴趣，具备较强的学习能力和问题分析能力
熟悉至少一种主流大模型推理框架，如 SGLang、vLLM、TensorRT-LLM、TGI 等，有实际部署或调优经验者优先
有 CUDA、Triton、NCCL、TensorRT 或其他 GPU 编程经验者优先
了解大模型推理相关技术，如 KV Cache、PagedAttention、Continuous Batching、Speculative Decoding、PD 分离、量化部署等者优先
具备良好的技术文档编写能力、沟通能力和自驱力，能够独立完成调研与工程验证任务
工作职责
跟踪业界大模型推理技术发展趋势，调研并分析主流开源推理框架及相关工程实践
参与开源大模型的高性能推理部署与优化工作，包括但不限于 PD 分离、推理参数调优、并发性能优化、显存优化等方向
支撑 SGLang、vLLM 等主流开源推理框架的部署、适配、测试与性能评估
参与推理网关相关技术调研，包括请求调度、路由策略、负载均衡、多模型服务管理、限流熔断等能力分析
跟踪开源社区重要特性演进，参与问题定位、性能瓶颈分析及工程修复
沉淀部署实践、调研报告和性能优化经验，为团队大模型推理平台建设提供技术支撑
优先资格
有大模型服务化部署、推理网关、模型服务平台相关实践经验
有性能分析和调优经验，熟悉 profiling、压测、指标监控等方法
有高性能计算、分布式系统、GPU 算子优化相关项目经验
在 GitHub、技术博客或开源社区中有相关技术输出
AI 洞察
优缺点分析
优点
- 接触前沿的大模型推理技术，紧跟AI基础设施发展方向，技术含金量高
- 米哈游作为头部游戏公司，技术氛围浓厚，团队实力强，能快速成长
- 实习薪资和福利有竞争力，且有机会获得转正offer
- 跟踪开源社区更新频繁，需要持续投入精力保持技术敏感度
- 适合对AI基础设施充满热情、喜欢深挖技术细节、具备较强自学能力的计算机相关专业学生，尤其是对推理加速和分布式系统感兴趣的同学
缺点 / 挑战
- 技术难度较高，需要掌握GPU编程、推理框架等较深的知识，学习曲线陡峭
- 实习生可能面临较强的同辈竞争压力，需要主动学习和沟通
角色解读
- 从实习生起步，深入AI infra领域，成长为推理优化工程师或分布式系统专家
- 积累开源社区贡献经验，可转向AI平台架构师或技术负责人
- 在米哈游内部有转正机会，未来可参与更核心的AI引擎研发
- 跟踪大模型推理技术前沿，调研分析主流开源推理框架，为团队提供技术选型参考
- 参与高性能推理部署与优化，包括PD分离、显存优化、并发性能调优等核心工作
- 部署和测试SGLang、vLLM等框架，评估性能并解决实际工程问题
- 研究推理网关技术，如请求调度、负载均衡，提升服务稳定性
- 扎实的Python或C++编程能力，熟悉Linux开发环境
- 对GPU计算和推理加速有浓厚兴趣，了解CUDA等并行计算技术
- 熟悉至少一种主流推理框架（如vLLM、SGLang），有实际部署经验更佳
- 了解大模型推理底层技术如KV Cache、PagedAttention等
申请策略
- 在简历中明确表达对推理优化的兴趣，并提及对米哈游产品的了解
- 面试前准备一个技术分享，展示你对某个推理框架的深入理解或优化实践
- 突出编程能力，展示Python/C++项目经验，特别是高性能计算或CUDA相关
- 强调对大模型的了解，如参与过推理部署或使用过vLLM等框架，附上GitHub链接
- 如有开源贡献或技术博客，一定要列出，体现技术热情
- 量化成果，例如优化后推理速度提升百分比等
- 提前学习vLLM或SGLang的源码和部署流程，动手实践本地部署一个模型
- 补充GPU编程知识，如CUDA编程模型和常用优化技巧
面试指南
- 原理性问题：先解释核心概念，再对比其他方案，最后结合应用场景
- 优化类问题：遵循“定位瓶颈-提出方案-验证效果”的步骤，强调数据支撑
- 项目经验问题：用STAR法则（情境、任务、行动、结果）清晰阐述
- 请描述一下vLLM中PagedAttention的原理及其优势
- 你如何优化一个模型的推理延迟？请给出具体方案
- 解释Continuous Batching和Static Batching的区别
- 你在GPU编程中遇到过哪些性能瓶颈？如何通过profiling定位？
- 对开源框架如SGLang的贡献经历？遇到过什么挑战？
职位点评
68
综合评分
技术前沿、成长迅速、薪资优厚，但需要现场办公且有一定技术压力。
更适合这类人
适合以技术成长为核心目标的求职者，尤其是希望深入AI基础设施领域的学生。
表现最好
成长发展
相对薄弱
工作生活
薪资福利70
成长发展90
工作生活40
使命价值70
薪资福利
70中等
实习薪资处于市场较高水平，米哈游福利待遇优厚，但实习期稳定性有限，且薪资与正式员工有差距。
薪资信号未披露（AI估算：4K-8K/月）
成长发展
90较高
该职位技术前沿，能深度参与大模型推理优化，团队实力强，成长空间极大，且有机会转正。
技术前沿前沿/新兴技术
技术栈大模型推理、GPU优化、CUDA、vLLM、SGLang、PagedAttention、分布式系统
成长机会技术调研、工程实践、性能优化、开源社区
业务类型ambiguous
工作生活
40较低
实习通常需要现场办公，且米哈游作为游戏公司可能有一定工作强度，WLB一般。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
AI推理优化对游戏行业智能化有推动作用，且米哈游知名度高，技术影响力较大。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs