米哈游
平台研发-AI 推理系统工程师
平台研发-AI 推理系统工程师
发布于 大约 16 小时前普通员工/个人贡献者
上海市
无经验要求
全职员工
仅现场办公
本科
人工智能
Cuda
Llm
Nvidia
Rocm
Tensorrt
Vllm
性能优化
AI 估算 · 25k–40k
职位详情
关于这个职位
该职位负责AI模型在多硬件平台的生产级推理部署与性能调优，涉及NVIDIA、AMD及国产芯片
你将与算法团队协作，输出最优部署方案，并搭建Benchmark体系保障线上稳定性
适合对AI推理引擎和性能优化有浓厚兴趣的2027届毕业生
最低要求
届本科及以上，有推理部署或 AI 性能优化经验
熟悉至少 2 种主流推理引擎（TensorRT / vLLM / Triton / SGlang 等）的原理与调优手段
熟悉 NVIDIA GPU 生态（CUDA、cuDNN、TensorRT、NCCL），了解其架构演进（A100 → H100 → B200 等）
了解 AMD ROCm 或国产 NPU 至少其一的演进路径、算子支持与生态现状
有开源大模型（LLM / 扩散模型 / 多模态） 部署优化实战经验
扎实的性能建模能力：能基于 FLOPs、带宽、显存、Batch Size、Sequence Length 等参数进行数学推导与方案设计
熟练使用 Linux、容器化（Docker / K8s）、网络、性能分析工具（nsight、nvprof、perf、bpf 等）
工作职责
模型部署：负责 LLM、CV、语音等多类模型的推理服务化部署，覆盖 NVIDIA（CUDA / TensorRT）、AMD（ROCm） 及国产卡（昇腾 CANN、寒武纪、燧原、摩尔线程等） 硬件平台
推理引擎选型与调优：能基于业务场景（吞吐 / 时延 / 成本）对比 TensorRT、vLLM、Triton、SGlang 等引擎，输出选型与调优方案
性能建模与分析：基于 Roofline 模型、计算 / 访存比、并行策略、KV Cache、Continuous Batching 等进行量化分析，定位瓶颈并给出优化建议
Benchmark 体系：搭建离线 / 在线压测与回归测试框架，输出量化评估报告
线上稳定性：推理服务监控、告警、异常排查与性能回归治理
跨团队协作：对接算法团队，理解模型结构、算子特性与精度约束，将工程约束前置反馈到模型设计与训练环节
优先资格
有推理框架二次开发或开源社区贡献（PR、Issue、博客）
熟悉量化（INT8 / FP8 / INT4 / GPTQ / AWQ）、剪枝、Speculative Decoding、PagedAttention 等优化技术
熟悉模型并行（TP / PP / EP / SP）策略与分布式推理
有训练-推理全链路经验（Megatron、DeepSpeed 等）
良好的文档输出与跨团队沟通能力
AI 洞察
优缺点分析
优点
- 技术前沿，涉及最新的AI推理引擎和硬件平台，能快速积累核心技术能力
- 公司平台大，资源丰富，有大量实战机会，能参与大规模模型的部署与优化
- 薪资待遇优厚，且作为校招岗位，有完善的培养体系
- 技术难度高，需要掌握多种硬件平台和推理引擎，学习曲线陡峭
- 对跨团队协作能力要求高，需要与算法、运维等多方沟通
缺点 / 挑战
- 工作强度可能较大，需要应对线上稳定性保障和性能调优的压力
- 适合对AI基础设施和性能优化有浓厚兴趣，具备扎实计算机基础，喜欢挑战技术难题的2027届毕业生
角色解读
- 在技术深度上，可以成为AI推理优化专家，精通各类硬件平台和推理引擎
- 在职业发展上，可以向技术专家或技术管理方向发展，带领团队负责核心推理系统
- 随着AI基础设施的重要性提升，该岗位的稀缺性和价值将持续增长，发展前景广阔
- 负责AI模型（LLM、CV、语音等）在多种硬件平台（NVIDIA、AMD、国产卡）上的推理服务化部署，确保模型高效稳定运行
- 进行推理引擎的选型与调优，根据业务场景对比TensorRT、vLLM、Triton等引擎，输出最优方案
- 搭建Benchmark体系，进行性能测试与回归分析，定位性能瓶颈并给出优化建议
- 与算法团队紧密协作，将工程约束前置反馈到模型设计与训练环节，提升整体效率
- 扎实的编程基础，熟悉Linux、容器化技术（Docker/K8s）和性能分析工具（nsight、perf等）
- 深入理解主流推理引擎（TensorRT、vLLM、Triton等）的原理与调优方法
- 熟悉NVIDIA GPU生态（CUDA、cuDNN、TensorRT、NCCL），了解硬件架构演进
- 具备性能建模能力，能基于FLOPs、带宽等参数进行数学推导与方案设计
申请策略
- 关注米哈游的技术博客和开源项目，了解其技术栈和团队风格
- 在面试中展现对AI推理系统的热情和深入思考，可以准备相关技术方案
- 突出AI推理部署或性能优化相关的项目经验，如使用TensorRT或vLLM部署过具体模型
- 强调对GPU架构和CUDA编程的熟悉程度，如有相关优化经验务必详细描述
- 展示性能建模能力，如通过数学推导优化过推理性能的案例
- 提及开源贡献或技术博客，体现技术热情和深度
- 提前学习主流推理引擎（vLLM、TensorRT）的原理和使用，可尝试部署开源模型
- 熟悉Linux系统、Docker/K8s等容器化技术，掌握性能分析工具（nsight、perf）
面试指南
- 对于技术问题，采用STAR法则：描述背景、任务、行动和结果，突出你的技术决策和优化效果
- 对于对比类问题，从性能、易用性、生态、成本等维度进行系统分析，展现全面思考
- 对于优化类问题，先分析瓶颈，再提出方案，最后验证效果，体现逻辑性
- 请介绍一个你使用TensorRT或vLLM部署模型的经历，遇到了哪些问题？
- 如何选择推理引擎？请对比TensorRT和vLLM的优缺点
- 解释一下Roofline模型，并说明如何用它分析性能瓶颈
- 如何优化LLM推理的显存占用？
- 你对国产NPU（如昇腾）的生态有何了解？
职位点评
76
综合评分
技术前沿、平台大、薪资优厚，但工作强度可能较高，WLB一般。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
更适合这类人
适合追求技术深度和职业发展，对AI基础设施有热情，能接受一定工作强度的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利80
成长发展90
工作生活50
使命价值70
薪资福利
80较高
米哈游作为大型游戏公司，薪资待遇优厚，福利完善，但JD未明确具体薪资，需面议。
薪资信号面议 (25K-40K/月)
成长发展
90较高
该职位涉及前沿AI推理技术，能接触多种硬件平台和引擎，技术成长空间大，且公司平台大，发展机会多。
技术前沿前沿/新兴技术
技术栈TensorRT、vLLM、Triton、CUDA、ROCm、LLM、量化、并行策略
业务类型ambiguous
工作生活
50较低
工作地点在上海，但JD未提及远程或弹性办公，且技术岗可能面临较大工作强度。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
AI推理系统是AI产业的关键基础设施，具有较高的技术价值，但社会影响力相对中性。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs