米哈游
大模型平台开发工程师
大模型平台开发工程师
发布于 大约 7 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
CI/CD
Pytorch
量化
值不值得投
70综合评分
综合评分 70
技术前沿、成长性高，但办公模式未明确，WLB可能一般
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
40K
与机器学习工程中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 930 个在招 · 其中机器学习工程 7 个
市场机会
选择面较广
上海 · 机器学习工程 · 约 370 个在招
职位详情
关于这个职位
该职位负责大模型权重文件的全生命周期管理，包括量化、格式转换、精度验证和性能压测，并承担多算力卡适配与自动化评测
它是连接算法训练与推理服务的关键角色，确保模型高效、安全地上线
最低要求
必须满足（硬性）：
计算机相关本科+，3 年+ 模型平台/推理优化/MLOps（硕士 2 年+）
实操过量化与格式转换：FP8/INT8/INT4（GPTQ/AWQ），HF → TRT-LLM/vLLM/SGLang/ONNX，并能做转换后数值/精度验证
实操过精度评测与压测：搭建过评测集/流水线，用过 lm-eval-harness / vLLM bench / TRT-LLM benchmark，理解 TTFT/TPOT/吞吐/MFU
有模型上线准入的 CI/CD 自动化流水线经验（Argo/Airflow/Jenkins/GitLab CI 任一）
熟悉 K8s，有基于 K8s 的任务/流水线运行与排障
熟悉至少一种推理引擎（vLLM/TRT-LLM/SGLang/TGI）原理与使用，懂 GPU（CUDA/显存/并行）
熟练 Python（必须），了解 C++/Go，有 PyTorch/HF Transformers 经验
工作职责
模型权重全生命周期管理：接收训练 ckpt（Megatron/DeepSpeed/FSDP）→ 合并/转换为统一发布格式（HF safetensors）→ 校验（checksum/安全扫描）→ 分层存储与 GC → 版本与血缘（训练→ckpt→转换→量化→评测→部署）
量化与格式转换：HF → TRT-LLM / vLLM / SGLang / ONNX
FP8/INT8/INT4 量化（GPTQ/AWQ/SmoothQuant）
转换后数值 diff 与精度对齐
模型仓库准入：Model Hub/Registry（目录/版本/别名/RBAC），准入标准（元数据/必交文件/安全/license/精度/性能门禁），输出认证报告
精度验证与压测性能：逐层数值对齐 + 通用/业务评测集 + 精度回归门禁
benchmark（TTFT/TPOT/吞吐/显存/MFU）+ 性能基线 + perf 回归
上线准入自动化链路（CI/CD for Model）：开源模型自动接入（拉取→扫描→转换→精度→压测→认证→入库）
闭源/API 模型接入（协议/效果/延迟/成本/fallback/灰度）
Pipeline-as-Code（Argo/Airflow/Jenkins）
成本计算：cost per token 建模（GPU 单价 ÷ 实测吞吐），输出卡型×精度×并行的成本矩阵，支撑硬件选型
多算力卡适配与自动化评测：NVIDIA（CUDA/TRT-LLM）、AMD（ROCm/vLLM）、国产卡（昇腾 CANN/MindIE、寒武纪 Neuware、海光 DCU）
多卡 CI 矩阵自动跑精度+性能评测，输出支持度矩阵与对比报告，推动问题闭环
CI/Workflow 与 K8s：基于 K8s Job/Pipeline 做任务调度与资源治理（GPU quota/镜像/队列），流程平台化与可观测
优先资格
加分项：
有多算力卡适配与评测经验（NVIDIA + AMD/昇腾/寒武纪/海光，会其一即可，越多越好）
做过统一推理后端适配层或跨卡 CI 矩阵
有成本建模（cost per token / TCO）与硬件选型经验
有 Model Hub/Registry 建设经验
参与过 vLLM/TRT-LLM/SGLang 等开源
AI 洞察
优缺点分析
优点
- 技术栈前沿，涉及大模型、多算力卡适配等热门领域，技能积累价值高
- 岗位定位关键，是训练与推理之间的桥梁，能深度参与AI生产全流程
- 米哈游作为超大型企业，平台资源丰富，有良好的技术氛围
- 技术要求高，需要同时掌握量化、推理引擎、K8s等多个领域知识
- 作为“守门人”角色，需要严格把关模型质量，责任重大
缺点 / 挑战
- 工作可能涉及复杂的系统调试和性能优化，压力较大
- 适合有3年以上模型平台或MLOps经验，对大模型部署和性能优化有浓厚兴趣，能承受技术挑战的求职者
角色解读
- 可向模型平台架构师或MLOps专家方向发展，深入优化推理系统
- 有机会参与前沿AI项目，成为大模型部署领域的技术领袖
- 随着经验积累，可转向技术管理或跨团队协作，推动平台化建设
- 负责大模型权重文件的全生命周期管理，确保模型从训练到部署的标准化和自动化
- 执行模型量化、格式转换和精度验证，保证模型性能与质量
- 构建和维护模型上线准入的CI/CD流水线，提升部署效率
- 适配多种算力卡并进行自动化评测，优化推理性能和成本
- 精通模型量化技术（如GPTQ、AWQ）和格式转换工具（如TRT-LLM、vLLM）
- 熟悉MLOps实践，包括CI/CD、容器化（K8s）和性能压测
- 具备扎实的Python编程能力，了解PyTorch和Hugging Face生态系统
- 有模型评测和基准测试经验，理解推理性能指标如TTFT、TPOT、MFU
申请策略
- 研究米哈游在AI和游戏领域的技术应用，展示对业务的理解
- 准备关于模型上线流程和性能优化的实际案例，面试中可能深入讨论
- 突出模型量化、格式转换和精度验证的项目经验，展示具体成果
- 强调CI/CD流水线建设和K8s应用经验，体现自动化能力
- 列出参与过的推理引擎优化或开源项目，证明技术深度
- 深入学习TRT-LLM、vLLM等主流推理引擎的最新版本和特性
- 实践多算力卡（如AMD ROCm、国产卡）适配，扩展技术广度
- 了解成本建模和硬件选型知识，提升综合评估能力
面试指南
- 使用STAR法则（情境、任务、行动、结果）组织回答，突出技术细节和成果
- 强调系统化思维，从全流程角度分析问题，如考虑验证、压测、监控等环节
- 展示对性能指标（如TTFT、MFU）的深刻理解，并结合实际数据说明
- 如何设计一个模型上线准入的自动化流水线？
- 遇到模型量化后精度下降的问题，你会如何排查和解决？
- 在多算力卡适配中，遇到性能差异如何优化？
- 如何评估和比较不同推理引擎的性能？
- 请描述一次你优化模型推理成本的经历
职位点评
薪资福利70
成长发展90
工作生活40
使命价值75
薪资福利
70中等
该职位薪资水平在市场中上，但JD未披露具体数字和福利，补偿性动机满足程度一般。
薪资信号未披露（AI估算：30K-50K/月）
成长发展
90较高
职位涉及前沿大模型技术、多算力卡适配和MLOps，技能成长空间大，发展性动机强。
技术前沿前沿/新兴技术
技术栈TRT-LLM、vLLM、SGLang、Kubernetes、PyTorch、Hugging Face Transformers、量化、精度验证
业务类型ambiguous
工作生活
40较低
JD未提及办公模式和WLB信息，工作可能涉及高强度开发和调试，生活化动机满足有限。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
75中等
大模型领域高速增长，技术前沿，但社会影响力中性，使命导向未明确。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs