北方华创
AI研究院-高级 AI 运维工程师（AI Infra）
AI研究院-高级 AI 运维工程师（AI Infra）
发布于 7 天前普通员工/个人贡献者
全职员工仅现场办公DevOps/SRE
DevOps/SRE
Apisix
Dcgm
Envoy
Gpu
Tensorrt-Llm
Vllm
值不值得投
71综合评分
综合评分 71
前沿AI基础设施岗，技术栈前沿、薪资溢价明显，但on-call机制带来较大响应压力
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
3.5万
比DevOps/SRE中位数低
发布情况
正常在招 · 7 天前发布
公司情况
这家公司招聘很活跃
15 个在招
市场机会
选择面较广
北京 · DevOps/SRE · 92 个在招
职位详情
关于这个职位
北方华创AI研究院招聘高级AI运维工程师（AI Infra），在北京负责AI基础设施架构设计与建设，支撑模型训练与推理业务，涵盖GPU集群监控调度、生产级K8s集群运维、大模型推理部署与性能优化、服务网关落地及运维自动化与on-call机制建设
适合有GPU生产运维与K8s深度经验的高级工程师
最低要求
本科及以上学历，计算机、软件工程、人工智能等相关专业优先，5年以上运维/基础设施经验，2年以上AI Infra或GPU集群经验
精通GPU监控与故障排查（DCGM / nvidia-smi / Prometheus），有真实GPU生产运维经验
精通Kubernetes，熟悉GPU Operator、Device Plugin及调度机制
有vLLM / TensorRT-LLM等推理框架的生产部署经验，熟悉量化、Continuous Batching等优化技术
熟悉主流网关（Nginx / Envoy / APISIX），有AI推理流量治理经验
掌握Python / Go / Shell至少一种，具备自动化开发能力
具备技术架构思维，能独立完成底层架构设计与技术选型
特别优秀者可适当放宽要求
工作职责
负责公司AI基础设施架构设计与建设，支撑模型训练与推理业务
负责GPU集群的监控、调度、容量规划与成本优化
负责生产级K8s集群（含GPU节点）的部署、高可用与故障应急
负责大模型推理部署与性能优化，管理模型版本、灰度发布与回滚
负责服务网关方案落地，实现智能路由、流式响应与Token级限流
推进运维自动化建设，建立on-call与故障复盘机制
优先资格
有AI平台从0到1建设经验
熟悉NCCL调优、多机多卡分布式训练
有大规模GPU集群或离线在线混部经验
AI 洞察
优缺点分析
优点
- 大模型基础设施为当前高需求方向，GPU集群与推理优化经验市场溢价明显
- 覆盖架构设计、集群运维、推理优化、流量治理的完整AI Infra栈，能力面宽
- 有机会参与AI平台从0到1建设，成果可见度高
- 生产级GPU集群与推理服务故障排查复杂度高，对深度与广度要求都很高
- 适合有真实GPU生产运维与K8s深度经验、具备架构思维、能承担on-call职责的资深SRE/Infra工程师
缺点 / 挑战
- on-call与故障应急机制意味着需要承担非工作时间响应压力
角色解读
- 从高级运维工程师向AI Infra架构师方向发展，主导平台级架构设计
- 深入大模型推理优化与分布式训练方向，成为AI基础设施专家
- 亦可向AI平台负责人或技术管理路线转型
- 设计建设公司AI基础设施架构，支撑模型训练与推理业务稳定运行
- 管理GPU集群的监控、调度、容量规划与成本优化，保障生产级K8s集群高可用
- 负责大模型推理部署与性能优化，管理模型版本、灰度发布与回滚
- 落地服务网关方案（智能路由、流式响应、Token级限流），推进运维自动化与on-call、故障复盘机制
- 精通GPU监控与故障排查（DCGM、nvidia-smi、Prometheus），有真实GPU生产运维经验
- 精通Kubernetes及GPU Operator、Device Plugin与调度机制
- 熟悉vLLM/TensorRT-LLM推理框架与量化、Continuous Batching优化
- 熟悉Nginx/Envoy/APISIX网关，掌握Python/Go/Shell至少一种自动化开发语言
申请策略
- 准备一次重大故障应急与复盘的完整案例，展示故障处理方法论
- 面试前了解北方华创AI研究院的业务方向与算力规模
- 量化GPU集群规模与稳定性指标（如节点数、可用性、故障恢复时长）
- 展示vLLM/TensorRT-LLM推理部署与性能优化的具体成果
- 突出K8s生产集群运维、网关流量治理与自动化工具建设经验
- 深入NCCL调优与多机多卡分布式训练知识
- 学习大模型量化与Continuous Batching等推理优化技术细节
面试指南
- 基础设施问题按架构分层（硬件-调度-服务-网关）展开，给出指标与兜底方案
- 故障类问题用发现-定位-恢复-复盘四步法回答
- 优化类问题先讲量化基线，再讲优化手段与收益对比
- 你如何设计GPU集群的监控体系？DCGM与Prometheus如何配合？
- 生产级K8s集群（含GPU节点）如何做到高可用与故障应急？
- 请介绍一次vLLM/TensorRT-LLM推理部署与性能调优的实践
- 网关层如何实现智能路由与Token级限流？
- 你如何规划GPU算力容量并做成本优化？
职位点评
薪资福利80
成长发展88
工作生活40
使命价值60
薪资福利
80较高
JD未披露薪资，但按北京AI Infra高级岗位市场水平估算具有竞争力，JD亦未列明具体福利。
薪资信号未披露（AI估算：2.5千–4.5万/月）
成长发展
88较高
AI基础设施与大模型推理为前沿方向，岗位覆盖架构、调度、推理优化全栈，且有平台从0到1建设机会，成长空间大。
技术前沿前沿/新兴技术
技术栈Kubernetes、GPU、vLLM、TensorRT-LLM、Prometheus、NCCL、Continuous Batching
业务类型cost_center
工作生活
40较低
JD明确要求建立on-call与故障应急机制，非工作时间响应压力较大，未提及弹性办公安排。
工作模式未明确
办公地点未明确
加班情况JD含高强度暗示词
使命价值
60中等
AI基础设施支撑模型训练与推理业务，处于高速发展的AI赛道，但岗位本身以内部支撑为主，社会影响力间接。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
北方华创 的其他在招职位
相似职位推荐
Watch Jobs