上海电气
AI运维工程师(27届校招)
AI运维工程师(27届校招)
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公DevOps/SRE
DevOps/SRE
Cann
Pytorch
Tensorrt-Llm
Vllm
性能优化
推理框架
昇腾Ascend
模型量化
算子开发
值不值得投
72综合评分
综合评分 72
校招AI算力运维岗，技术栈前沿且稀缺，成长性强，但薪资与工作模式信息不透明。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较职业起点。
薪资怎么样
1.5万
比DevOps/SRE中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
15 个在招
市场机会
选择面较广
上海 · DevOps/SRE · 约 160 个在招
职位详情
关于这个职位
该岗位面向27届校招，主要负责公司AI算力底座的搭建与运维：包括GPU/NPU异构集群环境部署、单机多卡大模型部署与量化验证、主流推理服务上线与压力测试，以及算子融合、KV Cache量化、并行调优等性能优化工作
你将深度接触昇腾CANN、vLLM、TensorRT-LLM等主流推理技术栈，是连接底层算力与上层AI应用的关键角色
最低要求
精通Linux操作系统、Docker容器部署与运维
熟练掌握PyTorch、模型量化、推理框架、服务器运维、资源监控等相关技能
工作职责
熟悉算力底座工具链，可独立搭建GPU/NPU异构集群运行环境，完成环境部署、版本治理、线上故障排查
能独立完成单卡/单机多卡LLM部署、量化验证、ATC模型转换、量化精度验证
熟练使用性能采集分析工具，能够开展基础性能分析，落地常规优化：算子融合、KV Cache量化、张量并行/流水线并行参数调优
能够部署主流推理服务（vLLM/TensorRT-LLM/vLLM-Ascend/MindSpore推理），实施压力测试，采集时延、吞吐指标，输出性能优化报告
具备独立开发自定义底层算子能力
遇到算子性能缺陷、算子缺失问题，能够完整整理复现环境、性能日志、模型样本，协同相关团队推进优化
优先资格
熟练掌握华为昇腾Ascend、CANN工具链者优先
AI 洞察
优缺点分析
优点
- 技术栈前沿且稀缺，直接接触昇腾CANN、vLLM、TensorRT-LLM等国产与国际主流推理生态
- 岗位横跨运维、部署、量化与算子优化，技术面宽，积累的算力底座能力在市场上供不应求
- 面向校招开放，对应届生友好，可在真实生产环境中快速补齐工程能力
- 所处AI算力方向属于长期投入领域，行业需求持续增长
- 异构算力环境（尤其昇腾生态）资料相对分散，排障与调优需要较强的自学和动手能力
- 推理性能优化涉及算子、量化、并行策略等多层知识，入门曲线较陡，需要长期积累
- 适合对AI底层基础设施、算力平台与推理性能优化真正感兴趣，动手能力强、愿意钻研异构硬件与算子细节的应届生
缺点 / 挑战
- 岗位偏底层与运维保障性质，故障响应和线上问题的处理节奏可能带来一定压力
角色解读
- 可从AI运维/推理部署工程师成长为AI基础设施专家，负责更大规模的集群与训练推理平台建设
- 也可向模型性能优化、算子开发等更偏底层的方向纵深发展，成为推理加速方向的稀缺人才
- 随着算力平台经验积累，后续可转向AI平台架构、MLOps工程或技术团队管理
- 负责公司AI算力底座的日常建设与运维，独立搭建GPU/NPU异构集群环境，处理环境部署、版本治理和线上故障
- 完成大模型的部署落地，包括单卡/单机多卡LLM部署、模型量化验证、ATC模型转换与精度校验
- 部署并调优vLLM、TensorRT-LLM、MindSpore等推理服务，做压测、采集时延与吞吐指标并输出优化报告
- 针对算子性能缺陷或缺失，复现问题并与相关团队协同推进底层算子优化
- 扎实的Linux系统与Docker容器运维能力，能独立排查线上环境问题
- 熟悉PyTorch、模型量化、主流推理框架与资源监控工具的使用
- 理解异构算力（GPU/NPU）与并行策略（张量并行、流水线并行、KV Cache），能做基础性能分析与调优
- 具备一定的C++/算子开发能力，能读懂并改写底层算子实现
- 有昇腾CANN经验更佳
申请策略
- 投递前了解上海电气在工业装备智能化、国产算力适配方面的业务方向，面试中体现对工业场景AI落地的理解
- 准备好讲清一个从环境搭建到性能调优的完整项目链路，体现独立解决问题的能力
- 突出Linux、Docker、GPU服务器环境搭建与运维相关的项目或实习经历，写清集群规模与遇到的问题
- 展示大模型部署经验：如用vLLM/TensorRT-LLM跑过推理服务，做过量化（INT8/FP8）与精度、时延对比
- 如有昇腾Ascend/CANN、ATC模型转换经历务必单独列出，这是本岗位明确的加分项
- 列出性能分析工具与优化成果，如吞吐提升、显存占用下降等可量化结果
- 系统学习昇腾CANN工具链与ATC模型转换流程，至少跑通一个开源模型的端到端部署
- 补充推理加速知识：KV Cache、PagedAttention、张量并行/流水线并行、算子融合的基本原理与实践
面试指南
- 用STAR结构讲项目：先说明环境与目标（模型规模、硬件、指标要求），再讲具体做法与工具，最后用数据说明效果
- 遇到原理题先给结论，再分层解释（框架层→算子层→硬件层），体现系统性理解
- 排障类问题按“复现—采集日志/指标—定位瓶颈—验证优化—回归”的闭环思路回答
- 你如何从零搭建一个多卡GPU/NPU推理环境？遇到过哪些问题，怎么排查？
- 模型量化后精度下降，你会如何定位和验证？ATC模型转换中常见坑有哪些？
- vLLM和TensorRT-LLM的差异是什么？PagedAttention、KV Cache量化原理讲一下
- 推理服务吞吐上不去，你会从哪些维度做性能分析？张量并行和流水线并行如何取舍？
- 如果某个算子性能不达标或缺失，你的处理流程是什么？
职位点评
薪资福利65
成长发展84
工作生活60
使命价值70
薪资福利
65中等
JD未披露薪资与福利信息，无法判断薪酬竞争力；作为面向应届生的技术岗，收入更多取决于校招统一标准，稳定性预期较好但补偿信息不透明。
薪资信号未披露（AI估算：1.1千–1.8万/月）
成长发展
84较高
岗位技术栈覆盖异构算力集群、主流推理框架、模型量化与底层算子开发，属于当前稀缺且成长性强的方向，技能积累价值高。
技术前沿前沿/新兴技术
技术栈GPU/NPU异构集群、Ascend、CANN、ATC、Linux、Docker、PyTorch、vLLM、TensorRT-LLM、MindSpore、模型量化、KV Cache、张量并行、算子开发
业务类型cost_center
工作生活
60中等
JD未提及办公模式、弹性工时或加班情况，也未说明具体办公地点与通勤条件，工作生活平衡相关信息缺乏。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
岗位围绕AI算力底座与国产算力生态建设，处于高速增长的AI基础设施赛道，但JD未表达明确的企业使命或价值主张。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs