中科曙光
AI模型服务优化工程师(J14537)
AI模型服务优化工程师(J14537)
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
CI/CD
Gpu
Pytorch
Vllm
大模型推理
性能测试
值不值得投
74综合评分
综合评分 74
前沿大模型性能优化岗，技术含金量高，平台稳定，但需接受可能的现场办公与高强度技术挑战
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
2.0万
比AI算法中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 620 个在招
职位详情
关于这个职位
该职位专注于大模型推理服务的性能优化与质量保障
主要负责构建基准测试集、建立TTFT/吞吐等核心性能指标体系，并利用Profiler工具进行数据分析与问题排查
同时参与CI自动化测试及版本门禁建设，确保模型在GPU及云原生平台上的稳定高效运行
最低要求
计算机、软件工程、人工智能、自动化等相关专业，硕士优先
熟悉 Linux、Python，具备基本脚本开发和数据分析能力
理解软件测试、自动化测试、性能测试或 CI/CD 基础概念
对大模型推理、GPU、容器、云原生平台有兴趣
逻辑清晰，细致严谨，具备较强的问题跟踪和文档沉淀能力
工作职责
参与模型、推理框架、硬件平台的 benchmark 设计与回归测试集建设
建设 TTFT、TPOT、吞吐、显存、稳定性等性能指标体系
参与 profiler 数据分析、CI 自动化测试和版本质量门禁建设
跟踪线上/测试问题，维护缺陷分级、根因归档和问题知识库
协助形成模型适配、性能测试和发布准入标准
负责针对模型agent/token化服务中问题排查和解决
优先资格
有smg、dynamo、xinference 等实践经验
了解 vLLM、SGLang、Transformers、PyTorch 等框架
有模型压测、性能分析、GPU 监控或开源项目经验
AI 洞察
优缺点分析
优点
- 处于大模型基础设施的核心环节，技术栈前沿（GPU、云原生、推理加速），能积累宝贵的底层性能调优经验
- 依托上市大厂平台，资源充足且业务稳定
- 需要同时兼顾软件（框架）与硬件（GPU）知识，学习曲线陡峭
- 适合对计算机系统底层原理感兴趣，具备较强逻辑思维能力和动手能力的计算机相关专业硕士毕业生或初级工程师
缺点 / 挑战
- 性能优化工作往往面临极高的精度要求和复杂的故障排查场景，压力较大
角色解读
- 可向AI基础设施工程师、大模型系统优化专家或MLOps方向深耕，随着大模型应用落地，具备底层性能优化能力的人才极具稀缺性
- 负责大模型推理框架的性能基准测试（Benchmark）设计与回归测试集构建
- 搭建并监控TTFT、吞吐量、显存占用等关键性能指标，利用Profiler工具深入分析系统瓶颈
- 熟练掌握Python和Linux环境下的脚本开发
- 深入理解CI/CD流程及自动化测试原理
- 熟悉主流大模型推理框架（如vLLM、SGLang）及GPU架构特性
申请策略
- 准备一个具体的性能优化案例，展示如何通过数据分析定位瓶颈并提出解决方案，这将极大增加面试通过率
- 突出Python编程能力、Linux系统操作经验以及任何与性能测试、自动化测试相关的实战项目
- 若有vLLM、PyTorch等框架的使用或二次开发经历务必重点标注
- 补充学习大模型推理原理（如KV Cache机制）、GPU内存管理知识，以及常用的性能分析工具（如Nsight Systems, PyTorch Profiler）
面试指南
- 采用STAR法则（情境-任务-行动-结果）描述过往项目
- 对于技术问题，先阐述基本原理，再结合具体工具和方法论进行分析，最后给出优化思路
- 请简述大模型推理过程中TTFT和TPOT的含义及其影响因素
- 你如何使用Python进行数据处理或自动化脚本编写？
- 介绍一下你对CI/CD流水线的理解，以及如何将其应用于模型测试
- 如果模型推理延迟突然升高，你会从哪些维度进行排查？
- 复习操作系统基础（进程、线程、内存）、计算机网络基础，并深入了解至少一种主流大模型推理框架的工作机制
职位点评
薪资福利75
成长发展85
工作生活60
使命价值70
薪资福利
75中等
作为已上市的超大型企业，提供具有市场竞争力的薪酬和完善的福利体系，硕士学历起薪通常高于行业平均水平，稳定性高。
薪资信号市场水准 (1.5千–2.5万/月)
成长发展
85较高
岗位直接对接大模型推理这一前沿技术领域，涉及GPU、云原生等高价值技能，技术成长空间巨大，符合职业发展的高阶需求。
技术前沿前沿/新兴技术
技术栈vLLM、SGLang、PyTorch、Transformer、Dynamo、Xinference、GPU、CI/CD
业务类型profit_center
工作生活
60中等
传统IT/硬科技企业通常以现场办公为主，JD未提及弹性工作制或远程选项，工作节奏可能受项目交付影响，WLB表现中等。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
70中等
服务于国家算力基础设施和大模型产业发展，具有一定的战略意义和社会价值，但岗位本身更偏向工程实现，使命感体现相对间接。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
中科曙光 的其他在招职位
相似职位推荐
AI应用开发工程师
TCL · 深圳市
AI 估算 · 1.5–2.5万1 小时前发布
AI GPU Arch Perf Analysis Intern
英特尔 · 北京市
AI 估算 · 0.3–0.4千2 小时前发布
人工智能工程师
海尔 · 青岛市
AI 估算 · 2.5–4.5万2 小时前发布
SUN-AI工程师
库洛游戏 · 广州市
AI 估算 · 2.5–4.5万12 小时前发布
AI Infra系统研发工程师-成都/上海
腾讯 · 成都市
AI 估算 · 4.0–7.0万16 小时前发布
轻量云 Agent 高级工程师
腾讯 · 北京市
AI 估算 · 2.5–4.0万16 小时前发布
智能分析AI工程师
美团 · 北京市
AI 估算 · 3.0–6.0万16 小时前发布
AI Agent 研发工程师
美团 · 成都市
AI 估算 · 3.0–6.0万16 小时前发布
Watch Jobs