中科曙光
【2027】AI模型系统工程师-天津(J14491)
【2027】AI模型系统工程师-天津(J14491)
发布于 3 小时前普通员工/个人贡献者
全职员工仅现场办公高性能计算
高性能计算
Deepspeed
Megatron
Pytorch Profiler
Sglang
Vllm
值不值得投
80综合评分
综合评分 80
国产算力巨头核心研发岗，技术壁垒极高、成长空间大，薪资具竞争力，适合追求技术深度的博士级专家。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较职业起点。
薪资怎么样
4万
比高性能计算中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 620 个在招 · 其中高性能计算 39 个
市场机会
选择不多
天津 · 高性能计算 · 4 个在招
职位详情
关于这个职位
该职位主要负责AI大模型（如LLMs、多模态等）的性能分析与优化，结合自研芯片进行软硬协同设计，解决训练与推理过程中的计算、通信及I/O瓶颈
你需要开发自动化性能分析工具链，优化大模型推理体系，并为AI集群设计提供关键数据支持
最低要求
学历要求：博士学历，人工智能/计算机科学与技术/电子工程/微电子等相关专业
技术能力：深入理解Transformer系列模型计算原理，了解Megatron、DeepSpeed、vLLM、SGLang等AI框架源码级特性
熟悉通用大语言模型、多模态大模型的整体算法架构、技术体系
全面理解AI全链条技术栈，如AI编译，算子，框架，模型应用等
熟练使用AI模型/芯片/集群相关的性能分析工具链，掌握MPI/NCCL通信协议性能调优方法
熟悉大模型混合并行策略（TP/PP/EP）及通信优化技术（如AllReduce算法改进）
具备软件与硬件结合的分析能力，可根据模型特性拆解对硬件系统的需求，通过软硬协同优化性能
具备脚本开发（Python/Bash）或自动化分析工具设计能力，分析模型性能瓶颈，提供优化方向
工作职责
分析AI模型性能特征：聚焦主流AI模型（如LLMs、多模态大模型、OCR、ASR等），从计算、通信、仿存、I/O四大维度进行模型分析，并结合硬件架构实现软硬协同，定位性能瓶颈，构建依托自研芯片的模型特征图谱
调研大模型上下游生态技术，包括训练框架、推理框架、评测工具等，筛选和建议适配自身业务优化方向的技术栈
收集不同客户针对不同模型的SLA/SLO要求，比对分析自身产品与主流产品的差异和优劣势，为性能优化提供建设性建议
优化方案设计：结合特征分析结果和硬件架构，提出针对模型训练/推理的计算加速、通信优化、I/O效率提升等优化方案，并推动落地验证
工具链开发与应用：构建自动化性能分析框架，集成PyTorch Profiler等性能分析测试工具，实现端到端的AI模型性能测试与根因定位
协助和推动研发解决训练不稳定、loss spike、幻觉、灾难性遗忘等核心工程难题
制定大模型推理性能、效果、稳定性监控标准，搭建可观测、可迭代的推理优化体系
技术输出：撰写性能分析报告与优化建议，为AI集群设计和优化提供关键数据支持
AI 洞察
优缺点分析
优点
- 处于AI大模型与算力基础设施的核心交叉领域，技术壁垒高，个人核心竞争力强
- 能够接触到自研芯片与底层硬件架构，积累稀缺的软硬协同优化经验
- 依托超大型企业的算力资源与业务场景，能处理工业级大模型的真实工程难题
- 适合具备扎实计算机系统基础、对底层性能优化有浓厚兴趣，且拥有博士学历或同等深厚技术积累的顶尖技术人才
缺点 / 挑战
- 技术栈极深且更新极快，需要持续追踪大模型算法与底层硬件架构的最新进展，学习压力大
- 软硬协同优化涉及跨部门/跨团队协作，沟通与推动落地的难度较高
角色解读
- 纵向可成长为AI系统架构专家或首席科学家，主导下一代AI芯片与集群的软硬协同设计
- 横向可向AI基础设施技术总监发展，负责整体大模型训练推理平台的效能提升与技术演进
- 深入分析主流AI大模型（如LLMs、多模态）在计算、通信、内存和I/O维度的性能特征，定位系统瓶颈
- 结合自研芯片与硬件架构，设计并落地模型训练与推理的加速、通信及I/O优化方案
- 开发自动化性能分析工具链，解决训练不稳定等核心工程难题，并搭建推理优化监控体系
- 扎实的AI算法与系统底层基础，深入理解Transformer架构及Megatron、vLLM等主流框架源码
- 精通大模型混合并行策略（TP/PP/EP）及MPI/NCCL等通信协议的性能调优
- 具备软硬协同分析能力，能熟练使用Python/Bash开发自动化分析工具，并理解AI全链条技术栈
申请策略
- 提前了解中科曙光的自研芯片及算力集群架构，在面试中展现对公司硬件底层的理解与热情
- 突出在AI框架（如Megatron、DeepSpeed、vLLM）源码层面的修改、优化或贡献经历
- 详细列举参与过的大模型训练/推理性能优化项目，量化提升指标（如吞吐量提升、延迟降低）
- 强调软硬件协同经验，如算子开发、通信库优化或基于特定硬件架构的模型适配经验
- 深入研读主流大模型推理框架（如vLLM、SGLang）的源码，理解其PagedAttention等核心机制
- 补充分布式系统和高性能计算（HPC）知识，特别是MPI/NCCL通信底层原理及AllReduce算法优化
面试指南
- 采用“背景-问题定位-分析过程-解决方案-量化收益”的STAR法则，重点突出分析思路和量化结果
- 对于系统设计或优化问题，采用“自顶向下”或“自底向上”的分析框架，从模型层、框架层、算子层到硬件层逐层剖析
- 请详细描述你在过往项目中如何定位并解决大模型训练或推理过程中的性能瓶颈？
- 针对Transformer模型，TP/PP/EP混合并行策略在不同硬件拓扑下应如何选择和调优？
- 如果模型训练出现loss spike或训练不稳定，你会从哪些维度进行排查和解决？
- 请解释NCCL通信库的底层原理，以及在AllReduce操作中有哪些常见的优化手段？
- 如何构建一个端到端的自动化性能分析框架？你会集成哪些工具？
- 复习大模型分布式训练与推理的核心理论，准备好过往项目中性能优化数据的详细复盘
职位点评
薪资福利80
成长发展90
工作生活60
使命价值85
薪资福利
80较高
博士学历叠加AI大模型底层优化的高技术门槛，薪资在天津地区具有较强竞争力，福利体系完善。
薪资信号未披露（AI估算：3千–5万/月）
成长发展
90较高
岗位处于AI算力基础设施的最前沿，能深度参与自研芯片与大模型的软硬协同，技术成长空间极大。
技术前沿前沿/新兴技术
技术栈Transformer、Megatron、DeepSpeed、vLLM、SGLang、PyTorch Profiler、MPI/NCCL、TP/PP/EP
业务类型profit_center
工作生活
60中等
JD未明确提及工作模式与加班情况，但作为核心研发岗，可能面临一定的项目交付压力，整体生活节奏视具体团队而定。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
致力于国产AI算力基础设施与自研芯片的生态建设，对推动国内人工智能底层技术发展具有较高的社会价值与使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
Watch Jobs