中科曙光
【2027】AI模型系统工程师-成都(J14492)
【2027】AI模型系统工程师-成都(J14492)
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Deepspeed
Megatron
Pytorch Profiler
Sglang
Vllm
值不值得投
81综合评分
综合评分 81
国产算力巨头核心研发岗，技术栈前沿且壁垒极高，薪资优厚，适合追求技术深度的硬核博士。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较职业起点。
薪资怎么样
4.8万
比算法优化工程师中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 620 个在招 · 其中算法优化工程师 34 个
市场机会
选择适中
成都 · 算法优化工程师 · 22 个在招
职位详情
关于这个职位
该职位负责分析主流AI模型（如大语言模型、多模态模型）的性能特征，从计算、通信、存储等维度定位瓶颈，并结合自研芯片进行软硬协同优化
你需要调研大模型生态技术，开发自动化性能分析工具链，制定推理监控标准，为AI集群设计提供关键数据支持
最低要求
学历要求：博士学历，人工智能/计算机科学与技术/电子工程/微电子等相关专业
技术能力：深入理解Transformer系列模型计算原理，了解Megatron、DeepSpeed、vLLM、SGLang等AI框架源码级特性
熟悉通用大语言模型、多模态大模型的整体算法架构、技术体系
全面理解AI全链条技术栈，如AI编译，算子，框架，模型应用等
熟练使用AI模型/芯片/集群相关的性能分析工具链，掌握MPI/NCCL通信协议性能调优方法
熟悉大模型混合并行策略（TP/PP/EP）及通信优化技术（如AllReduce算法改进）
具备软件与硬件结合的分析能力，可根据模型特性拆解对硬件系统的需求，通过软硬协同优化性能
具备脚本开发（Python/Bash）或自动化分析工具设计能力，分析模型性能瓶颈，提供优化方向
工作职责
分析AI模型性能特征：聚焦主流AI模型（如LLMs、多模态大模型、OCR、ASR等），从计算、通信、仿存、I/O四大维度进行模型分析，并结合硬件架构实现软硬协同，定位性能瓶颈，构建依托自研芯片的模型特征图谱
调研大模型上下游生态技术，包括训练框架、推理框架、评测工具等，筛选和建议适配自身业务优化方向的技术栈
收集不同客户针对不同模型的SLA/SLO要求，比对分析自身产品与主流产品的差异和优劣势，为性能优化提供建设性建议
优化方案设计：结合特征分析结果和硬件架构，提出针对模型训练/推理的计算加速、通信优化、I/O效率提升等优化方案，并推动落地验证
工具链开发与应用：构建自动化性能分析框架，集成PyTorch Profiler等性能分析测试工具，实现端到端的AI模型性能测试与根因定位
协助和推动研发解决训练不稳定、loss spike、幻觉、灾难性遗忘等核心工程难题
制定大模型推理性能、效果、稳定性监控标准，搭建可观测、可迭代的推理优化体系
技术输出：撰写性能分析报告与优化建议，为AI集群设计和优化提供关键数据支持
AI 洞察
优缺点分析
优点
- 接触最前沿的大模型底层技术与自研芯片，技术壁垒高，个人核心竞争力强
- 依托超大型上市企业的平台资源，能参与国家级或行业级大型AI算力集群项目
- 博士起点，岗位稀缺性强，在AI基础设施领域具有极高的行业认可度
- 技术深度要求极高，需同时精通AI算法与底层硬件架构，学习曲线陡峭
- 适合拥有计算机或微电子博士背景，对底层系统优化、大模型框架源码有浓厚兴趣，且具备极强钻研精神的硬核技术人才
缺点 / 挑战
- 解决训练不稳定、loss spike等核心工程难题需要大量的实验与调试，工作压力较大
角色解读
- 纵向可成长为AI系统架构专家或首席科学家，主导底层算力与框架的深度融合
- 横向可向AI集群系统设计、大模型基础设施研发或技术团队管理方向发展
- 深入分析主流AI大模型（如LLMs、多模态）在计算、通信、存储等维度的性能特征，定位瓶颈
- 结合自研芯片与硬件架构，设计并落地模型训练与推理的加速、通信及I/O优化方案
- 开发自动化性能分析工具链，制定推理监控标准，协助解决训练不稳定等核心工程难题
- 扎实的AI算法基础，深入理解Transformer架构及大模型全链条技术栈（编译、算子、框架）
- 精通Megatron、DeepSpeed、vLLM等主流AI框架的源码级特性及混合并行策略
- 具备软硬件协同分析能力，熟练掌握MPI/NCCL通信协议调优及Python/Bash脚本开发
申请策略
- 提前了解中科曙光自研芯片的架构特点及生态，在面试中展现软硬协同的思考
- 突出在Transformer模型、大语言模型或多模态模型上的底层优化经验及性能提升数据
- 详细列出对Megatron、DeepSpeed、vLLM等框架的源码级贡献或深度定制经验
- 强调软硬件协同优化经历，如MPI/NCCL通信调优、算子开发或AI编译器相关项目
- 深入研读vLLM、SGLang等最新推理框架的源码，掌握其显存管理与调度机制
- 补充分布式训练与混合并行策略（TP/PP/EP）的底层通信原理及AllReduce优化实践
面试指南
- 采用“问题定义-根因分析-方案设计-落地验证”的STAR框架，突出数据指标的提升
- 回答技术问题时，先从算法/框架层分析，再下沉到算子/通信层，最后结合硬件特性给出综合解法
- 请详细描述你如何定位并解决大模型训练过程中的loss spike或显存OOM问题？
- 在TP/PP/EP混合并行策略中，通信瓶颈通常出现在哪里？你有哪些具体的优化经验？
- 如果让你基于自研芯片优化vLLM的推理性能，你会从哪些维度入手？
- 请分享一个你通过软硬件协同设计，显著提升模型计算或I/O效率的实际案例
- 复习Transformer的底层计算原理及主流大模型框架的源码实现细节
- 准备1-2个自己主导的、具有代表性的性能优化项目，能够清晰画出架构图并解释优化收益
职位点评
薪资福利85
成长发展90
工作生活60
使命价值80
薪资福利
85较高
博士学历叠加AI大模型底层系统优化的高门槛，薪资水平在成都市场极具竞争力，且上市企业提供稳定的福利保障。
薪资信号偏高 (3.5千–6万/月)
成长发展
90较高
岗位涉及大模型全链条技术栈与自研芯片软硬协同，处于AI技术最前沿，技术成长空间与行业壁垒极高。
技术前沿前沿/新兴技术
技术栈Transformer、Megatron、DeepSpeed、vLLM、SGLang、PyTorch Profiler、MPI/NCCL、TP/PP/EP
业务类型profit_center
工作生活
60中等
JD未明确提及工作模式与WLB信息，但作为核心研发岗且涉及底层系统攻坚，工作强度可能不低。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
致力于国产自研芯片与大模型生态的软硬协同优化，对推动国产AI算力基础设施发展具有较高的社会价值与使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
Watch Jobs