中科曙光
移植优化工程师（天津）(J13671)
移植优化工程师（天津）(J13671)
发布于 3 天前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Cuda
Gpu集群
Pytorch
分布式系统
大语言模型
性能优化
模型量化
算子优化
值不值得投
70综合评分
综合评分 70
技术深度高、成长性好的AI系统优化岗，位于天津，WLB信息不明，薪资有竞争力。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
3.5万
与算法优化工程师中位数基本持平
发布情况
新岗位 · 3 天前发布
公司情况
这家公司招聘很活跃
约 320 个在招 · 其中算法优化工程师 12 个
市场机会
选择不多
天津 · 算法优化工程师 · 4 个在招
职位详情
关于这个职位
该职位负责大语言模型线上推理框架的性能优化，解决高并发、低延迟等核心问题
工作内容涵盖优化多卡GPU集群资源调度、深度适配NVIDIA GPU硬件架构进行算子级优化，并调研引入前沿技术以推动模型轻量化方案落地
需要深厚的C/C++编程、CUDA及深度学习框架经验
最低要求
编程能力: 精通C/C++，熟悉Python，具备扎实的数据结构与算法基础，有实际性能调优者优先
GPU与CUDA: 熟悉NVIDIA GPU架构及编程模型，掌握CUDA核函数优化、显存管理、多流并发等技术，有实际性能调优经验
框架与工具: 熟悉PyTorch、Megatron、vLLM/SGLang等深度学习训练和推理框架
工程经验: 有分布式系统开发经验，熟悉MPI、NCCL等通信库，或参与过大模型训练/推理项目者优先
学历背景: 计算机/电子/数学等相关专业背景
工作职责
负责大语言模型线上推理框架的性能优化，解决高并发、低延迟、高可靠性等核心问题，提升服务吞吐量与稳定性
优化多卡(如NVIDIA GPU集群)资源调度与通信效率，支持千卡级训练/推理场景
深度适配NVIDIA GPU硬件架构，利用CUDA、cuDNN等工具链进行算子级优化，提升模型计算效率与显存利用率
调研并引入前沿技术(如异构计算、AI编译器优化)，推动模型量化、蒸馏等轻量化方案落地
优先资格
加分项
熟悉硬件加速技术(如FP16/BF16混合精度、GPU Direct RDMA)
有大规模推荐系统、NLP模型优化经验，或开源社区贡献经历
具备跨团队协作能力，能与算法、业务团队紧密配合推动技术落地
AI 洞察
优缺点分析
优点
- 直接接触大模型推理优化的最前沿，能深入理解AI模型与硬件协同的底层原理
- 在中科曙光这样的算力基础设施公司，能接触到从芯片到集群的全栈计算技术
- 性能优化工作往往需要反复测试、调参和剖析，对耐心和细致度要求极高
- 技术栈较深且复杂，需要同时掌握软件工程、高性能计算、AI模型等多领域知识，学习曲线陡峭
- 工作成果需要与算法、业务团队紧密配合才能最终落地，对沟通协作能力有一定要求
- 追求技术深度、热爱钻研系统底层原理的性能极客
- 对GPU编程和异构计算有强烈兴趣，并愿意长期深耕的工程师
缺点 / 挑战
- 解决的是AI落地的硬核性能问题，技术深度和挑战性高，有助于形成稀缺的专业壁垒
角色解读
- 可成为GPU性能优化、AI编译器、异构计算领域的资深专家或架构师
- 向AI系统工程方向发展，负责构建更高效、更易用的AI计算平台
- 凭借对硬件与算法的双重理解，可转向AI芯片或计算框架的设计岗位
- 优化大语言模型在线上环境的推理性能，确保服务在高并发下稳定、低延迟运行
- 深入研究和利用NVIDIA GPU硬件特性，通过CUDA编程对底层算子进行极致优化，压榨硬件性能
- 解决多GPU/多节点间的通信与调度瓶颈，支撑超大规模模型的训练和推理任务
- 精深的C/C++和CUDA编程能力，能够直接编写和优化GPU核函数
- 对深度学习框架（特别是PyTorch）及其底层计算图有深入理解
- 具备分布式系统开发经验，熟悉MPI、NCCL等高性能通信库
申请策略
- 研究中科曙光在高性能计算和AI领域的技术布局与产品，理解其客户需求
- 准备一个与“性能优化”或“系统调优”相关的深度技术案例，用于面试时深入讨论
- 详细描述你在性能优化项目中的具体贡献，例如“通过XXX优化，将推理延迟降低XX%”或“将模型吞吐量提升XX%”
- 列出你熟悉的GPU架构、CUDA编程库（如cuBLAS, cuDNN）以及深度学习推理框架（如vLLM, TensorRT）
- 突出你在分布式系统开发、多机多卡通信优化方面的经验，有大规模集群实践是加分项
- 系统学习GPU体系结构与CUDA编程高级主题，如Warp级优化、显存层次利用、Tensor Core使用
- 深入实践至少一个主流的大模型推理框架（如vLLM），尝试阅读源码并参与其性能优化讨论
- 了解模型量化（INT8/FP8）、蒸馏等技术的基本原理和实现
面试指南
- 对于优化案例问题，使用STAR法则（情境、任务、行动、结果）结构化回答，重点突出你的技术决策和量化成果
- 对于技术原理问题，先阐述核心概念，再结合具体场景（如千卡训练）说明应用和优化点
- 对于开放性问题，展示你的系统性思维：从Profile分析瓶颈，到提出假设（计算/通信/内存），再到实施验证
- 请描述一个你做过的最有挑战性的性能优化案例，你是如何定位瓶颈并最终解决的？
- 如何优化多GPU之间的通信效率？NCCL在其中扮演什么角色？你了解哪些通信优化策略？
- 当你需要对一个大型神经网络模型进行推理优化时，你的整体思路和优先级是什么？
- 什么是CUDA中的Stream？如何利用多个Stream实现计算与数据传输的重叠？
- 你了解vLLM或SGLang等推理框架吗？它们解决的核心问题是什么？
职位点评
薪资福利65
成长发展85
工作生活60
使命价值68
薪资福利
65中等
天津作为新一线城市，生活成本相对较低，薪资水平对当地有竞争力，但相较于北京、上海等一线同类岗位可能不占优势。JD未明确提及福利细节。
薪资信号市场水准 (2.5千–4.5万/月)
成长发展
85较高
该岗位涉及大模型推理优化、GPU硬件适配等前沿技术领域，技术深度和挑战性高，能为从业者提供宝贵的系统级性能优化经验，技术成长空间明确。
技术前沿前沿/新兴技术
技术栈大语言模型、CUDA、GPU集群、PyTorch、vLLM、SGLang、模型量化
成长机会调研并引入前沿技术
业务类型ambiguous
工作生活
60中等
工作地点在天津，生活节奏可能较一线城市舒缓。但性能优化岗位通常需要高度专注和持续攻坚，工作强度不低。JD未明确说明办公模式和工作制度。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
68中等
高性能计算与AI算力是支撑各行业数字化转型的基础，岗位工作直接提升算力利用效率，具有明确的工程价值。但社会影响力相较于医疗、教育等领域不够直接。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
中科曙光 的其他在招职位
相似职位推荐
Watch Jobs