优刻得
算法工程师 (高性能计算与大模型推理优化方向)
算法工程师 (高性能计算与大模型推理优化方向)
发布于 3 天前普通员工/个人贡献者
上海市 / 深圳市
高级经验
全职员工
仅现场办公
硕士
研究与开发 (研发)
Cuda
Deepspeed
Gpu优化
Megatron-Lm
Nccl
Pytorch
Sglang
Vllm
大模型推理
AI 估算 · 30k–60k
技术栈要求高，市场稀缺，上海/深圳资深算法工程师薪资范围3-6万/月
职位详情
关于这个职位
该职位专注于大模型推理与训练的性能优化，需要深入底层硬件和框架链路，解决算力瓶颈问题
你将与顶尖客户合作，提供技术支持，同时参与模型复现与微调
适合对 GPU 底层技术有浓厚兴趣、喜欢挑战复杂工程问题的算法工程师
最低要求
教育背景：计算机科学、人工智能、计算机视觉、机器学习或相关领域的硕士或博士学位
技术栈要求：
框架经验：熟练掌握并实际使用过至少 2 种以上主流的模型推理或分布式训练框架（例如：vLLM, Sglang, Accelerate, Megatron-LM, DeepSpeed 等）
编码与实现：精通 Python/C++，具备扎实的 PyTorch 功底
必须具备从模型搭建开始实现 ResNet 或更先进模型（如 Transformer 系列、YOLO、Stable Diffusion）训练或微调的实际动手经验
软性素质：
拥有极强的好奇心与探索欲，不满足于“知其然”，更追求“知其所以然”
习惯挑战未知领域，具备在文档缺失或技术前沿地带独立解决问题的能力
具备良好的沟通能力，能够清晰地向客户解释复杂的技术问题
工作职责
全链路性能优化与研究（核心重点）：
深入研究并优化从上层框架（vLLM/Sglang）到 PyTorch，再到 CUDA/NCCL 以及底层硬件（GPU/网络互联）的完整调用链路
针对大模型推理和分布式训练场景，搭建性能理论模型（Performance Modeling），识别系统瓶颈
设计并实现精细化的性能监控系统，量化分析算力利用率（MFU/HFU）及通信开销
深度技术支持与问题排查：
协助客户定位主流开源代码在推理或训练过程中遇到的复杂 Bug
排查分布式环境下的机器故障（软硬件结合问题），保障集群稳定性
为客户提供定制化的性能优化与加速方案，提升模型落地效率
模型复现与微调实践：
基于 PyTorch 等框架，从零搭建或深度定制经典及前沿模型（如 Transformer 架构、Stable Diffusion、YOLO 等）
负责相关模型的微调（Fine-tuning）与适配工作，验证优化策略的有效性
优先资格
有高性能计算（HPC）、CUDA 算子编写或优化经验者优先
熟悉 GPU 硬件架构（如 NVIDIA Ampere/Hopper）及互联技术（NVLink/InfiniBand）者优先
有大规模分布式训练集群运维或性能调优工作经验者优先
在 GitHub 上有高质量开源项目贡献，或在相关技术社区活跃者优先
AI 洞察
优缺点分析
优点
- 接触最前沿的大模型优化技术，技术成长迅速
- 公司平台稳定，客户群高端，积累行业口碑
- 技术门槛高，需要同时掌握算法、系统和硬件知识
- 工作强度可能较大，需快速响应客户问题
- 前沿领域文档稀缺，需要较强的独立探索能力
缺点 / 挑战
- 工作内容具有高挑战性和深度，避免重复性调参
- 适合对底层技术有强烈好奇、喜欢解决复杂工程难题、不惧挑战的技术极客
角色解读
- 成为全栈优化专家，覆盖算法、系统、硬件
- 晋升为技术负责人，领导性能优化团队
- 横向拓展到 AI 基础设施架构师或分布式系统研究员
- 深入优化大模型推理与训练的全链路性能，从上层框架到底层硬件
- 搭建性能理论模型，识别系统瓶颈并设计监控系统
- 协助客户排查复杂 Bug，提供定制化加速方案
- 复现并微调前沿模型，验证优化策略有效性
- 精通 PyTorch、Python/C++，具备扎实的深度学习框架使用经验
- 熟悉至少两种推理或分布式训练框架（如 vLLM、DeepSpeed）
- 对 GPU 架构、CUDA、NCCL 有深入理解
- 具备强烈的自驱力和解决未知问题的能力
申请策略
- 在简历中强调对底层原理的探索实例，如分析 torch 算子实现
- 面试前准备一个性能优化案例，展示分析过程和结果
- 突出性能优化相关项目，如大模型推理加速、分布式训练调优
- 强调 CUDA 或 HPC 经验，展示底层编程能力
- 列出 GitHub 开源贡献或技术博客，体现社区活跃度
- 量化优化成果，如推理延迟降低比例、算力利用率提升
- 深入学习 CUDA 编程和 GPU 架构（如 Hopper）
- 熟悉 vLLM、Sglang 等推理框架的源码
面试指南
- 采用问题-分析-解决方案-结果的结构，先明确问题现象，再分析根因，最后给出方案和量化效果
- 对于理论问题，先给出定义，再举例说明应用场景
- 请解释大模型推理中常见的性能瓶颈及优化方法
- 描述一次你定位并修复分布式训练故障的经历
- 如何计算 MFU 和 HFU？它们有何含义？
- 请实现一个简单的 CUDA 算子用于矩阵乘法，并讨论优化思路
- 你在使用 vLLM 时遇到过哪些问题？如何解决的？
- 复习 GPU 架构知识，了解 Ampere/Hopper 的特性
职位点评
70
综合评分
前沿技术栈、极强成长性，但需现场办公，WLB一般。
更适合这类人
最适合追求技术深度和快速成长的求职者，对加班和现场办公无异议。
表现最好
成长发展
相对薄弱
工作生活
薪资福利70
成长发展95
工作生活40
使命价值75
薪资福利
70中等
薪资有竞争力，但JD未提及具体福利，整体补偿性中等偏上。
薪资信号未披露（AI估算：30K-60K/月）
成长发展
95较高
职位涉及全栈优化和前沿技术，成长空间极大，技术深度和广度兼备。
技术前沿前沿/新兴技术
技术栈PyTorch、CUDA、NCCL、vLLM、Sglang、DeepSpeed、Megatron-LM、GPU、大模型推理
成长机会成长空间
业务类型profit_center
工作生活
40较低
需要现场办公，且可能涉及故障排查，工作强度大，WLB一般。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
75中等
AI基础设施优化对社会有积极影响，但使命感不强。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs