黑芝麻
CUDA算子开发工程师(J10697)
CUDA算子开发工程师(J10697)
发布于 8 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Cuda
Gpu
Opencl
Pytorch
异构计算
性能优化
深度学习
算子开发
值不值得投
74综合评分
综合评分 74
深耕底层算子优化、技术成长空间大但WLB一般的硬核技术岗。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
35K
比算法优化工程师中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
24 个在招 · 其中算法优化工程师 4 个
市场机会
选择面较广
上海 · 算法优化工程师 · 约 110 个在招
职位详情
关于这个职位
该职位专注于GPU算子的性能优化与跨平台适配
您将负责CUDA算子的开发与调优，确保复杂AI模型在服务器端的高效运行，并主导解决算子在训练框架、AI编译工具中的技术问题，支持异构计算平台的计算稳定与高效
最低要求
具备丰富的GPU程序开发经验，熟悉CUDA、OpenCL，熟悉GPU加速库，包括并不限于cuBLAS/cuDNN/cutlass
熟悉各类深度学习网络和算子底层实现细节，有模型训练、推理调试调优经验
具备良好的工程实现能力，熟悉Python、PyTorch与C/C++编程开发
主动学习、良好的沟通能力和团队合作精神
工作职责
负责CUDA算子的开发适配和性能调优，支持复杂模型在服务器端的训练与推理
主导解决定制化算子在训练框架、AI编译工具和部署应用中的问题，确保算子在GPU、CPU及端侧异构计算平台上的高效计算和稳定兼容
跟踪算子领域新技术，根据AI模型发展趋势和硬件特性持续丰富算子库、提升算子性能
负责高性能算子的开发与优化，包括CPU、DSP、RVV等异构硬件，优化算子的性能，确保在不同硬件平台上的高效计算，包括但不限于FP32、FP16、FP8、INT16、INT8、INT4等数据类型
优先资格
有LLM开发部署经验，熟悉分布式训练、推理加速方法
了解AI编译原理、模型量化原理
从事过AI软件相关开发，包括AI编译器、AI算子库、AI推理/训练框架开发等
熟悉计算机算法与设计模式，有过ACM或其他编程竞赛经历
AI 洞察
优缺点分析
优点
- 深入AI计算底层，技术护城河深，能快速积累高性能计算与芯片协同优化的核心竞争力
- 直接接触最前沿的大模型和硬件发展，技术成长速度快
- 硬技能突出，在AI基础软件领域有广泛的职业选择机会
- 需同时处理算法理解、代码实现和跨平台调试，工作复杂度高
缺点 / 挑战
- 技术门槛高，需要持续跟进软硬件快速迭代的技术变化，学习压力较大
- 性能优化工作结果量化有时不够直观，可能面临挑战和挫折感
- 适合对计算机底层系统、GPU编程和算法实现有强烈兴趣，追求技术深度，能接受高强度技术挑战的工程师
角色解读
- 技术专家路线：深耕算子优化和异构计算，成为特定领域（如LLM推理优化）的技术权威
- 架构师路线：负责整个AI计算栈（编译器、运行时、算子库）的架构设计与演进
- 技术管理路线：带领小团队负责特定模块或产品线的算力与性能规划
- 负责高性能CUDA算子的开发、适配和性能调优，直接服务于AI模型训练和推理的核心计算环节
- 解决算子在不同硬件平台（GPU、CPU、DSP）和软件框架（PyTorch、AI编译器）上的兼容性与性能问题
- 跟踪前沿技术，持续优化和丰富算子库，以支持新模型和新硬件特性
- 精通CUDA/OpenCL等GPU编程模型，并深度理解cuBLAS、cuDNN等加速库的底层原理
- 熟悉主流深度学习网络结构和算子（如卷积、注意力机制）的底层实现与优化方法
- 具备扎实的C/C++和Python工程能力，能够编写高性能、可维护的代码
申请策略
- 在求职信或面试中，清晰表达你对AI计算底层优化的热情和理解，而不仅仅是罗列技能
- 研究黑芝麻智能在自动驾驶芯片和计算平台上的技术方向，思考算子优化如何赋能其业务
- 详细描述使用CUDA进行算子开发或性能优化的具体项目经验，量化性能提升指标（如吞吐量提升XX%）
- 列出掌握的GPU加速库（cuDNN/cuBLAS/cutlass）和深度学习框架（PyTorch）版本及使用深度
- 展示解决复杂工程问题（如跨平台兼容性、内存优化、混合精度计算）的案例
- 深入学习AI编译器（如TVM、XLA）和模型量化原理，与加分项要求契合
- 了解LLM（如Transformer）的计算特点及其在分布式训练和推理中的优化方法
- 回顾计算机体系结构知识，理解CPU、GPU、DSP等不同硬件的计算模型差异
面试指南
- 使用STAR原则（情境-任务-行动-结果）描述具体项目，重点突出分析过程和优化手段
- 从硬件特性（内存层次、并行单元）、算法实现、编译优化三个层面组织回答
- 结合具体技术细节（如使用Nsight Compute分析瓶颈、应用Warp级原语、使用Tensor Core等）展示深度
- 请介绍一个你优化过的CUDA算子，遇到了什么性能瓶颈？如何分析并解决？
- 如何保证一个算子在NVIDIA GPU、AMD GPU和手机端芯片上都能高效运行？
- 你对LLM中常用的算子（如Attention、GeLU）的性能优化有什么思路？
- 请解释一下FP16/FP8混合精度训练对算子开发的要求和挑战
- 复习CUDA核心概念：线程层次、共享内存、Warp调度、内存合并访问
职位点评
薪资福利75
成长发展85
工作生活60
使命价值70
薪资福利
75中等
该职位属于高端技术岗位，预期薪资具备市场竞争力，但JD未明确福利细节。
薪资信号市场水准 (2.5–4.5万/月)
成长发展
85较高
职位涉及GPU编程、异构计算、AI编译等前沿底层技术，技术深度和成长空间大，是典型的发展型岗位。
技术前沿前沿/新兴技术
技术栈CUDA、OpenCL、cuBLAS、cuDNN、cutlass、PyTorch、AI编译、模型量化、LLM、异构计算
业务类型ambiguous
工作生活
60中等
JD未明确提及工作模式和福利，仅现场办公，且底层开发岗位通常工作强度不低，生活平衡可能存在挑战。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
70中等
自动驾驶和AI计算是增长赛道，但该岗位聚焦技术实现，社会价值感更多通过技术影响力体现，而非直接社会服务。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs