黑芝麻
AI Infra资深工程师/专家(J10768)
AI Infra资深工程师/专家(J10768)
发布于 7 小时前基层主管/组长
全职员工仅现场办公云计算
云计算
CI/CD
Cuda
Deepspeed
Gpu优化
Pytorch
分布式训练
性能分析
模型评估
值不值得投
72综合评分
综合评分 72
高技术深度、前沿技术栈的AI基础设施核心岗位，技术成长性极强，但WLB信息未知。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
55K
比云计算中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
24 个在招
市场机会
选择适中
上海 · 云计算 · 33 个在招
职位详情
关于这个职位
该职位是黑芝麻公司AI基础设施团队的资深工程师或专家，核心职责是构建与优化支持大规模深度学习模型训练的底层计算系统
你需要深入分析训练代码、优化GPU计算与分布式训练策略、管理高性能计算集群，并负责搭建和维护模型评估基础设施，以确保AI研究团队能高效、稳定地进行模型开发
最低要求
计算机科学、软件工程或相关专业博士，3年以上工作经验, 硕士5年以上经验
精通GPU计算优化（CUDA、cuDNN、TensorRT），能深入理解和优化训练代码
具备良好的工程能力，熟练使用Python或C++优化深度学习代码，具备调优大规模AI模型的经验
熟练掌握分布式计算，理解NCCL、Horovod、DeepSpeed等优化技术
熟悉混合精度训练（FP16/BF16）、张量并行、ZeRO优化等前沿训练策略
熟悉CI/CD、云计算和容器化（Kubernetes、Docker、Ray），能够管理大规模计算任务
具备搭建评估系统或相关自动化工具的经验，对模型指标监控、对比测试、可视化工具（TensorBoard、MLflow 等）和可视化等有深入理解
工作职责
优化深度学习训练代码：分析和优化现有PyTorch代码，减少计算冗余，提高GPU利用率
提升GPU训练效率：调整混合精度（FP16/BF16）、张量并行、流水线并行等策略，优化内存占用和计算速度
加速分布式训练：使用NCCL、Horovod、DeepSpeed、Megatron-LM等技术优化通信开销，减少节点间的同步瓶颈
构建高性能计算集群：管理和优化Kubernetes、Slurm、Ray等计算资源调度，提升训练任务的吞吐量
数据加载和存储优化：优化TFRecord、Parquet、LMDB等数据格式，加速数据预处理和I/O，减少CPU/GPU等待时间
Profiling和监控：使用nvprof、Nsight、PyTorch Profiler等工具分析训练瓶颈，并提出优化方案
搭建与维护评估基础设施：构建自动化评测管线、指标分析与可视化工具，为大规模模型训练结果提供快速而准确的评估反馈
将评估流程与训练管线或持续集成/持续交付（CI/CD）体系结合，实现评估自动化和高效迭代
优化评估的运行速度和资源占用，提升评估的吞吐量和可扩展性
支持AI研究团队：帮助研究员优化代码、调整超参数，确保模型训练高效稳定
优先资格
有优化PyTorch/TensorFlow核心代码或提交过深度学习框架开源贡献的经验
熟悉多种评估方法（如自动指标、人工评测、用户反馈等）的落地场景
参与或搭建过 ML 数据管理、模型监控、模型可解释性工具的经验
有云平台上构建深度学习评估管线的经验
AI 洞察
优缺点分析
优点
- 直接接触AI模型训练的最核心环节，技术深度和广度兼备，能积累宝贵的系统级优化经验
- 在自动驾驶等前沿领域工作，技术成果直接影响产品核心能力，成就感强
- 工作成果难以像前端或产品那样直观展示，需要更深度的性能数据来证明价值
- 需要频繁与AI算法研究员合作，对沟通和技术翻译能力有一定要求
- 适合对计算机系统、高性能计算有强烈兴趣，享受通过工程手段解决极致性能问题，且希望技术能直接驱动AI落地的资深工程师
缺点 / 挑战
- 作为公司AI能力的基石岗位，通常能获得较高的技术影响力和资源支持
- 技术栈复杂且前沿，需要持续跟进最新的软硬件技术，学习压力大
角色解读
- 技术专家路线：可深入AI编译器、异构计算、新型硬件适配等前沿方向，成为领域内顶尖技术专家
- 架构师路线：可向AI平台架构师或系统架构师发展，设计更宏观的AI计算平台
- 技术管理路线：可带领团队负责更大规模的AI基础设施建设与团队管理
- 深度优化深度学习模型训练代码与GPU计算效率，挖掘硬件最大算力
- 设计和管理分布式训练集群与资源调度系统，保障大规模AI训练任务稳定高效运行
- 搭建并维护模型评估自动化管线，将评估流程与CI/CD集成，加速模型迭代反馈
- 作为AI研究团队的技术支持伙伴，解决训练过程中的性能瓶颈和工程问题
- 需要精通CUDA、PyTorch等底层优化，具备深厚的GPU计算和分布式系统知识
- 需要熟练掌握Kubernetes、Slurm等资源调度工具，以及DeepSpeed、Megatron-LM等主流训练框架
- 需要强大的工程实践能力，能用Python或C++编写和优化高性能代码
- 需要具备系统性思维，能构建端到端的训练与评估自动化工具链
申请策略
- 在面试前，可以研究黑芝麻智能公开的技术博客或论文，了解其技术栈和业务重点（如自动驾驶芯片）
- 准备一个你解决过的复杂AI系统性能问题的完整故事，涵盖问题分析、方案设计、实施与验证全流程
- 重点突出在GPU优化、分布式训练系统方面的具体项目经验和量化成果（如：将训练速度提升X倍，成本降低Y%）
- 详细描述你参与或主导的AI基础设施项目，特别是涉及集群管理、资源调度和CI/CD集成的部分
- 展示你使用过的关键工具和框架（如PyTorch, NCCL, Kubernetes）的深度使用经验，而非简单罗列
- 如果参与过开源项目或发表过相关技术文章，务必提及
- 深入研究一种或多种分布式训练框架（如DeepSpeed, Megatron-LM）的源码和最佳实践
- 学习并实践容器化（Docker）和集群调度（Kubernetes）在AI训练场景下的应用
面试指南
- 对于优化类问题，使用STAR法则，重点描述“任务（背景）-行动（具体分析步骤和优化技术）-结果（量化指标）”
- 对于系统设计类问题，先明确需求和约束，再从架构分层（数据层、计算层、调度层、监控层）的角度逐步展开，并讨论权衡
- 对于排查类问题，展示结构化思维：先看全局监控指标，再用profiler工具定位具体代码段，分析是计算瓶颈、内存瓶颈还是I/O瓶颈，然后针对性优化
- 请描述一次你优化深度学习训练代码性能的最成功经验，遇到了哪些瓶颈，如何分析并解决的？
- 在大规模分布式训练中，通信开销往往是瓶颈
- 你有哪些优化通信（例如使用NCCL）的经验和策略？
- 如何设计一个可扩展、高可靠的模型评估管线，并将其与CI/CD流程集成？
- 如果你要为一个新的深度学习任务从零开始规划GPU集群资源，你会考虑哪些因素？
职位点评
薪资福利75
成长发展90
工作生活45
使命价值70
薪资福利
75中等
该职位为高级技术岗位，要求深厚的专业经验，预计能提供有市场竞争力的薪酬，但JD未明确薪资和具体福利细节。
薪资信号面议 (4–7万/月)
成长发展
90较高
该职位处于AI技术栈的最底层和核心，能深度参与前沿的大模型训练与优化，对技术能力的深度和广度提升极大。
技术前沿前沿/新兴技术
技术栈PyTorch、CUDA、DeepSpeed、Megatron-LM、NCCL、Kubernetes、分布式训练、混合精度训练
业务类型ambiguous
工作生活
45较低
JD未提及任何办公模式或工作生活平衡相关信息，作为基础设施岗位可能需要处理紧急的训练任务故障，存在一定不确定性。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
该职位是自动驾驶等AI应用落地的关键技术支撑，通过优化算力效率直接推动技术创新，但工作成果相对间接。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs