黑芝麻
AI Infrastructure Engineer(J10621)
AI Infrastructure Engineer(J10621)
发布于 12 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
CI/CD
Cuda
Deepspeed
Nccl
Pytorch
分布式训练
性能优化
模型评估
混合精度训练
值不值得投
75综合评分
综合评分 75
硬核AI基础设施岗，技术深度与成长性极强，但WLB信息不明确。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
4万
与人工智能中位数基本持平
发布情况
新岗位 · 昨天发布
公司情况
这家公司招聘很活跃
24 个在招 · 其中人工智能 3 个
市场机会
选择面较广
上海 · 人工智能 · 约 260 个在招
职位详情
关于这个职位
这是一个负责AI训练与评估基础设施核心优化的岗位
你将深入优化深度学习训练代码（PyTorch），解决从GPU利用率、分布式训练通信到数据加载等全链路的性能瓶颈
同时，你需要搭建并维护高效的模型评估自动化管线，确保大规模模型训练的结果能得到快速、准确的评估反馈，以支持AI研究团队高效迭代
最低要求
计算机科学、软件工程或相关专业硕士/博士，3年以上工作经验
精通GPU计算优化（CUDA、cuDNN、TensorRT），能深入理解和优化训练代码
具备良好的工程能力，熟练使用Python或C++优化深度学习代码，具备调优大规模AI模型的经验
熟练掌握分布式计算，理解NCCL、Horovod、DeepSpeed等优化技术
熟悉混合精度训练（FP16/BF16）、张量并行、ZeRO优化等前沿训练策略
熟悉CI/CD、云计算和容器化（Kubernetes、Docker、Ray），能够管理大规模计算任务
具备搭建评估系统或相关自动化工具的经验，对模型指标监控、对比测试、可视化工具（TensorBoard、MLflow 等）和可视化等有深入理解
工作职责
优化深度学习训练代码：分析和优化现有PyTorch代码，减少计算冗余，提高GPU利用率
提升GPU训练效率：调整混合精度（FP16/BF16）、张量并行、流水线并行等策略，优化内存占用和计算速度
加速分布式训练：使用NCCL、Horovod、DeepSpeed、Megatron-LM等技术优化通信开销，减少节点间的同步瓶颈
构建高性能计算集群：管理和优化Kubernetes、Slurm、Ray等计算资源调度，提升训练任务的吞吐量
数据加载和存储优化：优化TFRecord、Parquet、LMDB等数据格式，加速数据预处理和I/O，减少CPU/GPU等待时间
Profiling和监控：使用nvprof、Nsight、PyTorch Profiler等工具分析训练瓶颈，并提出优化方案
搭建与维护评估基础设施：构建自动化评测管线、指标分析与可视化工具，为大规模模型训练结果提供快速而准确的评估反馈
将评估流程与训练管线或持续集成/持续交付（CI/CD）体系结合，实现评估自动化和高效迭代
优化评估的运行速度和资源占用，提升评估的吞吐量和可扩展性
支持AI研究团队：帮助研究员优化代码、调整超参数，确保模型训练高效稳定
优先资格
有优化PyTorch/TensorFlow核心代码或提交过深度学习框架开源贡献的经验
熟悉多种评估方法（如自动指标、人工评测、用户反馈等）的落地场景
参与或搭建过 ML 数据管理、模型监控、模型可解释性工具的经验
有云平台上构建深度学习评估管线的经验
AI 洞察
优缺点分析
优点
- 技术深度与前沿性：工作直接触及AI算力的核心问题，技术栈非常硬核（CUDA, 分布式框架），能快速积累底层系统优化能力
- 高影响力与可见性：你优化的基础设施是整个AI研发团队的效率基石，工作成果能直接加速模型迭代，价值容易被度量和认可
- 行业前景广阔：随着AI模型规模持续增大，对高效训练和评估基础设施的需求只增不减，技能护城河高
- 技术复杂度高：需要同时跨越分布式系统、GPU编程、深度学习框架等多个高难度技术领域，学习曲线陡峭
- 跨领域协作要求高：需要与算法研究员、数据工程师等多个团队紧密沟通，理解其需求并将其转化为基础设施解决方案
- 具备扎实计算机系统基础（操作系统、体系结构），对高性能计算和分布式系统有强烈兴趣，并乐于通过底层技术优化来赋能上层AI应用的高级工程师
缺点 / 挑战
- 问题排查难度大：性能瓶颈往往涉及软硬件全栈，定位和解决一个复杂问题可能需要长时间的调试和深入分析
角色解读
- 技术专家路线：深耕AI基础设施领域，成为GPU计算优化、分布式系统或MLOps方面的权威专家，影响公司的整体AI研发效率
- 架构师路线：向AI平台架构师发展，负责设计和规划支撑下一代更大规模、更复杂模型的计算基础设施
- 技术管理路线：在积累深厚技术背景后，可转向技术团队管理，领导基础设施工程师团队，参与技术战略制定
- 诊断并解决大规模深度学习训练中的性能瓶颈，通过优化代码、并行策略和数据处理流程来最大化GPU集群的利用率和训练速度
- 负责构建和维护高效的模型评估基础设施，将评估流程自动化并与训练管线或CI/CD集成，以支持快速、可靠的模型迭代
- 管理和调度高性能计算集群资源（如Kubernetes, Slurm），优化任务运行效率和资源吞吐量
- 与AI算法研究团队紧密协作，为其提供底层技术支持，确保前沿模型能够高效、稳定地训练和验证
- 精深的GPU编程与优化能力：必须熟练掌握CUDA，并理解cuDNN、TensorRT等库的原理与调优
- 扎实的分布式系统知识：深刻理解NCCL、Horovod、DeepSpeed等框架，能设计并优化跨节点的分布式训练方案
- 出色的工程编码能力：熟练使用Python/C++进行高性能代码开发，能够对深度学习框架（如PyTorch）有底层级的理解和修改能力
- 全面的MLOps视野：熟悉从训练、评估到部署的全流程工具链（CI/CD, Kubernetes, Docker），具备构建自动化管线的能力
申请策略
- 研究该公司（黑芝麻智能）的主要产品方向（自动驾驶计算芯片），思考你的AI基础设施优化能力如何为其特定的AI模型训练需求服务
- 在面试中准备好讨论具体的优化案例，能够清晰地阐述你发现问题、分析原因、实施解决方案并度量效果的完整思路
- 突出任何与GPU性能优化、CUDA编程、分布式训练框架（如DeepSpeed, Megatron-LM）相关的具体项目和量化成果（如‘将训练速度提升X%’，‘将GPU利用率从Y%提升至Z%’）
- 展示你构建或维护过的自动化工具链（CI/CD, 评估平台）经验，说明其如何提升了团队效率
- 如果有为PyTorch、TensorFlow等开源框架贡献代码或优化过其核心模块的经历，务必重点强调
- 系统性地复习或深入学习分布式训练算法（数据并行、模型并行、流水线并行）和通信原语（AllReduce）
- 实践使用NVIDIA的性能分析工具（Nsight Systems/Compute, nvprof）来剖析和优化深度学习 workload
- 尝试在云平台（如AWS, GCP）上用Kubernetes部署一个简单的分布式训练任务，熟悉从资源申请到任务调度的全流程
面试指南
- 对于性能优化案例：遵循‘背景-问题-分析-方案-结果’的STAR原则
- 重点阐述你的技术决策过程（为什么选择这个方案而非另一个）以及优化效果的量化度量
- 对于架构设计问题：强调你的权衡思路（trade-off）
- 例如，数据并行通信开销大但实现简单，模型并行/流水线并行能突破显存限制但实现复杂
- 结合具体模型规模、集群拓扑来谈
- 对于工具链问题：展示你的工程思维
- 从需求分析（支持哪些指标？如何触发？）到设计（模块划分、接口定义），再到实现（技术选型、容错处理）和运维（监控、告警）
- 请描述一个你处理过的最复杂的深度学习训练性能优化案例，遇到了什么瓶颈？你采用了哪些技术手段来解决？
职位点评
薪资福利70
成长发展92
工作生活55
使命价值80
薪资福利
70中等
该职位对薪资福利的满足程度较高。作为已上市大型企业的核心技术岗，薪资结构通常规范且具有市场竞争力，但JD未披露具体福利细节。
薪资信号市场水准 (3千–5万/月)
成长发展
92较高
该职位对技能成长和职业发展有极强的满足感。工作内容涉及AI最底层、最前沿的性能优化技术，技术深度和广度兼备，且直接赋能公司核心AI能力，成长空间巨大。
技术前沿前沿/新兴技术
技术栈CUDA、NCCL、DeepSpeed、Megatron-LM、PyTorch、Kubernetes、分布式训练
成长机会3年以上工作经验、硕士/博士、精通、深入理解
业务类型ambiguous
工作生活
55较低
生活化动机的满足程度有限。JD未提及任何工作模式（如弹性办公、远程）或WLB相关福利，作为基础设施岗，可能需要响应训练任务的紧急问题，存在一定的不确定性。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
意义感动机的满足程度较高。该岗位处于自动驾驶这一高速增长赛道的核心支撑环节，通过优化基础设施直接加速算法迭代，对推动公司产品落地有明确价值。
行业发展高速增长赛道
社会影响中性/一般
使命信号支持AI研究团队、确保模型训练高效稳定
创新程度积极采用新技术
黑芝麻 的其他在招职位
相似职位推荐
Watch Jobs