简街
Machine Learning Performance Engineer
Machine Learning Performance Engineer
发布于 5 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Cuda
Distributed Training
Gpu Optimization
Low-Latency Systems
Machine Learning
Nccl
值不值得投
78综合评分
综合评分 78
顶尖量化机构的核心AI基础设施岗，技术前沿且极具挑战，薪资丰厚但WLB未明确。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
9万
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
公司还在招多个职位
5 个在招
市场机会
选择不多
香港特别行政区 · 机器学习工程 · 5 个在招
职位详情
关于这个职位
该职位负责优化机器学习模型的训练与推理性能，涉及底层GPU编程、CUDA优化及分布式GPU集群的网络与存储系统调优
你需要运用全系统视角解决低延迟和高吞吐量问题，确保ML平台在金融交易环境中的高效运行
最低要求
理解现代机器学习技术与工具集
具备端到端调试训练任务性能的系统知识与经验
掌握底层GPU知识，包括PTX、SASS、warps、协作组、Tensor Cores及内存层次结构
拥有使用CUDA GDB、NSight Systems、NSight Compute等工具进行调试与优化的经验
熟悉Triton、CUTLASS、CUB、Thrust、cuDNN和cuBLAS等库
对CUDA图启动、Tensor Core算术、Warp级同步及异步内存加载的延迟与吞吐量特性有深刻理解
具备InfiniBand、RoCE、GPUDirect、PXN、Rail优化及NVLink等网络技术背景，能够利用这些技术连接GPU集群
理解NCCL或MPI中支持分布式GPU训练的集合算法
具备创新思维，敢于对现有方法和工具的正确性提出质疑
英语流利
工作职责
优化机器学习模型的性能，包括训练和推理过程
关注高效的大规模训练、实时系统中的低延迟推理以及研究环境中的高吞吐量推理
改进直接的CUDA代码，并采用全系统方法，涵盖存储系统、网络以及主机和GPU级别的考量
确保平台在最底层的合理性，验证吞吐量是否转化为有效吞吐量（goodput），并分析底层缓存加载等性能细节
AI 洞察
优缺点分析
优点
- 接触最前沿的AI硬件与分布式系统，技术深度和广度远超普通互联网岗位
- 处于量化交易核心业务线，技术成果能直接转化为巨大的商业价值
- 对底层硬件和系统原理要求极高，学习曲线陡峭，需要持续跟进GPU架构演进
- 适合对底层系统、GPU架构和高性能计算有浓厚兴趣，且具备极强Debug能力的硬核技术极客
缺点 / 挑战
- 金融交易环境对延迟和稳定性要求苛刻，工作压力和排障难度较大
角色解读
- 可向机器学习系统架构师或量化研究核心开发方向发展
- 在顶尖金融机构积累的高性能计算经验，在AI基础设施领域极具竞争力
- 负责机器学习模型训练与推理的性能优化，解决低延迟和高吞吐量问题
- 深入底层GPU架构与网络硬件，进行全系统级别的性能调优与瓶颈排查
- 精通CUDA编程及底层GPU硬件特性（如PTX、SASS、Tensor Cores）
- 熟悉分布式训练框架及高性能网络技术（如NCCL、InfiniBand、NVLink）
申请策略
- 准备一些关于如何优化特定CUDA Kernel或解决分布式训练通信瓶颈的深度技术案例
- 突出在CUDA优化、GPU内存层次结构或分布式训练方面的具体项目经验与性能提升数据
- 展示使用NSight等工具进行全链路性能剖析和瓶颈定位的实际案例
- 深入学习NCCL集合通信原理及InfiniBand/RoCE网络协议栈
- 熟悉Triton或CUTLASS等高性能算子库的底层实现机制
面试指南
- 采用STAR法则，重点突出“问题定义-工具使用(如NSight)-底层原理分析-最终性能收益”的闭环
- 对于系统级问题，从计算、内存、网络三个维度拆解分析，展现全栈系统思维
- 请描述一次你使用NSight工具定位并解决GPU Kernel性能瓶颈的经历
- 在分布式GPU训练中，NCCL的集合通信算法有哪些？如何针对特定网络拓扑进行优化？
- Tensor Cores的编程模型是什么？如何最大化其利用率？
- 如何评估和优化CUDA Graph的启动延迟？
- 复习GPU硬件架构（如Ampere/Hopper）的内存层次、Warp调度及Tensor Core工作原理
- 准备1-2个极具深度的底层优化案例，能够经受住面试官对细节的连环追问
职位点评
薪资福利90
成长发展95
工作生活40
使命价值70
薪资福利
90较高
量化金融核心岗位，薪资极具竞争力，但JD未明确披露具体薪资与福利细节。
薪资信号未披露（AI估算：6千–12万/月）
成长发展
95较高
处于AI与高性能计算的最前沿，能接触到顶尖的GPU集群与分布式系统，技术成长空间极大。
技术前沿前沿/新兴技术
技术栈CUDA、PTX、SASS、Tensor Cores、Triton、CUTLASS、NCCL、InfiniBand、NVLink
业务类型profit_center
工作生活
40较低
JD未提及工作模式与WLB相关信息，但量化交易核心系统优化岗位通常面临较高的实时性压力。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
推动机器学习在金融交易中的前沿应用，具有较高的技术挑战性和行业影响力，但社会公益属性较弱。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
简街 的其他在招职位
相似职位推荐
Machine Learning Internship - PhD: 2027
Susquehanna International Group · 香港特别行政区
AI 估算 · 4–8万4 小时前发布
Quantitative Systematic Trading Internship - Master's: Summer 2027
Susquehanna International Group · 香港特别行政区
AI 估算 · 3.5–5.5万4 小时前发布
Quantitative Researcher - Machine Learning
Point72 · 香港特别行政区
AI 估算 · 10–25万5 小时前发布
Watch Jobs