蚂蚁集团
蚂蚁集团-运行时Runtime工程师-北京/上海
蚂蚁集团-运行时Runtime工程师-北京/上海
发布于 大约 3 小时前普通员工/个人贡献者
北京市 / 上海市
高级经验
全职员工
仅现场办公
本科
系统与安全工程
Cuda
Gpgpu
Linux内核
Npu
Rocm
Tvm
Vllm
性能分析
AI 估算 · 30k–50k
资深底层软件工程师，涉及芯片Runtime和AI推理，技术稀缺，一线大厂薪资竞争力强，月薪3-5万。
职位详情
关于这个职位
该职位负责蚂蚁自研芯片的Runtime软件栈开发，涉及内核驱动、任务调度、内存管理等底层系统，需要深入理解GPGPU/NPU架构和Linux内核
你将参与AI模型推理的部署优化，与硬件设计团队紧密协作，构建性能分析工具链
适合有5年以上底层开发经验、熟悉CUDA/ROCm等技术栈的资深工程师
最低要求
计算机相关专业，本科及以上学历，5年以上底软开发经验，熟练掌握C/C++/Makefile/bash等语言的使用
对GPGPU/NPU或类似大规模并行处理器（如NVIDIA CUDA, AMD ROCm）的软硬件架构有深刻理解，具备丰富的用户态驱动或高性能库开发经验
精通Linux内核，包括但不限于bootloader，init，内存管理，设备驱动等
精通C/C++，具有异构Runtime开发和量产交付经验优先
熟悉TVM/MLR等框架Runtime系统，熟悉AI模型推理部署链路，内存管理等
熟悉深度学习算法、大模型基本结构，熟悉相关推理框架，如llama.cpp、vLLM、OLLAMA 等
工作职责
基于自研芯片开发Runtime/UMD/KMD软件栈
参与芯片软件栈的架构设计，包括任务调度、内存管理、计算资源分配等核心子系统的实现与优化
参与硬件整个设计流程，迭代驱动设计以满足model/emulation/hardware的需求
分析和解决KMD/UMD的功能、性能和稳定性问题，确保高质量软件交付
构建性能分析、调试与 profiling 工具链，为内外部开发者提供性能洞察与优化建议
跟踪行业趋势和实践，持续改进driver的设计和实现
AI 洞察
优缺点分析
优点
- 参与自研芯片的软件栈建设，技术壁垒高，行业前景广阔
- 团队涉及从底层驱动到AI推理的完整链路，个人成长空间大
- 与芯片硬件设计团队紧密协作，能够深度了解软硬件协同设计
- 底层系统开发复杂度高，需要极强的调试能力和耐心
- 涉及芯片全流程，需要不断学习新架构和行业新技术，保持技术敏感度
- 大厂工作节奏可能较快，需要适应高强度协作与快速迭代
缺点 / 挑战
- 蚂蚁集团平台大，资源充足，技术挑战多样，职业履历含金量高
- 适合对底层系统有强烈兴趣、喜欢挑战复杂技术问题、愿意深耕芯片软件栈的资深工程师
角色解读
- 在芯片软件栈领域持续深耕，成为Runtime/驱动方向的专家
- 向架构师方向发展，主导芯片软件整体架构设计
- 横向拓展至AI基础设施领域，结合大模型推理优化，成长为技术Leader
- 基于自研芯片开发Runtime/UMD/KMD软件栈，负责驱动与用户态库的设计与实现
- 参与芯片软件架构设计，包括任务调度、内存管理、计算资源分配等核心子系统
- 与硬件设计团队协作，参与整个硬件设计流程，确保软件硬件协同高效
- 构建性能分析和调试工具链，为内外部开发者提供性能洞察与优化建议
- 精通C/C++和Linux内核，具备5年以上底层软件开发经验
- 深入理解GPGPU/NPU等大规模并行处理器的软硬件架构，熟悉CUDA/ROCm
- 熟悉异构Runtime开发，了解TVM/MLR等框架的Runtime系统
- 熟悉AI模型推理部署链路，了解llama.cpp、vLLM、OLLAMA等推理框架
申请策略
- 在面试中强调项目结果和量化收益，如性能提升、稳定性改善等
- 了解蚂蚁的芯片战略和自研芯片进展，在面试中展示对业务方向的理解
- 突出5年以上的底层软件开发经验，特别是驱动、Runtime或高性能库相关的项目
- 重点展示对Linux内核的理解，如内存管理、设备驱动等模块的实践
- 强调在GPGPU/NPU或CUDA/ROCm上的开发经历，如有开源贡献更佳
- 如有AI推理框架（如vLLM、llama.cpp）的优化经验，务必在简历中显眼位置体现
- 可突击复习Linux内核关键模块（如设备驱动、内存管理）和用户态驱动开发流程
- 熟悉TVM/MLR的Runtime工作原理，了解大模型推理框架的实现细节
面试指南
- 使用STAR法则回答项目经验：情境-任务-行动-结果，突出技术难点和你的贡献
- 对于架构设计题，先明确需求与约束，再提出分层方案，并讨论权衡取舍
- 对于底层机制问题，从原理出发，结合实际案例分析，展示深度与系统思维
- 请介绍你过去最复杂的Runtime或驱动开发项目，遇到过什么问题，如何解决？
- 解释Linux内核中设备驱动与用户态程序的交互机制，并说明如何进行性能优化
- 如何设计一个任务调度器来最大化GPGPU/NPU的利用效率？
- 你如何理解UVM（统一虚拟内存）？在异构计算中有哪些挑战？
- 谈谈你对大模型推理部署中内存管理、算子融合等方面的经验
职位点评
74
综合评分
一线大厂自研芯片Runtime，前沿技术栈，薪资优厚但工作强度未明确，适合追求技术成长的资深工程师。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
最适合追求技术深度和职业发展、对底层系统和AI芯片有热情的求职者，对工作生活平衡要求较高者需谨慎。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展85
工作生活60
使命价值70
薪资福利
75中等
大厂平台提供有竞争力的薪酬，但JD未明确福利细节，需通过面试了解。
薪资信号未披露（AI估算：30K-50K/月）
成长发展
85较高
自研芯片与AI基础设施是前沿领域，技术挑战大，成长空间显著。
技术前沿前沿/新兴技术
技术栈C/C++、Linux内核、GPGPU、NPU、CUDA、ROCm、Runtime、TVM、vLLM、OLLAMA、LLM
业务类型ambiguous
工作生活
60中等
北京/上海工作，但JD未提及远程或弹性工作，也未提及加班情况，存在不确定性。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
芯片和AI领域具有长远价值，社会影响正面向好，但使命感未在JD中强调。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
蚂蚁集团 的其他在招职位
相似职位推荐
Watch Jobs