Solutions Architect - Top AI Labs
🤖 AI 估测：¥60K-120K
发布时间：19 天前
ℹ️关于这个职位
这是一个面向顶尖AI实验室的解决方案架构师职位
你将负责将英伟达的最新技术引入不同行业，设计AI计算平台架构，分析AI与高性能计算应用，并专注于解决大语言模型推理与训练加速、网络通信及数据传输优化中的计算挑战
核心工作包括参与开源推理框架开发、优化KV缓存卸载框架、研究分布式训练性能以及构建解决机器学习系统瓶颈的示例代码或框架
✓工作职责
参与开源推理框架（如SGLang和vLLM）的开发，包括功能和算子开发、性能优化和模型支持，并与社区合作
为大语言模型工作负载开发和优化KV缓存卸载框架，支持跨CPU、SSD和远程存储的多级缓存卸载和重用，以提高推理效率
（团队项目：FlexKV）
推动分布式训练中计算性能的研发，并探索性能优化的方法和技术
研究机器学习系统中的计算挑战，识别共同需求和瓶颈，并据此构建示例代码、加速库或框架
⭐最低要求
在科技行业拥有超过10年的工作经验
拥有计算机科学、数学、电气工程、自动化或相关领域的硕士或以上学位
对加速计算、并行计算和异构计算有浓厚兴趣，并有深入探索这些领域的动力
扎实的编程技能，对数据结构和计算机系统基础有良好的理解
强大的学习敏捷性、适应能力，以及分析、定义和独立探索技术问题的能力
👍优先资格
熟悉异构计算、分布式训练、并行计算或其他与高性能计算相关的领域
在性能分析、性能建模或性能优化方面有经验
有对开源框架的贡献者优先
强大的定义新问题和探索解决方案的能力
拥有独立博士级别研究经验的候选人优先
熟练使用AI编码工具