Senior Deep Learning Solution Architect
🤖 AI 估测:¥55K-90K
发布时间:22 天前
ℹ️关于这个职位
作为英伟达的资深深度学习解决方案架构师,您将致力于将前沿AI技术(特别是大语言模型)应用于不同行业
核心工作包括设计和优化AI计算平台架构,参与开源推理框架(如SGLang、vLLM)的开发与性能调优,并研究分布式训练中的计算性能挑战
这是一个需要深厚技术功底和创新能力的顶尖技术岗位
✓工作职责
参与开源推理框架(如SGLang和vLLM)的开发,包括功能和算子开发、性能优化和模型支持,并与社区合作
为LLM工作负载开发和优化KV缓存卸载框架,支持跨CPU、SSD和远程存储的多级缓存卸载和重用,以提高推理效率
(团队项目:FlexKV)
推动分布式训练中计算性能的研发,并探索性能优化的方法和技术
研究机器学习系统中的计算挑战,识别共同需求和瓶颈,并据此构建示例代码、加速库或框架
⭐最低要求
5年以上科技行业工作经验
计算机科学、数学、电气工程、自动化或相关领域的硕士及以上学历
对加速计算、并行计算和异构计算有浓厚兴趣,并有深入探索的动力
扎实的编程技能,对数据结构和计算机系统基础有良好的理解
强大的学习敏捷性、适应能力,以及分析、定义和独立探索技术问题的能力
👍优先资格
熟悉异构计算、分布式训练、并行计算或其他与高性能计算相关的领域
具有性能分析、性能建模或性能优化的经验
有开源框架贡献经验者优先
强大的定义新问题和探索解决方案的能力
具有独立博士级别研究经验的候选人优先
熟练使用AI编码工具