小米的大模型CUDA开发工程师薪资是多少？

该职位薪资范围为 35k–60k（人民币/月）。

大模型CUDA开发工程师的工作地点在哪里？

该职位工作地点位于北京市。工作形式为仅现场办公。

该职位要求本科学历及中级经验工作经验。

🤖 AI 估测：¥35K-60K

发布时间：大约 1 个月前

该职位专注于大模型在NVIDIA GPU平台上的推理加速与性能优化

你将负责设计和实现高性能的CUDA算子与推理流水线，对Transformer等主流模型进行定制化加速，并构建支持多模态、动态批处理等核心能力的高效推理引擎

核心目标是推动大模型在实际业务场景中的高效落地

负责NVIDIA平台大模型推理加速，极致优化推理引擎性能、探索推理框架上限

设计并实现基于CUDA的高性能算子与推理流水线，完成从算法到部署的端到端落地

对Transformer等主流模型结构进行定制化加速，包括内存访问优化、kernel融合、量化压缩、并行调度等

构建高效的大模型推理引擎，支持多模态、动态batching、混合精度、分布式推理等核心能力

分析性能瓶颈，提出系统性优化方案，并推动其在实际业务场景中的应用

输出高质量的技术文档与最佳实践，参与开源社区建设或内部框架研发

本科及以上学历，计算机/电子/信息/通信/自动化/软件等相关专业

熟练掌握CUDA C编程语言，了解PTX编程方法，对GPU硬件架构、软件编程模型有深入理解

了解CNN、LLM、Transformer、ViT等算法原理

熟悉常见LLM推理框架，如：TensorRT-LLM、vLLM、SGLang、TensorRT、llama.cpp等

对模型量化、定点化、低比特表示有一定研究和理解

加分项：阅读过任意一种推理框架源码、对高性能计算感兴趣者优先

大模型CUDA开发工程师

🤖 AI 估测：¥35K-60K

发布时间：大约 1 个月前