腾讯的元宝-LLM大模型推理工程师薪资是多少？

该职位薪资范围为 35k–60k（人民币/月）。

元宝-LLM大模型推理工程师的工作地点在哪里？

该职位工作地点位于北京市。工作形式为仅现场办公。

该职位要求学历未注明学历及中级经验工作经验。

🤖 AI 估测：¥35K-60K

发布时间：大约 1 个月前

这是一个专注于LLM大模型推理优化与部署的工程师岗位

你将负责在腾讯的业务场景中，运用模型剪枝、量化、动态Batch等技术进行推理加速，并探索稀疏化、异构、分布式推理等前沿技术

该职位要求具备扎实的GPU编程和主流推理框架开发经验

参与服务业务场景的llm大模型部署、运维、推理优化开发等相关工作

负责推理加速方法的工程实现和落地，包括但不限于模型剪枝、模型量化、动态batch等方法

调研前沿技术，推动稀疏化推理、异构推理、分布式推理等技术在搜索业务中的集成应用

熟练掌握 C++/Python/Go语言，有2年以上llm大模型推理优化经验

具备基础的GPU编程能力，包括但不限于Cuda、OpenCL

熟悉至少一种GPU加速库，如cublas、cudnn等

有Tensorrt/Triton/sglang/vllm等推理框架的实际使用经验及二次开发经验

熟悉量化、剪枝、动态Shape、算子融合等优化方法的基本原理和适用场景

熟悉分布式推理常用加速方法，有超大模型分布式部署经验优先

具备较强的抗压能力、团队协作和沟通能力，能够高效，完成项目交付和技术创新

有超大模型分布式部署经验优先

元宝-LLM大模型推理工程师

🤖 AI 估测：¥35K-60K

发布时间：大约 1 个月前