地平线
模型推理平台实习生
模型推理平台实习生
发布于 1 小时前实习/见习
实习生仅现场办公机器学习工程
机器学习工程
Ai Infra
Cuda
Gpu集群
Llm推理
Tensorrt-Llm
Vllm
分布式系统
性能优化
值不值得投
75综合评分
综合评分 75
顶尖AI Infra实习岗，技术栈极度前沿，成长空间巨大，适合热爱底层系统开发的科研型开发者。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较实习机会。
薪资怎么样
1.2万
与机器学习工程中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 430 个在招 · 其中机器学习工程 25 个
市场机会
选择面较广
北京 · 机器学习工程 · 约 530 个在招
职位详情
关于这个职位
负责参与自研大模型推理平台的系统研发与架构优化，在大规模GPU集群上提升推理吞吐、降低延迟并优化资源利用率
需设计高效推理架构（如预填充/解码分离、动态批处理等），构建分布式KV缓存体系，并持续降低单位Token的计算成本，助力AI编码与业务智能化场景落地
最低要求
计算机、人工智能或相关方向硕士/博士在读
在分布式系统、GPU/高性能计算或大模型训练/推理系统领域具备扎实基础之一
熟练使用Python/C++/CUDA/Go中至少一门编程语言
对AI Infra/MLSys/LLM Serving方向有浓厚兴趣
工作职责
参与自研大模型推理平台的系统研发与架构优化
在大规模GPU集群环境中优化推理系统的Throughput、TTFT和GPU Utilization
设计和实现高效推理架构，例如：
Prefill / Decode 分离式推理
Continuous / Dynamic Batching
异构推理资源调度
构建分布式KV Cache与推理缓存体系，减少重复计算并提升token generation efficiency
优化推理系统的单位Token计算成本（$/Million Tokens）与集群资源效率
优先资格
熟悉主流推理框架（vLLM、TensorRT-LLM、DeepSpeed-Inference）
具备GPU集群系统开发、AI推理服务系统或Kubernetes/云原生基础设施相关经验
在MLSys/系统/AI顶会（如OSDI、MLSys、NeurIPS等）发表过相关研究成果
AI 洞察
优缺点分析
优点
- 接触前沿大模型推理技术与顶级硬件集群，技术壁垒高
- 团队聚焦核心AI Infra赛道，成长空间广阔
- 地平线作为自动驾驶头部企业，平台稳定且资源丰富
- 技术门槛极高，需同时掌握系统编程与AI算法原理
- 大规模GPU集群调试环境复杂，问题排查难度大
- 对学术成果或底层代码能力要求严格
- 计算机/AI方向硕博在读生，热爱底层系统开发，具备较强动手能力和科研潜力的求职者
缺点 / 挑战
暂无明显挑战项
角色解读
- 深入AI底层基础设施领域，成为大模型推理系统架构师
- 向MLSys研究或高性能计算专家方向发展
- 未来可拓展至云计算、自动驾驶AI芯片软件栈或头部大厂AI平台部门
- 参与自研大模型推理平台的底层系统开发与架构设计
- 在大规模GPU集群上进行性能调优，提升吞吐量并降低延迟
- 构建分布式KV缓存等核心组件，优化计算成本与资源利用率
- 扎实的分布式系统与高性能计算基础
- 精通Python/C++/CUDA等至少一门语言
- 熟悉主流大模型推理框架（如vLLM）及云原生技术
- 具备强烈的AI Infra探索热情
申请策略
- 提前了解地平线在自动驾驶领域的AI布局
- 准备1-2个与高性能计算或推理加速相关的深度技术案例，面试时展现系统思维
- 突出分布式系统、GPU编程或大模型推理相关项目经历
- 详细列出掌握的编程语言及框架（CUDA/vLLM/K8s）
- 如有顶会论文或开源贡献务必重点标注
- 深入学习PyTorch/TensorRT底层原理
- 动手实践vLLM源码阅读与二次开发
- 补充Kubernetes集群管理与容器化部署经验
面试指南
- 采用“背景-挑战-方案-结果”结构阐述项目，突出量化指标
- 针对系统问题，从计算、内存、通信三个维度拆解瓶颈并提出针对性策略
- 结合具体数据说明优化前后的性能提升，展现工程落地能力
- 请介绍你熟悉的一个大模型推理框架的核心架构与优化点
- 如何在大规模GPU集群上解决显存碎片化或通信瓶颈问题？
- 请手写或口述一段CUDA核函数优化思路
- 分布式KV Cache的设计难点与解决方案是什么？
- 复习操作系统、计算机网络与编译原理基础知识，夯实底层功底
职位点评
薪资福利75
成长发展92
工作生活45
使命价值85
薪资福利
75中等
实习津贴在北京AI Infra领域属市场中上水平，但作为实习生岗位，整体薪酬回报以学习机会为主，现金补偿非核心优势。
薪资信号未披露（AI估算：8.0千–1.5万/月）
成长发展
92较高
岗位直接对接大模型推理底层架构与GPU集群实战，技术栈前沿且深度极高，能极大提升系统设计与性能调优能力。
技术前沿前沿/新兴技术
技术栈LLM推理、GPU集群、CUDA、vLLM、TensorRT-LLM、Kubernetes、分布式KV Cache
业务类型profit_center
工作生活
45较低
未明确提及弹性工时或远程政策，AI底层研发通常节奏紧凑，需适应高强度技术攻关与集群调试周期。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
致力于构建下一代AI推理基础设施，直接赋能自动驾驶与产业智能化，具有显著的技术突破价值与社会应用前景。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs