中国电信
AI Infra 研究工程师（弹性算力与大模型推理方向）
AI Infra 研究工程师（弹性算力与大模型推理方向）
发布于 2 小时前普通员工/个人贡献者
全职员工混合式弹性办公人工智能
人工智能
Aiops
Go
Gpu资源调度
分布式系统
大模型推理
性能优化
值不值得投
80综合评分
综合评分 80
央企背景、前沿AI Infra技术栈、弹性工作制、高成长潜力
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
3.5万
比人工智能中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2260 个在招 · 其中人工智能 约 100 个
市场机会
选择面较广
上海 · 人工智能 · 约 390 个在招
职位详情
关于这个职位
负责建设面向大模型的弹性算力与推理基础设施，通过资源池化、动态调度和系统优化，将分散的GPU资源转化为高性价比的推理能力
主要工作包括研发资源调度、构建大规模分布式推理服务、优化并行策略与性能，以及提升集群的可观测性与自动化运维能力，旨在降低推理成本并提高集群利用率
最低要求
计算机、软件工程、电子信息或相关专业，硕士及以上学历
具备扎实的计算机系统基础，理解操作系统、计算机网络与分布式系统的基本原理
熟练掌握 Python、Go、C++、Rust 中至少一种编程语言，具备良好的软件工程能力，能够独立完成模块设计、开发、调试与验证
在以下至少一个方向具有深入的项目实践，并愿意向相关方向拓展：
●集群与资源管理：熟悉 Linux、容器与 Kubernetes，具有资源调度、集群管理、平台控制面或自动化运维系统的研发经验
●模型推理系统：理解大模型推理流程及主要性能瓶颈，了解常见分布式推理并行策略及其适用条件，具有推理引擎、模型服务平台或分布式推理系统的开发与优化经验
理解模型推理服务的性能调优原理，能够结合Nsight System等性能分析工具定位问题，并通过实验验证优化效果
具备较强的动手能力、自主学习能力和工作主动性，能够通过阅读源码、技术文档与论文快速理解陌生系统，将不明确的问题拆解为可实施、可验证的方案
具备严谨的研究与实验习惯，能够设计对照实验、分析结果并说明方案局限
具有良好的沟通协作能力，能够推动技术方案从原型验证走向实际应用
工作职责
参与弹性 GPU 资源池建设，研发资源状态感知、动态分配与回收、多租户调度等能力，提高集群资源利用率
建设适应动态算力供给的大规模分布式推理服务，完善模型部署、资源编排、弹性伸缩与运行恢复能力，在资源变化时保障服务质量
结合模型特征、硬件资源和网络条件，优化并行策略、请求调度、计算与通信协同及缓存管理，并降低模型加载与资源切换开销，提高有效吞吐与单位算力产出
完善集群与推理服务的可观测性、故障诊断和自动化运维能力，提升系统可靠性，减少人工干预
跟踪弹性计算、Serverless 和模型推理领域的研究与开源技术，通过实验评估和工程实现，推动技术方案落地
优先资格
●弹性计算与资源调度：具有 GPU 资源池化虚拟化、超分超卖、抢占式调度等技术研发经验
参与过 Kubernetes 调度器、Controller/Operator 等组件开发
●Serverless 与动态推理：具有自动扩缩容、冷启动优化、模型快速加载、状态迁移或中断恢复等实践，探索过在动态或可回收资源上运行模型服务
●可靠性与智能运维：具有 GPU 集群可观测性、故障根因分析、自动恢复或 AIOps 系统的研发与落地经验
●科研与开源：在计算机系统、分布式计算或机器学习系统方向接受过系统科研训练，具有高质量研究成果、开源贡献，或独立承担复杂系统项目的经历
AI 洞察
优缺点分析
优点
- 需要同时具备底层系统能力和AI推理知识，学习曲线陡峭
- 国企节奏相对稳健但可能面临流程规范约束
- 对底层系统优化有热情，具备较强自学能力和研究思维的计算机专业硕士及以上毕业生
缺点 / 挑战
- 处于AI大模型基础设施前沿，技术挑战性强，能接触万卡级算力集群的真实场景
角色解读
- 可向AI基础设施架构师、分布式系统专家或技术负责人方向发展，深耕云计算与大模型底层技术
- 负责设计和实现大模型推理所需的弹性算力基础设施，包括GPU资源池化和动态调度系统
- 精通Linux内核、容器技术(K8s)及分布式系统原理，熟练掌握C++/Go/Rust等语言进行高性能系统开发
申请策略
- 强调科研能力或开源贡献，展示解决复杂系统问题的逻辑思维和技术深度
- 突出Kubernetes二次开发、分布式系统性能优化、或大模型推理引擎优化的具体项目经验
- 补充GPU编程基础、CUDA优化知识，以及主流大模型推理框架（如vLLM, TensorRT-LLM）的原理
面试指南
- 采用STAR法则（情境、任务、行动、结果），重点描述技术选型依据、遇到的具体瓶颈、解决方案的创新点及量化效果
- 请介绍你设计过的最复杂的分布式调度系统及其难点
- 如何优化大模型在多GPU节点间的通信延迟？
- Kubernetes调度器的核心机制是什么？如何自定义调度策略？
- 面对动态变化的GPU资源，如何保证推理服务的SLA？
- 复习操作系统、计算机网络核心概念，准备1-2个深入的技术项目案例，了解当前大模型推理领域的最新技术趋势
职位点评
薪资福利75
成长发展90
工作生活80
使命价值70
薪资福利
75中等
作为上市央企，提供稳定的薪酬体系和完善的福利保障，虽然现金总包可能不及顶级互联网大厂，但稳定性和综合福利极具竞争力。
薪资信号市场水准 (2.5千–4.5万/月)
成长发展
90较高
岗位直接对接大模型推理这一前沿领域，涉及万卡级集群，技术栈先进（K8s, Rust, AI Infra），成长空间巨大。
技术前沿前沿/新兴技术
技术栈Kubernetes、GPU、Python、Go、C++、Rust、Serverless、大模型推理
业务类型profit_center
工作生活
80较高
职位标题明确标注“弹性算力”，暗示可能提供弹性工作制或混合办公模式，相比传统互联网高强度加班，WLB预期较好。
工作模式混合式弹性办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
服务于国家算力基础设施建设和大模型产业发展，具有明确的行业战略意义和社会价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs