中国平安
云架构专家工程师（智算）
云架构专家工程师（智算）
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公云计算
云计算
Gpu集群
Llm推理优化
Mlops
Rdma
Roce
Sglang
Tensorrt
Vllm
云原生
值不值得投
76综合评分
综合评分 76
智算平台与LLM推理优化专家岗，技术前沿、薪资面议、WLB信息不明。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
7.0万
比云计算中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 12950 个在招
市场机会
选择适中
深圳 · 云计算 · 22 个在招
职位详情
关于这个职位
该岗位负责中国平安智算平台的规划与架构设计，围绕LLM训练、推理和工具生态制定技术路线
你需要优化GPU/国产算力集群的资源调度、推理引擎性能与全链路可观测性，支撑多业务AI项目落地
最低要求
）计算机、人工智能等相关专业，本科及以上学历
）8年以上基础设施、云原生、智算或算法平台架构设计或研发经验，熟悉云原生、智算平台、大模型训练/推理等领域
）精通Kubernetes、GPU容器运行时、Device Plugin、Hived、Volcano等云原生技术，具备大规模计算集群的设计、部署或运维经验
熟悉CI/CD流程，熟悉MLOps模型训练及推理的部署流程
）有GPU/国产算力集群的构建和优化经验，能够分析并解决分布式环境中的性能瓶颈，熟悉大规模训练和推理下的运维和排障，具备全链路可观测性设计能力和故障定位能力
）熟悉大规模智算集群的网络拓扑、通信协议(RoCE)与通信模式（如RDMA、NVLink、InfiniBand等），熟悉AllReduce、All-to-All等集合通信进行性能测试及调优
）有推理引擎设计或研发经验，熟悉vLLM、SGlang、TensorRT、Dynamo、MindIE等推理引擎，熟悉PD分离、大EP、AF分离、KVCache等推理加速技术
）出色的沟通能力，善于跨团队协作，具有支持多团队AI项目的经验
工作职责
）负责智算平台规划与架构设计，结合BU业务场景，制定技术路线，明确智算平台、LLM训推及工具生态的核心功能与技术架构
）优化并提升模型训练(微调/强化学习)、模型推理算力使用率
深入优化平台资源管理及调度能力，包括GPU/国产算力、内存/显存、RDMA网络等，提升系统的可靠性、性能和扩展性
）LLM推理引擎优化，通过PD分离、EP并行、算子调优、网络或存储调优等技术提高推理引擎性能降低Tokens单位成本
）LLM全链路性能监控，建立性能指标体系（吞吐量、时延、资源利用率），输出调优方案、标准与自动化诊断工具
）负责LLM基础模型和配套推理引擎的引入、适配、优化及性能基线评测，为业务提供最优性价比的模型和推理引擎
AI 洞察
优缺点分析
优点
- 技术栈前沿，覆盖智算平台、GPU集群、LLM推理引擎与通信优化，积累稀缺AI Infra经验
- 岗位级别高，负责平台规划与架构，影响面大
- 业务场景丰富，可接触多团队AI项目落地
- 工作地点在深圳核心区域，平台资源较完善
- 技术跨度大，需同时懂云原生、分布式训练推理、网络通信和性能调优，排障难度高
- 适合有8年以上基础设施/云原生经验、痴迷性能优化、愿意在AI Infra前沿持续深耕的资深工程师
缺点 / 挑战
- 大规模GPU集群与推理成本优化压力大，需对吞吐、时延、资源利用率负责
- JD未明确WLB与团队分工，实际支持多业务时沟通协调成本可能较高
角色解读
- 可沿智算平台架构师/首席架构师方向发展，主导更大规模AI基础设施规划
- 可深入LLM推理优化、AI Infra、高性能计算等方向，成为细分领域专家
- 积累多团队AI项目支撑经验后，可转向技术管理或AI平台负责人
- 负责智算平台整体规划与架构设计，结合业务场景制定技术路线，定义平台、LLM训练/推理及工具生态的核心架构
- 优化GPU/国产算力集群的资源管理、调度与性能，覆盖微调、强化学习、推理等负载
- 针对vLLM、SGLang、TensorRT等推理引擎做PD分离、EP并行、算子与网络存储调优，降低Token成本
- 建立全链路性能监控与自动化诊断体系，负责模型和推理引擎的引入、适配和基线评测
- 8年以上基础设施、云原生、智算平台架构经验，精通Kubernetes、GPU容器运行时、Device Plugin、Volcano等
- 熟悉GPU/国产算力集群、RDMA/RoCE/InfiniBand/NVLink及AllReduce、All-to-All集合通信调优
- 具备LLM推理引擎（vLLM、SGLang、TensorRT、Dynamo、MindIE）和PD分离、大EP、KVCache等加速技术经验
- 具备大规模集群运维排障、全链路可观测性设计和跨团队协作能力
申请策略
- 投递前了解平安在金融AI、大模型平台方面的业务布局，准备与业务场景结合的架构思路
- 面试中主动确认团队规模、算力资源、汇报关系和WLB，判断岗位实际边界
- 突出大规模Kubernetes/GPU集群架构设计与落地，量化集群规模、资源利用率提升、成本下降等成果
- 展示LLM训练/推理平台经验，尤其是vLLM、SGLang、TensorRT等引擎适配、PD分离、EP并行、KVCache优化案例
- 强调RDMA/RoCE/IB网络调优和AllReduce、All-to-All通信优化经验，附性能瓶颈定位与解决过程
- 体现跨团队支撑多AI项目的沟通协作能力，以及MLOps/CI-CD/可观测性体系建设经验
- 补齐国产算力（如昇腾/MindIE）适配与调优经验
- 深入推理引擎源码与算子优化，准备可复现的性能优化案例
面试指南
- 架构题用“业务场景-目标指标-整体架构-关键取舍-落地验证”的结构回答，先讲清约束再展开
- 性能题用“基线测量-瓶颈定位-优化手段-效果验证-回归监控”的闭环，突出数据与对比
- 协作题用STAR法则，说明冲突背景、你的沟通策略和最终业务结果
- 请设计一个支持千卡/万卡GPU集群的智算平台架构，如何做资源调度与多租户隔离？
- 如何优化LLM推理的吞吐和时延？请结合PD分离、EP并行、KVCache说明
- 大规模训练/推理中遇到RDMA网络拥塞或通信瓶颈，如何定位和调优？
- 如何建立LLM全链路性能指标体系与自动化诊断工具？
- 请分享一次跨团队推动AI项目落地的经历，如何处理分歧？
职位点评
薪资福利75
成长发展92
工作生活55
使命价值78
薪资福利
75中等
薪资面议，JD未披露福利信息；岗位为高年限专家岗，补偿空间需结合面试定级确认。
薪资信号面议 (5.0千–9.0万/月)
成长发展
92较高
岗位覆盖智算平台、GPU集群、LLM推理引擎与通信优化，技术前沿且成长空间大。
技术前沿前沿/新兴技术
技术栈Kubernetes、GPU容器运行时、Device Plugin、Volcano、RDMA、RoCE、InfiniBand、NVLink、AllReduce、All-to-All、vLLM、SGLang、TensorRT、MindIE、PD分离、KVCache、MLOps、LLM
业务类型cost_center
工作生活
55较低
JD未提及办公模式、弹性或加班安排，WLB信息不足，实际节奏需面试确认。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
78中等
大模型基础设施方向技术价值明确，但JD未体现社会使命，意义感主要来自平台对AI业务的支撑。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs