深信服
AI infra技术专家/TL
AI infra技术专家/TL
发布于 3 天前基层主管/组长
深圳市
高级经验
全职员工
仅现场办公
本科
信息技术与基础设施
CI/CD
Cuda
Gpu
Kvcache
Mlops
Onnx Runtime
Tensorrt
Vllm
Gptcache
AI 估算 · 35k–60k
AI infra技术专家稀缺，深圳一线大厂高级岗位，薪资竞争力强，15个月年终奖常见。
职位详情
关于这个职位
该职位负责设计并构建高效的AI基础设施平台，支持大语言模型和多模态模型的推理与承载
需要深入优化GPU/TPU等硬件资源使用效率，提升系统可靠性和扩展性，并与团队协作提供技术支持和优化方案
适合具备5年以上分布式系统经验、精通Kubernetes和MLOps的技术专家
最低要求
）计算机科学、软件工程或相关专业，本科及以上学历，硕士或以上学历优先
）5年以上基础设施架构设计或分布式系统开发经验，熟悉AI和机器学习应用的基础设施需求
）精通Kubernetes、Docker、Hadoop、Spark等分布式系统技术，具备大规模计算集群的部署和运维经验
具备云计算平台（如AWS、阿里云等）上的资源管理和部署经验，熟悉Terraform、Ansible等基础设施自动化工具
熟悉CI/CD流程，具有MLOps经验，掌握模型的持续集成与部署（如Kubeflow、MLflow）
）有GPU/TPU加速集群的构建和优化经验，了解NVIDIA CUDA、TensorRT、vllm等深度学习推理优化工具
优秀的性能调优技能，能够分析并解决分布式环境中的性能瓶颈，熟悉GPTCache、KVCache等
）熟悉大规模训练和推理下的运维和排障方式，具备AI基础设施可观测性设计能力和故障定位能力
）出色的沟通能力，善于跨团队协作，具有支持多团队AI项目的经验
工作职责
）设计和构建高效的AI基础设施平台，支持大语言模型的推理和承载，支持多模态模型的承载
）深入优化平台的性能和硬件资源使用效率，优化AI模型的存储和计算资源利用，包括GPU/TPU、内存、带宽、存储等，提升系统的可靠性、性能和扩展性
）与其他团队密切合作，提供训练和推理基础设施的技术支持和优化方案
优先资格
）有参与建设和优化大规模AI推理平台的经验
）熟悉ONNX Runtime、TensorFlow Serving等模型服务化技术
）在开源项目或社区贡献过代码或有AI基础设施架构相关技术博客和论文者优先
AI 洞察
优缺点分析
优点
- 身处AI浪潮核心，技术栈前沿，个人成长快
- 深信服为上市大厂，平台稳定，薪资福利优厚
- 团队技术氛围好，有机会参与开源社区贡献
- 技术更新快，需要持续学习新工具和框架
- 适合5年以上分布式系统经验、技术热情高、擅长性能优化和跨团队协作的技术专家
缺点 / 挑战
- 工作强度较高，需应对大模型推理的实时性能和稳定性挑战
- 跨团队协作频繁，沟通成本较高
角色解读
- 技术方向：成为AI基础设施架构专家，主导大规模分布式系统设计
- 管理方向：晋升为技术总监或团队负责人，带领基础设施团队
- 跨领域发展：转向AI平台产品管理或云原生解决方案架构
- 设计并构建AI基础设施平台，支撑大语言模型和多模态模型的推理与训练
- 优化GPU/TPU等硬件资源效率，提升系统性能和可靠性
- 与算法、工程等团队协作，提供基础设施技术支持与排障
- 精通Kubernetes、Docker等容器编排和分布式系统技术
- 熟悉MLOps和CI/CD流程，有模型部署与运维经验
- 掌握GPU加速集群优化，了解CUDA、TensorRT等工具
申请策略
- 关注深信服AI业务方向，在面试中展现对其技术栈的理解
- 准备好开源贡献或技术博客，展示技术深度
- 突出大规模Kubernetes集群运维和GPU集群优化项目经验
- 展示MLOps全流程实践，包括模型部署、监控和自动化
- 强调性能调优案例，比如减少推理延迟或提升资源利用率
- 补充学习vllm、GPTCache等大模型推理优化工具
- 熟悉Terraform和Ansible提升基础设施自动化能力
面试指南
- STAR法则：情境-任务-行动-结果，突出量化成果
- 技术深度+系统思维：先讲原理，再结合案例说明
- 强调团队协作和故障排查流程
- 描述你设计过的一个大规模AI推理平台的架构？
- 如何优化Kubernetes集群上GPU资源的分配和调度？
- 遇到模型推理延迟突增，如何定位和解决？
- MLOps实践中，你如何实现模型的持续集成和部署？
- 你对KVCache的理解以及如何优化？
职位点评
71
综合评分
上市大厂AI infra技术专家岗，技术前沿薪资高，但工作强度大、无远程办公。
更适合这类人
适合重视技术成长和薪资回报，能接受现场办公和一定工作强度的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利80
成长发展85
工作生活50
使命价值70
薪资福利
80较高
深信服为上市大厂，薪资和福利在行业内具有较强竞争力，但职级偏高级，薪资面议。
薪资信号面议 (35K-60K/月)
成长发展
85较高
职位涉及前沿AI基础设施技术栈，成长空间大，但未明确提及晋升通道。
技术前沿前沿/新兴技术
技术栈Kubernetes、Docker、GPU、CUDA、TensorRT、vllm、MLOps
业务类型profit_center
工作生活
50较低
仅现场办公，未提及弹性工作制，大厂通常有一定强度。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
70中等
AI基础设施是数字化转型核心，但公司定位安全厂商，社会影响力中性。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs