深信服
AI infra 高级工程师/架构师
AI infra 高级工程师/架构师
发布于 3 天前普通员工/个人贡献者
深圳市
高级经验
全职员工
仅现场办公
本科
信息技术与基础设施
Cuda
Gpu
Mlflow
Mlops
Tensorrt
Vllm
分布式系统
AI 估算 · 35k–60k
资深AI基础设施岗位，技术要求高，市场竞争激烈，大厂薪资有竞争力。
职位详情
关于这个职位
该职位负责设计和构建高效的AI基础设施平台，支持大语言模型和多模态模型的推理与承载
你将深入优化GPU/TPU等硬件资源使用效率，提升系统可靠性、性能和扩展性，并与其他团队协作提供训练和推理基础设施的技术支持
适合具备分布式系统和GPU优化经验的资深工程师
最低要求
）计算机科学、软件工程或相关专业，本科及以上学历，硕士或以上学历优先
）5年以上基础设施架构设计或分布式系统开发经验，熟悉AI和机器学习应用的基础设施需求
）精通Kubernetes、Docker、Hadoop、Spark等分布式系统技术，具备大规模计算集群的部署和运维经验
具备云计算平台（如AWS、阿里云等）上的资源管理和部署经验，熟悉Terraform、Ansible等基础设施自动化工具
熟悉CI/CD流程，具有MLOps经验，掌握模型的持续集成与部署（如Kubeflow、MLflow）
）有GPU/TPU加速集群的构建和优化经验，了解NVIDIA CUDA、TensorRT、vllm等深度学习推理优化工具
优秀的性能调优技能，能够分析并解决分布式环境中的性能瓶颈，熟悉GPTCache、KVCache等
）熟悉大规模训练和推理下的运维和排障方式，具备AI基础设施可观测性设计能力和故障定位能力
）出色的沟通能力，善于跨团队协作，具有支持多团队AI项目的经验
工作职责
）设计和构建高效的AI基础设施平台，支持大语言模型的推理和承载，支持多模态模型的承载
）深入优化平台的性能和硬件资源使用效率，优化AI模型的存储和计算资源利用，包括GPU/TPU、内存、带宽、存储等，提升系统的可靠性、性能和扩展性
）与其他团队密切合作，提供训练和推理基础设施的技术支持和优化方案
优先资格
）有参与建设和优化大规模AI推理平台的经验
）熟悉ONNX Runtime、TensorFlow Serving等模型服务化技术
）在开源项目或社区贡献过代码或有AI基础设施架构相关技术博客和论文者优先
AI 洞察
优缺点分析
优点
- 身处AI前沿赛道，接触大模型、多模态等最新技术，积累高价值经验
- 上市大厂平台稳定，薪资福利有竞争力，职业发展路径清晰
- 技术深度要求高，需同时掌握底层硬件（GPU）和上层云原生技术
- 工作强度可能较大，需要快速响应线上问题并持续优化系统
- 与多团队协作，沟通成本高，需具备较强的跨团队协调能力
- 适合有分布式系统背景、对AI基础设施充满热情、喜欢深度技术攻关的资深工程师
缺点 / 挑战
- 技术挑战大，能显著提升分布式系统、GPU优化等硬核能力
角色解读
- 技术深耕：成为AI基础设施领域专家，主导核心架构设计
- 管理方向：转型为基础设施团队负责人，带领团队攻克技术难题
- 跨领域发展：结合AI算法知识，成为AI平台架构师或技术总监
- 设计并搭建高效的AI基础设施平台，支持大语言模型和多模态模型的推理与承载
- 优化GPU/TPU、内存、带宽等硬件资源的使用效率，提升系统性能和扩展性
- 与算法、工程等团队协作，解决训练和推理中的基础设施问题，提供技术支持
- 精通Kubernetes、Docker等容器化技术，具备大规模集群部署和运维经验
- 熟悉GPU/TPU加速，掌握CUDA、TensorRT、vLLM等推理优化工具
- 具备MLOps经验，熟悉Kubeflow、MLflow等持续集成与部署工具
- 优秀的性能调优和故障定位能力，熟悉分布式系统监控和可观测性
申请策略
- 在简历中明确体现对AI基础设施的热情和技术深度
- 面试前准备一个完整的架构设计案例，展示系统思维和解决问题的能力
- 突出大规模GPU集群的构建和优化项目经验，量化性能提升成果
- 强调Kubernetes、Docker等容器编排和云原生技术实践
- 展示MLOps相关经验，如Kubeflow、MLflow的落地案例
- 列出开源贡献或技术博客，体现技术影响力
- 深入学习vLLM、TensorRT等推理优化框架，掌握其原理和调优方法
- 补充AI模型训练和推理的基础知识，了解常见框架（如PyTorch、TensorFlow）
面试指南
- 对于架构设计题，采用分层思路：接入层、计算层、存储层、监控告警，分别说明方案
- 对于优化题，先定位瓶颈（使用profile工具），再给出具体优化策略（如算子融合、量化、内存复用）
- 对于故障题，遵循“监控发现→根因分析→临时恢复→长期改进”的流程
- 如何设计一个高可用、可扩展的AI推理平台？
- 解释KVCache的原理及其在推理优化中的作用
- 当GPU显存不足时，你会采取哪些优化措施？
- 描述一次你解决分布式系统性能瓶颈的经历
- 如何实现模型的自动扩缩容和版本管理？
职位点评
71
综合评分
深圳上市大厂AI infra岗，薪资竞争力强，技术前沿，但WLB不确定。
更适合这类人
该职位最适合追求高薪和技术前沿、愿意接受高强度工作的资深工程师。
表现最好
薪资福利
相对薄弱
工作生活
薪资福利85
成长发展80
工作生活50
使命价值70
薪资福利
85较高
上市大厂，薪资水平在行业内具有较强竞争力，福利体系完善，虽未明确列出但可预期。
薪资信号未披露（AI估算：35K-60K/月）
成长发展
80较高
技术栈非常前沿（大模型、GPU优化、MLOps），能显著提升个人技术实力，但JD未明确提及晋升通道或培训。
技术前沿前沿/新兴技术
技术栈Kubernetes、Docker、GPU、CUDA、TensorRT、vLLM、MLOps
业务类型ambiguous
工作生活
50较低
要求现场办公，地点深圳，未提及弹性工作或WLB相关福利，工作强度可能较高。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
AI基础设施属于高速增长赛道，技术本身具有创新性，但对社会影响力不直接。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
深信服 的其他在招职位
相似职位推荐
Watch Jobs