深信服
AI infra 工程师/技术专家/首席架构师-推理方向
AI infra 工程师/技术专家/首席架构师-推理方向
发布于 3 小时前普通员工/个人贡献者
全职员工仅现场办公架构师
架构师
Ai基础设施
Mlops
云原生架构
分布式系统
性能调优
值不值得投
81综合评分
综合评分 81
聚焦大模型推理底层架构，技术栈前沿、薪资竞争力强，发展路径清晰，但工作强度与挑战并存。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
5.5万
与架构师中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
99 个在招
市场机会
选择面较广
深圳 · 架构师 · 51 个在招
职位详情
关于这个职位
负责设计和构建高效的大模型及多模态模型推理AI基础设施平台，深入优化GPU/TPU等硬件资源的使用效率与系统性能
需具备大规模分布式系统开发与运维经验，精通容器化、云原生及MLOps工具链，跨团队协作提供AI训练与推理的技术支持
最低要求
计算机科学、软件工程或相关专业，本科及以上学历
年以上基础设施架构设计或分布式系统开发经验，熟悉AI和机器学习应用的基础设施需求
精通Kubernetes、Docker、Hadoop、Spark等分布式系统技术，具备大规模计算集群的部署和运维经验
熟悉云计算平台资源管理和部署，掌握Terraform、Ansible等自动化工具及CI/CD流程
具备MLOps经验，熟悉Kubeflow、MLflow等模型持续集成与部署工具
有GPU/TPU加速集群构建和优化经验，了解CUDA、TensorRT、vllm等推理优化工具
具备性能调优能力，能分析解决分布式环境性能瓶颈，熟悉GPTCache、KVCache等
熟悉大规模训练和推理下的运维排障方式，具备AI基础设施可观测性设计与故障定位能力
出色的沟通能力，善于跨团队协作
工作职责
）设计和构建高效的AI基础设施平台，支持大语言模型的推理和承载，支持多模态模型的承载
）深入优化平台的性能和硬件资源使用效率，优化AI模型的存储和计算资源利用，包括GPU/TPU、内存、带宽、存储等，提升系统的可靠性、性能和扩展性
）与其他团队密切合作，提供训练和推理基础设施的技术支持和优化方案
优先资格
硕士或以上学历优先
有参与建设和优化大规模AI推理平台的经验
熟悉ONNX Runtime、TensorFlow Serving等模型服务化技术
在开源项目或社区贡献过代码或有AI基础设施架构相关技术博客和论文者优先
AI 洞察
优缺点分析
优点
- 聚焦前沿AI大模型推理基础设施，技术栈极具前瞻性与市场竞争力
- 依托上市公司平台，拥有充足的算力资源与真实海量业务场景落地机会
- 技术深度要求高，易积累底层架构与性能调优的核心壁垒
- 大模型生态迭代极快，需保持高强度的持续学习与技术跟进
- 跨团队协作频繁，沟通成本与技术对齐难度较大
- 适合对底层系统架构、高性能计算及AI基础设施有浓厚兴趣，且具备扎实分布式系统实战经验的资深技术人才
缺点 / 挑战
- 需同时兼顾底层硬件优化与上层业务支撑，工作复杂度与压力较高
角色解读
- 可向AI基础设施首席架构师或技术总监方向发展
- 也可横向拓展至AI平台产品化或向企业级AI解决方案专家转型
- 负责搭建和维护支撑大模型及多模态AI应用的高性能推理基础设施平台
- 深入进行GPU/TPU等硬件资源的调度优化与系统性能调优
- 为内部多个AI团队提供从训练到推理的全链路技术支持与架构设计
- 制定并落地AI基础设施的可观测性与自动化运维标准
- 精通Kubernetes/Docker等云原生技术栈与大规模分布式系统架构
- 熟练掌握CUDA/TensorRT/vLLM等深度学习推理加速框架
- 具备MLOps流水线搭建、自动化运维及全链路可观测性设计能力
- 优秀的跨部门沟通与复杂系统故障排查能力
申请策略
- 提前研究目标企业在AI安全与企业级大模型落地方面的业务布局，面试时展现技术如何赋能实际业务场景
- 准备详细的性能调优案例，清晰阐述问题定位与解决思路
- 重点突出大规模AI推理平台或GPU集群的架构设计与性能调优实战案例
- 详细列出掌握的云原生工具链（K8s/Docker/Terraform）及MLOps全流程经验
- 量化展示系统吞吐量提升、资源利用率优化或故障率降低的具体成果
- 深入钻研vLLM、TensorRT等主流推理加速框架的底层原理与源码
- 补充学习大规模分布式存储与网络优化知识
- 关注AI Infra领域的最新开源项目与行业最佳实践
面试指南
- 采用STAR法则（情境-任务-行动-结果）结构化回答技术案例
- 针对架构设计题，先阐述核心痛点，再对比不同技术方案优劣，最后给出选型依据与落地效果
- 针对故障排查题，展示系统性思维，从监控指标定位到根因分析再到预防机制
- 请分享一次你主导的大规模GPU集群性能调优经历，遇到了什么瓶颈？如何解决？
- 在构建MLOps流水线时，如何平衡模型迭代速度与系统稳定性？
- 面对多模态大模型推理时的显存瓶颈，你会采用哪些架构级优化手段？
- 复习Kubernetes调度原理、GPU虚拟化与共享技术、以及主流推理引擎的工作机制
- 整理过往项目中关于资源利用率提升的具体数据与架构图
职位点评
薪资福利85
成长发展90
工作生活65
使命价值75
薪资福利
85较高
AI基础设施稀缺人才属性叠加成熟企业薪酬体系，整体补偿性回报处于市场中上水平。
薪资信号未披露（AI估算：4.0千–7.0万/月）
成长发展
90较高
岗位直接对接大模型推理前沿技术，技术栈先进且成长空间广阔。
技术前沿前沿/新兴技术
技术栈Kubernetes、Docker、GPU/TPU、CUDA、TensorRT、vLLM、MLOps
业务类型profit_center
工作生活
65中等
技术专家岗通常节奏较快，但JD未明确标注高强度加班或弹性工作制，整体WLB取决于团队文化。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
75中等
致力于构建高效AI基础设施，推动大模型技术落地，具有显著的技术创新价值与行业影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
深信服 的其他在招职位
相似职位推荐
Watch Jobs