多点数智
AI工程师-Agent Infra & LLMOps 方向（武汉）
AI工程师-Agent Infra & LLMOps 方向（武汉）
发布于 大约 2 个月前普通员工/个人贡献者
武汉市
无经验要求
全职员工
仅现场办公
本科
软件工程
GO
LLM
Serverless
gRPC
vLLM
Faas
Sandbox
AI 估算 · 15k–25k
AI工程化岗位薪资较高，武汉地区应届生起薪约15-25K，技术栈前沿，竞争力强。
职位详情
关于这个职位
该职位专注于AI Agent基础设施与LLMOps方向，你将负责构建Agent工具链服务化、代码解释器沙箱、模型推理服务部署等核心系统
适合对分布式系统、容器化技术有扎实基础，同时对AI工程化有浓厚兴趣的应届生
最低要求
届本科及以上学历，计算机相关专业，系统结构、分布式系统、云计算方向优先
精通 Docker 原理，熟悉 Kubernetes (K8s) 的基本操作与编排
熟练掌握 Go (高性能服务) 或 Python (AI 生态对接)，了解 gRPC/HTTP2 协议
扎实的 OS、网络基础，理解进程/线程、IO 多路复用
工作职责
Agent工具链服务化 (FaaS化)：设计并实现 Agent 的 Tool Server
将搜索、计算、API 调用等能力封装为独立的无服务器函数 (Serverless/FaaS)，实现按需扩缩容
负责 OpenAPI / JSON Schema 的自动生成与管理，确保 Agent 能准确理解并调用这些工具函数
代码解释器与沙箱构建 (Code Sandbox)：基于 Docker 或 MicroVM (如 Firecracker, gVisor) 构建安全的代码执行沙箱
解决 Agent 生成代码（Python/SQL）在运行时的依赖管理、资源隔离（CPU/Mem限制）和网络控制问题
模型推理服务部署 (Inference Serving)：配合算法同学，将微调后的 LLM 部署为高并发服务
优化推理引擎（如使用 vLLM, TGI, TensorRT-LLM），降低 Time-to-First-Token (TTFT) 延迟
工程化与流水线：搭建 Agent Evaluation Pipeline，让算法同学（A/B）的评测脚本能自动化运行在集群中
负责向量数据库（Milvus/Qdrant）等中间件的容器化部署与维护
优先资格
熟悉 Serverless 架构 (Knative, OpenFaaS) 或云厂商的 Lambda/Function 实践
了解 LLM 推理框架 (vLLM, Ollama, Triton Inference Server)
有 Sandbox 开发经验，或者对容器逃逸、安全隔离有深入研究
操作过 LangChain/AutoGPT，清晰知道它们在实际部署时的痛点
AI 洞察
优缺点分析
优点
- 接触前沿的AI工程化技术栈，包括LLM推理、Serverless、容器安全等，技能积累价值高
- 公司处于AI应用落地阶段，项目实战机会多，能快速提升工程能力
- 武汉作为新一线城市，生活成本相对较低，薪资竞争力强
- 技术栈较新且复杂，需要快速学习Docker、K8s、LLM推理框架等多领域知识
- Agent基础设施尚在早期，可能面临需求变更和技术选型的不确定性
- 作为应届生岗位，可能缺乏资深同事指导，需要较强的自驱力
缺点 / 挑战
- 适合对AI工程化有强烈兴趣、动手能力强、喜欢挑战复杂系统问题的应届生
角色解读
- 从AI基础设施工程师起步，逐步成长为LLMOps专家或AI平台架构师
- 可向算法方向转型，深入理解模型推理优化和Agent系统设计
- 未来可晋升为技术负责人，带领团队构建企业级AI基础设施
- 设计和实现Agent工具链的FaaS化服务，将搜索、计算等能力封装为无服务器函数，并管理OpenAPI/JSON Schema
- 基于Docker或MicroVM构建安全的代码执行沙箱，解决依赖管理和资源隔离问题
- 配合算法团队部署LLM推理服务，优化推理引擎以降低延迟
- 搭建Agent评测流水线，并维护向量数据库等中间件的容器化部署
- 精通Docker和Kubernetes，具备容器编排和部署经验
- 熟练掌握Go或Python，了解gRPC/HTTP2协议，有扎实的操作系统和网络基础
- 了解Serverless架构（如Knative）和LLM推理框架（如vLLM）是加分项
- 有沙箱开发或容器安全经验者优先
申请策略
- 关注多点数智在AI领域的业务方向，了解其Agent产品应用场景
- 面试时准备一个完整的项目案例，展示从设计到部署的工程能力
- 突出Docker/K8s相关项目经验，如容器化部署微服务或搭建集群
- 展示Go或Python的高性能服务开发经历，尤其是涉及gRPC或网络编程的项目
- 如果有LLM或Agent相关项目（如使用LangChain），务必详细描述
- 提前学习vLLM、TGI等推理框架的基本使用和部署
- 动手实践Serverless架构，如使用Knative或OpenFaaS部署简单函数
- 了解容器安全基础，如命名空间、cgroups、seccomp等
面试指南
- 对于技术原理问题，先阐述核心概念，再结合实际项目经验说明应用场景
- 对于设计类问题，采用“需求分析-方案对比-技术选型-实现细节”的结构
- 对于优化问题，先说明基线，再列出优化手段，最后量化效果
- 请解释Docker和Kubernetes的工作原理，以及如何编排一个微服务应用
- 如何设计一个安全的代码执行沙箱？请谈谈资源隔离和逃逸防护
- 你了解哪些LLM推理优化技术？如何降低TTFT？
- 描述一个你使用Go或Python开发高性能服务的项目，如何优化性能？
- Serverless架构的优缺点是什么？在Agent工具链中如何应用？
匹配度报告
69
综合匹配度
前沿AI工程化岗位，技术成长空间大，薪资有竞争力，但WLB信息不明确。
适合人群
最适合追求技术成长和前沿领域发展的求职者，对WLB要求不高。
最强匹配
成长发展匹配
最弱匹配
工作生活匹配
薪资福利65
成长发展90
工作生活50
使命价值70
薪资福利匹配
65中等
薪资水平在武汉应届生中具有竞争力，但JD未提及具体福利，补偿性动机满足程度中等。
薪资信号未披露（AI估算：15K-25K/月）
成长发展匹配
90较高
技术栈前沿，涉及LLM、Serverless、容器安全等热门方向，成长空间大，发展性动机满足度高。
技术前沿前沿/新兴技术
技术栈Docker、Kubernetes、Go、Python、gRPC、Serverless、LLM、vLLM、Sandbox、FaaS
业务类型ambiguous
工作生活匹配
50较低
JD未提及工作模式、WLB或办公地点细节，生活化动机满足程度一般。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值匹配
70中等
AI基础设施岗位对推动AI应用落地有积极意义，但JD未强调社会价值，意义感动机满足程度中等偏上。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs