希音
AI Infra后台开发
AI Infra后台开发
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公全栈开发
全栈开发
Clickhouse
Litellm
Llm
大数据
大模型
系统设计
值不值得投
71综合评分
综合评分 71
AI Infra核心岗，技术前沿、成长空间大，薪资有竞争力，但WLB信息不明。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
3.3万
与全栈开发中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 520 个在招
市场机会
选择适中
广州 · 全栈开发 · 14 个在招
职位详情
关于这个职位
该职位隶属于AI基础设施团队，负责构建和维护公司级的LLM统一接入网关与AI编码管控平台
你需要打通多个顶级大模型的接入、路由和计量体系，开发基于LLM的自动化工作流与Agent，并搭建用量效能数据分析体系，目标是支撑AI工具在全公司研发场景中规模化、高可用地落地，从而提升整体研发效能
最低要求
全日制统招本科及以上学历，计算机相关专业，至少3年及以上相关工作经验
扎实的编程基础，精通 Python 和 Java，具备高并发网关或平台型系统的工程化落地经验，能将 AI Demo 转化为高可靠的生产级服务
熟悉 GPT、Claude、Gemini 系列模型的 API 特性、Context Window 与擅长领域，能根据评测结果精准选型
熟练掌握 Claude Code / Codex 应用开发，必须具备 Agent 编写与调优经验，深刻理解 Memory、Planning、Tool Use 等核心机制
具备大数据组件实践经验：熟悉 Kafka 消息链路，掌握 Flink / Spark 之一，至少熟练使用一种 OLAP 引擎（ClickHouse / Doris / Hive / StarRocks），有日志分析或指标大盘建设经验者优先
良好的系统设计与工程素养：熟悉 CI/CD、容器化部署、监控告警体系，重视代码质量与安全合规
工作职责
负责公司级 LLM 统一网关建设（基于 LiteLLM 二次开发）：多模型接入、智能路由、负载均衡、限流熔断、用量计费与成本核算，支撑 Claude Code / Codex 等工具在数千研发规模下的高并发稳定接入
负责 AI 编码管控平台研发与演进：模型/路由/配置管控与审批下发、密钥与配额管理、插件与 Skill 生态，保障企业级安全合规
设计并落地基于 LLM 的自动化工作流与复杂 Agent，覆盖需求分析、代码评审、自动化测试等环节
运用 Prompt Engineering（CoT、Few-Shot、ReAct）及 MCP / Function Calling 优化 Agent 规划与执行能力
搭建模型用量与效能数据体系：基于 Kafka 构建日志采集链路，结合 Flink / Spark 与 ClickHouse / Doris 等 OLAP 引擎完成实时离线分析，输出用量大盘、生码率、成本核算等数据洞察
构建产研场景 Benchmark 评测集与 Eval Pipeline，以量化指标对比模型与 Prompt 效果，数据驱动技术选型
基于 Claude Code / Codex 生态开发定制化插件、CLI 工具与 MCP Server
优先资格
有 LiteLLM / OneAPI 等 LLM 网关二次开发或生产运维经验
有 Claude Code 插件、Skill、MCP Server 的开源贡献或社区影响力
AI 洞察
优缺点分析
优点
- 技术前沿：工作内容聚焦LLM、Agent、效能提升等当前最热门的技术方向
- 业务核心：负责公司级AI基础设施，对数千研发人员的效能有直接影响，成果可见度高
- 技术栈全面：涵盖网关、平台、Agent、大数据分析等多个领域，能快速拓展技术广度
- 大厂平台：在规模化研发场景中实践，能积累处理高并发、复杂系统问题的宝贵经验
- 技术复杂度高：需要同时掌握大模型生态、高性能网关、大数据和系统架构，学习曲线陡峭
- 工程化要求严苛：从Demo到高可用生产级服务的跨越，对稳定性、安全性、可观测性要求极高
- 适合具备扎实后端工程背景，同时对AI/LLM技术有强烈兴趣和实践经验，乐于解决复杂系统问题，并希望将AI技术深度应用于提升企业研发效能的工程师
缺点 / 挑战
- 快速迭代压力：AI技术日新月异，需持续跟进模型更新与生态变化，保持技术敏感性
角色解读
- 技术专家路线：深耕AI Infra与平台工程，成为大模型工程化、效能提升领域的技术权威
- 技术管理路线：凭借对核心平台和数据的掌控，可向技术团队负责人或架构师方向发展
- 产品化路线：将AI Infra能力封装成内部平台或外部产品，向AI平台产品经理或解决方案专家转型
- 构建统一的LLM网关，管理多个顶级大模型的接入、路由与计费，确保高并发下的稳定服务
- 开发AI编码管控平台，实现模型配置、密钥配额等企业级安全合规管理
- 设计并落地基于大模型的自动化Agent工作流，赋能需求、编码、测试等研发环节
- 搭建用量与效能的数据分析体系，用数据洞察驱动技术选型和成本优化
- 扎实的编程能力（Python/Java）与工程化落地经验，能将AI概念转化为生产级服务
- 深入理解主流大模型（GPT/Claude/Gemini）特性，并有Agent编写与调优的实战经验
- 具备大数据组件（Kafka/Flink/Spark）与OLAP引擎（ClickHouse/Doris）的实践经验
- 良好的系统设计素养，熟悉云原生技术栈（CI/CD、容器化、监控告警）
申请策略
- 在申请材料或面试中，清晰阐述你对“AI基础设施”和“提升研发效能”的理解，展现业务思维
- 准备一个能体现你“将AI Demo转化为生产级服务”思维的案例，重点说明工程化挑战与解决方案
- 重点突出参与过的高并发、平台级系统或AI工程化项目经历，说明在其中的角色和贡献
- 详细描述与LLM/Agent相关的实践经验，如模型选型、Prompt优化、Agent开发与调优案例
- 列举使用过的大数据技术栈（Kafka/Flink/Spark/ClickHouse等）的具体应用场景和成果
- 强调在代码质量、系统设计、CI/CD、监控告警等工程化实践方面的经验和意识
- 系统学习并实践LiteLLM等LLM网关框架，尝试进行二次开发或贡献
- 深入研究Claude Code/Codex生态，开发并开源一个插件或MCP Server，积累社区影响力
面试指南
- 采用STAR法则：清晰阐述背景、任务、行动和结果
- 重点描述你的设计思考和具体行动，以及带来的量化收益或改进
- 对于架构设计题，从需求分析入手，逐步展开高层设计、核心组件、数据流和非功能需求（高可用、扩展性）
- 对于技术难题，坦诚说明挑战，并详细解释你尝试过的方案、权衡取舍以及最终选择的理由，体现解决问题的思路
- 请描述一个你设计的需要高并发、高可用的系统架构，以及其中的关键技术挑战和你的解决方案
- 如果你需要统一接入GPT、Claude、Gemini并实现智能路由，你会如何设计这个LLM网关的架构？
- 请介绍一个你开发或调优过的Agent案例，你遇到了哪些核心问题（如规划、记忆、工具调用）？如何解决的？
- 如何评估不同LLM在特定任务上的效果？请描述你设计评测集（Benchmark）和评测流程的思路
职位点评
薪资福利65
成长发展90
工作生活50
使命价值75
薪资福利
65中等
该职位属于AI核心基础设施岗位，技术门槛高，薪资具有市场竞争力，但JD未明确提及福利待遇。
薪资信号面议 (2.5千–4万/月)
成长发展
90较高
该职位技术栈前沿，涉及LLM、Agent、大数据等多个高成长领域，且为公司级核心平台，能提供极佳的技术深度与广度锻炼。
技术前沿前沿/新兴技术
技术栈LLM、Agent、Python、Java、LiteLLM、Kafka、Flink、ClickHouse
成长机会规模化的落地、实质性提升产研效能、支撑...高并发稳定接入、保障企业级安全合规
业务类型cost_center
工作生活
50较低
JD未提及任何办公模式（如远程、弹性）和工作生活平衡相关信息。作为支撑数千研发人员的平台岗位，可能有较高的稳定性和可用性要求。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
75中等
该岗位通过构建AI基础设施来赋能全公司研发效能，具有明确的内部价值创造和效率提升目标，属于技术驱动的职能。
行业发展高速增长赛道
社会影响中性/一般
使命信号支撑AI平台工具...规模化落地、实质性提升产研效能
创新程度积极采用新技术
Watch Jobs