大模型资源运营研发工程师

优缺点分析

角色解读

• 可向大模型基础设施架构师发展，成为推理性能优化与计费系统专家
• 积累高并发、大数据处理经验后，可转岗至AI平台、云原生等方向
• 在快手内部有明确的职级晋升通道，可往技术专家或技术管理方向发展
• 开发大模型推理场景的计量系统，实现Token级、请求级用量采集与计费数据链路
• 设计和优化百亿级成本看板，支持多维下钻聚合，提升ClickHouse查询性能
• 建设推理指标数据中心，采集实例级、请求级指标，支撑弹性扩缩容系统
• 深入掌握GoLang、Python，有良好的编程习惯和代码质量追求
• 熟练使用MySQL、Kafka、ClickHouse、Redis等中间件，具备大规模数据调优经验
• 了解OpenAI等大模型API协议，熟悉Docker、Kubernetes等容器编排技术

申请策略

• 了解快手的大模型业务布局（如快意大模型、视频生成等），在面试中展现对业务的理解
• 准备一个系统设计案例，展示如何构建高可靠、低延迟的计量数据链路
• 突出Go或Python的高并发项目经验，特别是数据处理和性能优化案例
• 强调ClickHouse、Kafka等中间件的使用深度，如设计过大吞吐数据管道
• 如有大模型API调用或容器化部署经历，务必详细描述
• 可提前学习OpenAI API调用方式和计量逻辑，了解计费系统的设计要点
• 熟悉Kubernetes和Docker的实践，尝试在个人项目中部署模型推理服务

面试指南

• 明确需求与难点，例如高并发、低延迟、数据一致性
• 然后提出分层架构（采集层、聚合层、存储层），并说明如何解决常见问题（如重复数据、热点）
• 针对性能问题，先定位瓶颈（如磁盘IO、SQL复杂度），再优化（如物化视图、分片、预聚合、调整索引）
• 如何设计一个支持Token级计费的实时数据流系统？
• ClickHouse在百亿级数据下的查询优化策略有哪些？
• 描述一次你使用Kafka处理大规模数据的经验，遇到过什么挑战？
• 你对大模型API协议（如OpenAI）的了解？如何实现请求转发和用量采集？
• 在Kubernetes上部署推理服务时，如何实现弹性扩缩容？