AI开发工程师(省人工智能中心）

优缺点分析

角色解读

• 技术专家路线：在AI工程化、推理优化、云原生等方向深耕，成为大模型基础设施领域的专家
• 架构师路线：从模块开发走向系统架构设计，负责整个AI推理平台的技术演进和架构决策
• 管理路线：积累项目管理和团队协作经验，向技术经理或团队负责人方向发展
• 负责AI模型从训练到推理上线的全链路工程化，包括模型量化压缩、容器化部署、性能调优等，确保模型高效稳定运行
• 参与AI大模型推理服务平台的核心功能研发，如模型服务编排、请求调度、负载均衡、弹性扩缩容等，构建高可用的服务平台
• 建设Token服务体系和运营分析体系，实现从裸算力到按Token交付的服务能力，并对调用量、延迟、成本等指标进行量化分析
• 负责AI Agent应用和RAG系统的工程化开发，支撑智能客服、智能运维等场景的产品化落地
• 扎实的编程能力，熟练掌握Python、Go或Java中的至少一种，并了解设计模式和软件工程最佳实践
• 熟悉容器化与云原生技术栈，包括Docker、Kubernetes、CI/CD，了解微服务架构和分布式系统开发
• 了解大模型推理服务流程，对vLLM、Triton等推理框架及GPU/NPU优化技术有认知
• 具备AI应用工程化经验，包括AI Agent开发、RAG系统搭建、模型服务化封装等

申请策略

• 在申请时，可以主动表达对AI大模型基础设施领域的热情和长期发展意愿
• 了解中国电信在AI领域的战略布局和政企业务，在面试中展现对业务的理解
• 突出大模型推理服务部署、性能调优的实战经验，用具体数据量化成果，如降低延迟、提升吞吐量等
• 强调云原生技术栈（Docker、Kubernetes）和分布式系统开发经验，展示微服务架构设计能力
• 如果有AI Agent、RAG系统或Token服务相关项目经验，务必重点描述，这是岗位的核心加分项
• 提及开源项目贡献或GitHub链接，展示技术热情和代码能力
• 系统学习vLLM、Triton Inference Server等主流推理框架，了解其原理和优化方法
• 补充学习AI Agent和RAG系统的工程化实现，如LangChain、LlamaIndex等框架

面试指南

• STAR法则：描述情境、任务、行动和结果，突出个人贡献和量化成果
• 系统设计思维：从需求分析、架构设计、技术选型、实现细节到运维监控，全面阐述你的解决方案
• 结合业务场景：在回答技术问题时，可以结合政企客户的实际场景，体现对业务的理解
• 请描述一次你负责大模型推理服务部署和性能调优的经历，遇到了哪些挑战，如何解决？
• 谈谈你对Kubernetes的理解，如何设计一个支持多租户隔离和弹性扩缩容的推理服务？
• 什么是Token服务？在设计Token计量计费系统时，需要考虑哪些核心问题？
• 请介绍一个你开发的AI Agent或RAG系统，它的架构是怎样的？
• 如何监控和优化推理服务的成本？你会关注哪些关键指标？