AI服务研发工程师-天津(J14445)

优缺点分析

角色解读

• 技术专家路线：深耕AI平台与基础设施领域，成为模型部署、性能优化或MaaS架构方面的技术专家
• 技术管理路线：在项目中承担更多架构设计和技术决策职责，逐步转向技术经理或团队负责人角色
• 负责构建和优化公司AI平台、容器服务及MaaS（模型即服务）的核心后端系统，确保AI能力稳定、高效地对外提供服务
• 参与设计和开发AI资源库（如模型库、数据集），使其成为开发者社区的重要资产
• 跟进LLM等AI前沿技术，并将其集成到现有产品中，驱动产品性能和用户体验的持续提升
• 扎实的后端开发功底，精通Python或Java，熟悉Linux环境和Shell脚本
• 深入的AI工程化经验，熟悉主流深度学习框架，并掌握大模型（LLM）的部署、推理优化工具（如vLLM）
• 云原生与容器化技术，特别是Docker和Kubernetes，能够将AI应用打包并高效部署

申请策略

• 在简历或面试中，展现出对‘AI工程化’的深入思考，例如如何平衡模型性能与推理成本、如何设计可扩展的模型服务架构
• 可以提前研究中科曙光在AI基础设施领域的产品（如DeepAI深算智能体），并在面试中展现对业务的理解
• 重点突出后端开发项目经历，特别是使用Python/Java构建的高性能服务或平台
• 详细描述AI/ML相关项目经验，哪怕只是调用API，也要阐明模型选型、部署、优化过程和遇到的问题
• 强调在Kubernetes、Docker、vLLM等云原生与AI工具链上的实际使用经验
• 如果有开源社区贡献（如Hugging Face上的模型或代码），或参与过AI平台/中间件开发，务必写明
• 系统学习vLLM、SGLang等大模型推理优化框架的原理与最佳实践
• 深入理解Kubernetes中GPU资源调度、模型服务化部署（如KServe）的相关知识

面试指南

• 对于工程化经验问题，使用STAR法则，重点描述技术选型（为何选vLLM）、架构设计（如何容器化、服务拆分）、性能优化（如量化、批处理）和稳定性保障的具体措施
• 对于架构设计问题，先阐明核心原则（如解耦、可观测性、弹性伸缩），再围绕模型管理、请求路由、资源调度、监控告警等环节展开
• 展示你的思考过程：从需求分析（并发量、延迟要求）到技术方案对比（不同框架的优劣），再到最终实施和复盘
• 请描述一个你将AI模型（特别是大模型）工程化落地的经验，遇到了哪些挑战？如何解决？
• 你如何理解MaaS（模型即服务）？在你的设计中，如何保证模型服务的高可用与高性能？
• 如果让你为一个新的大语言模型设计一个容器化部署和推理服务，你会考虑哪些关键点？
• 请谈谈你对vLLM或SGLang等推理框架的了解，它们解决了什么问题？
• 在开发AI平台时，你如何与算法/模型团队协作？