AI研发工程师（上海）

优缺点分析

角色解读

• 在AI基础设施领域深耕，可向AI平台架构师或技术专家方向发展，负责更大规模的算力平台设计与优化
• 可横向拓展至大模型训练与推理优化、云原生基础设施、MLOps等方向，成为AI工程化领域的专家
• 在中国电信这样的巨头企业，有机会参与国家级AI基础设施项目，积累丰富的行业资源和影响力
• 负责AI中台核心模块的架构设计与研发，包括异构算力调度、任务全生命周期管理、模型服务化及自动化训练流水线，保障平台高性能、高可用和可扩展
• 负责大规模云边端AI分析任务的分布式调度与端云协同，实现任务动态分配、状态同步、故障迁移和负载均衡，保障海量设备及高并发任务稳定运行
• 负责CPU/GPU/NPU等异构算力资源的统一纳管与智能调度，优化推理资源配置、任务并发及算力利用效率，降低推理成本
• 负责模型推理服务化能力建设，集成并优化vLLM、TensorRT、Triton等推理引擎，支持模型版本管理、灰度发布、流量路由、A/B测试和弹性伸缩
• 扎实的编程基础，熟练掌握Java、Go、Python等至少一种主流开发语言，具备微服务、高并发及高可用系统的设计与开发经验
• 熟悉Kubernetes、Docker、Kafka等云原生及分布式技术，具备异构算力调度或云边端任务调度经验者优先
• 熟悉模型训练与推理服务化技术，了解vLLM、TensorRT、Triton、Ray、Argo Workflows等框架中的一种或多种
• 具备扎实的数据结构、操作系统、计算机网络和分布式系统基础，熟悉Linux操作系统及常用命令

申请策略

• 了解中国电信在AI领域的战略布局和业务方向，在面试中展现对AI基础设施建设的理解
• 准备一个完整的AI平台或分布式系统项目案例，展示从架构设计到落地优化的全过程
• 突出分布式系统、微服务、高并发系统的设计与开发经验，尤其是Kubernetes、Docker等云原生技术
• 强调异构算力调度、模型服务化、推理引擎优化等AI基础设施相关项目经历
• 展示对vLLM、TensorRT、Triton、Ray等框架的深入理解和实际应用案例
• 系统学习Kubernetes、Docker等云原生技术，并动手实践部署和调度
• 深入研究vLLM、TensorRT等推理引擎的原理和优化方法，了解模型服务化最佳实践
• 补充分布式系统、网络、存储等底层知识，提升系统设计能力

面试指南

• 回答项目类问题时，采用STAR法则（情境、任务、行动、结果），突出个人贡献和量化成果
• 回答系统设计类问题时，先明确需求，再给出架构方案，并分析其优缺点和权衡
• 回答技术细节问题时，结合具体场景，展示对原理的理解和实际应用经验
• 请介绍一个你主导的分布式系统或AI平台项目，包括架构设计、技术选型和遇到的挑战
• 如何设计一个支持大规模异构算力调度的系统？请谈谈你的思路
• 如何优化模型推理服务的性能？你了解哪些推理引擎的优化技术？
• Kubernetes中如何实现GPU资源的调度和管理？
• 在保障高并发任务稳定运行的同时，如何降低推理成本？