视觉大模型推理部署工程师-智能创作（北京/上海/杭州/深圳）

优缺点分析

角色解读

• 技术方向：从模型部署工程师成长为AI系统架构师，主导大规模AI平台设计
• 业务方向：深入理解AI产品需求，转向AI产品经理或技术负责人
• 专家方向：在推理优化、模型加速领域成为公司核心专家，影响行业标准
• 设计并实现视觉大模型（LLM/VLM/AIGC）的推理服务架构，包括模型加载、请求调度、结果返回等环节
• 优化模型推理性能，利用GPU/NPU硬件特性和分布式技术降低延迟和成本
• 与算法团队合作，将新模型快速部署到生产环境，确保稳定性和可扩展性
• 参与构建内部工具链，提升模型部署和运维效率
• 精通Python或Go，具备扎实的工程能力，能够编写高性能、可维护的代码
• 熟悉分布式系统设计，了解高并发、高可用架构，有大规模集群管理经验
• 了解LLM/VLM/AIGC等大模型的基本原理和推理流程，掌握常用推理框架如vLLM、SGLang
• 熟悉GPU/NPU硬件特性和模型优化技术，如量化、剪枝、蒸馏等

申请策略

• 在简历中清晰标注对字节跳动智能创作业务的理解，展示对该方向的热情
• 如果有个人技术博客或GitHub项目，最好展示与AI推理相关的内容
• 突出分布式系统和大规模服务部署的项目经验，尤其是GPU集群相关
• 详细描述模型推理优化的具体案例，如延迟降低、吞吐提升等量化成果
• 展示对LLM/VLM/AIGC的理解，例如参与过的相关项目或开源贡献
• 强调Python/Go编程能力，特别是高并发和性能优化方面的经验
• 补充学习vLLM、SGLang等主流推理框架的源码和使用
• 了解GPU/NPU硬件架构和模型加速技术（如TensorRT、ONNX Runtime）

面试指南

• STAR方法：描述项目背景、目标、行动和结果，重点突出量化指标
• 逻辑分层：从架构层面（负载均衡、容错）到技术细节（算子优化、内存管理）
• 对比分析：比较不同方案的优劣，展示技术判断力
• 请描述你参与过的一个大模型推理服务架构设计，如何保证高可用和低延迟？
• 如何优化Transformer模型的推理性能？列举具体技术
• LLM推理中的KV Cache是什么？如何管理？
• 你如何处理分布式推理中的负载均衡和故障恢复？
• 对vLLM或SGLang的了解？它们解决了什么问题？