具身智能推理优化工程师

优缺点分析

角色解读

• 在技术深度上，可成长为AI系统优化领域的专家，深耕高性能计算、异构计算等方向
• 在技术广度上，可拓展至模型算法设计、芯片架构协同优化或更完整的机器人系统全栈开发
• 在工程影响上，可负责关键子系统的架构设计，或向技术管理方向发展，带领团队攻克技术难题
• 对具身智能（机器人）AI模型进行推理阶段的深度性能分析与优化，解决延迟、吞吐、功耗等核心工程问题
• 使用量化、剪枝、算子优化、CUDA编程等手段，最大化利用GPU/NPU等异构硬件算力，将算法模型高效部署到云侧和端侧
• 设计并构建高可用、低延迟的推理服务架构，确保多机器人并发场景下的系统稳定性与实时响应
• 建立完善的推理链路监控、调试与发布机制，保障模型从实验室到真实世界部署的平滑可靠
• 精通C++和Python编程，熟悉PyTorch深度学习框架，具备扎实的工程实现与调试能力
• 深入理解深度学习原理，熟练掌握TensorRT、vLLM等主流推理框架及其优化原理
• 拥有GPU/NPU体系结构知识与CUDA编程实战经验，能进行底层性能剖析与优化
• 具备系统架构思维，了解实时系统、机器人系统的工程化要求与鲁棒性设计

申请策略

• 在简历或面试中，突出你对“模型到系统落地”全链路的思考，展示你解决实际工程瓶颈的案例
• 主动了解腾讯在具身智能、机器人或相关云边端协同方面的公开技术分享，以便在面试中展现你的热情与见解
• 重点突出C++/Python项目经验，特别是涉及性能优化、并发编程或底层开发的实践
• 详细描述使用PyTorch进行模型部署、优化或参与AI推理相关项目的经验，量化性能提升成果
• 明确列出对CUDA、TensorRT、vLLM等推理工具链的掌握程度和实际使用案例
• 展示解决复杂工程问题、跨团队协作以及理解实时系统要求的能力
• 深入学习GPU编程（CUDA）和至少一种主流推理框架（如TensorRT）的优化原理与实践
• 系统学习计算机体系结构，特别是GPU/NPU架构与内存模型，以更好地进行性能分析

面试指南

• 对于优化类问题，遵循“分析-定位-方案-实验-验证”的逻辑，用具体数据和工具（如profiler）来支撑你的回答
• 对于架构设计类问题，从需求（实时性、并发量）出发，结合组件选型、容错、监控等维度进行结构化阐述
• 对于底层原理类问题，结合具体场景（如CUDA kernel编写）解释概念，并说明其对性能的实际影响
• 请描述一个你进行过性能优化的深度学习推理项目，你是如何定位瓶颈并验证优化效果的？
• TensorRT是如何进行算子融合和图优化的？在你的项目中是如何应用的？
• 如何设计一个高并发的推理服务架构，以支持多个机器人同时请求，并保证实时性？
• 你对CUDA中的线程块、共享内存、全局内存是如何理解的？如何优化显存访问？
• 如果一个模型在云端推理很快，但部署到边缘设备后延迟很高，你会从哪些方面分析和解决？