AI应用平台研发工程师-TikTok Shop

优缺点分析

角色解读

• 技术深耕：从平台开发转向AI算法或架构师，深入大模型训练与优化
• 管理方向：带领AI平台团队，负责更大规模的AI基础设施架构设计
• 业务扩展：结合电商业务场景，成为AI+电商复合型专家，推动业务创新
• 开发大模型与AIGC服务链路和平台，支撑电商业务的AI应用迭代
• 设计机器学习基础设施、框架和工具链，推动落地到实际业务中
• 管理大规模样本数据，建设训练和推理的基础设施，并优化GPU资源调度
• 构建AI应用编排框架，方便业务快速搭建AI工作流，同时探索前沿技术降低使用成本
• 熟悉LLM、VLM、AIGC等模型，有Agent、RAG、AutoPrompt等使用经验
• 精通Python/Go编程，具备良好的代码管理习惯
• 掌握Ray、消息队列、Elasticsearch等后端基础设施，能高效开发维护
• 了解PyTorch、vLLM等深度学习框架和模型推理部署，具备良好的业务沟通能力

申请策略

• 了解TikTok Shop电商业务场景，思考AI如何提升效率和体验
• 面试前准备一个大模型从训练到部署的完整流程复盘，突出你的贡献
• 突出大模型或AIGC相关项目经验，如部署、微调或Agent开发
• 展示后端系统设计能力，尤其是使用Ray、消息队列等构建大规模服务的案例
• 强调GPU优化、资源调度或模型加速的实际成果
• 补强LLM推理框架如vLLM、TensorRT-LLM的使用和调优
• 学习分布式训练框架（如DeepSpeed、Megatron）和MLOps工具（如Kubeflow）

面试指南

• 对于项目介绍问题，采用STAR原则：情境、任务、行动、结果，突出技术难点和量化成果
• 对于设计类问题，从需求分析、架构选型、关键指标、权衡优化等方面展开
• 对于技术对比问题，从性能、易用性、社区支持、适用场景等维度系统分析
• 请介绍一个你参与的大模型应用项目，从技术选型到落地的过程
• 如何设计一个高效的AIGC服务？考虑延迟、吞吐和成本
• 你如何优化GPU资源利用率？请举例
• 你对RAG和Agent技术的理解？在电商场景如何应用？
• 请对比vLLM、TensorRT-LLM等推理框架的优劣