番茄依托字节跳动的先进中台,在模型Scaling方向已有落地,后续将与架构和自有的多模态内容理解团队紧密合作,并充分发挥自身高质量PGC内容的特点,在超大参数规模Scale,大模型推理能力结合排序模型,生成式推荐范式变革三大方向全面发力,大幅提升强算力下推荐模型的泛化、推理能力与算力利用率,完成推荐系统范式的转变
Scaling Up,包括设计并探索Scale上限更高,ROI更好的结构
紧跟行业前端科研,推动优化推荐大模型的训练与推理算力利用率
LLM4Rec,包括研究如何让LLM输出与下游推荐模型更好的对齐以及探索将LLM的推理能力融入到排序模型
生成式推荐,探索番茄各体裁的最佳Tokenize方案,研究推荐场景下Reward Model如何更好地协同Encoder-Decoder生成架构,完成生成式模型对传统推荐模型的替换落地