腾讯｜PCG TRS-生成式推荐模型研究实习

课题背景： 近年来，推荐系统正从传统的“多路召回 + 级联排序”架构，逐步演进到生成式推荐（Generative Recommendation）范式。生成式推荐将用户历史行为、上下文特征、场景信息以及物品表示统一建模为序列，通过自回归或Seq2Seq模型直接完成候选生成、下一物品预测、序列重排和用户价值评估等任务。相比传统推荐方法，生成式推荐有望统一召回、粗排、精排等多个环节，并更自然地支持多场景迁移、多目标优化、多兴趣表达以及冷启动建模。本课题将围绕生成式推荐在真实业务中的关键问题开展系统研究，重点探索可扩展模型Scaling Law、多场景统一建模、高效RL训练方法等方向，持续推动推荐效果和系统效率的双重提升。 课题挑战： 1、生成式推荐的Scaling Law探索： 大语言模型已验证了Scaling Law的有效性，但推荐场景在数据分布、序列结构和实时性要求上与自然语言存在本质差异。如何借鉴稀疏注意力、动态拓扑、序列压缩等LLM领域的高效架构创新，在有限算力预算下最大化模型效果，是推动生成式推荐进一步规模化的核心挑战。 2、多场景统一建模与高效适配： 工业级推荐系统通常需要同时服务多个业务场景，在生成式范式下，需要探索"统一基座+场景适配"的架构设计，例如在共享的生成式基座模型上结合LoRA参数高效微调与MoE条件路由机制，实现跨场景知识共享与场景特异性建模的平衡，确保模型的灵活性和可扩展性。 3、超大规模物品词表的高效表征： 如何设计高效的物品ID编码方案（如语义化ID、层次化编码、残差量化RQ-VAE等）以及动态词表更新机制，使生成式模型在超大规模、高动态性的物品空间中仍能高效检索与生成，是生成式推荐模型应用的关键挑战。 4、生成式排序建模：研究可扩展模型架构、长序列建模与训练推理优化。 5、面向推荐的强化学习训练方法： 生成式推荐天然适配强化学习训练范式，但推荐场景中的奖励信号稀疏、延迟且存在多目标耦合（点击、转化、留存等），使得高效RL训练面临特殊挑战。需要探索适配推荐场景的奖励建模、离线-在线混合训练策略以及多目标RL优化方法，在保证训练稳定性的同时有效提升长期用户价值。 具体工作： 你将参与到生成式推荐模型的前沿研究中，结合业务场景数据特点深入研究，围绕上述核心挑战设计并实现创新方法，基于真实业务数据进行大规模实验验证，做出有业界影响力的创新与应用，并将技术创新成果在顶级会议上发表论文。

1、具备扎实的机器学习基础和算法功底，熟练掌握PyTorch、TensorFlow等机器学习框架； 2、有生成式推荐模型算法研究或落地经验者优先，包含但不限于端到端生成式推荐模型、大模型推荐、生成式排序、强化学习后训练等实际项目经验； 3、在顶级会议或期刊一作发表过相关论文者优先； 4、有推荐模型优化相关实习经验者优先； 5、对于探索前沿技术有很好的热情，具备独立探索前沿技术的能力，有良好的团队协作和沟通能力，积极主动，愿意接受挑战。