腾讯｜腾讯营销-优化算法在广告推荐场景的应用研究实习

课题背景： 在计算广告系统中，点击率（CTR）和转化率（CVR）预估模型是驱动流量变现和保障广告主ROI的核心引擎。现代工业级广告模型通常包含海量的离散特征（如用户ID、广告ID），模型参数量高达千亿甚至万亿级别（主要集中在Embedding层）。 广告数据具有极强的时效性和非平稳性（Non-stationary），广告主的预算调整、新广告的频繁上下线要求模型必须具备极快的响应能力。因此，基于流式数据的在线学习（Online Learning）已成为标配。然而，在面对极度稀疏的高维特征、严重的标签延迟（尤其是CVR转化延迟）以及庞大的分布式计算集群时，传统的优化算法（如基础的Adam、Adagrad或FTRL）在收敛速度、解的稀疏性、泛化能力以及通信效率上逐渐显露出瓶颈。探索更适配广告场景特性的新一代优化算法，是突破当前广告预估精度天花板的关键底层技术。 工作内容： 1、训练性能与资源优化 参与大规模广告训练平台的性能剖析，识别 GPU/CPU、网络、存储等瓶颈环节并优化； 在给定资源约束下，设计并验证不同模型规模、批大小、并行策略（数据/模型/流水线并行等）的组合方案，提升端到端训练效率。 2、效果–成本联合优化策略 探索利用 scaling law 进行“效果–成本”联合优化的策略，如自动化选择最优模型规模、训练步数和采样策略； 将相关策略在离线训练及小流量线上实验中进行验证，评估对 AUC、CTR/CVR、收益等指标的影响。 3、工程实现与平台落地 协助将验证有效的策略沉淀至训练平台配置、调度策略或自动化推荐工具中； 配合团队完成实验系统、可视化分析工具等工程模块的开发与维护。

基础能力： 具备扎实的机器学习 / 深度学习基础，了解推荐系统或广告预估相关概念；熟练使用至少一种深度学习框架（如 PyTorch / TensorFlow），掌握 Python 编程，具备良好的代码规范与调试能力。 研究与分析能力： 1、对scaling law、大模型训练、训练效率优化等方向有兴趣，能阅读相关英文论文并进行复现或改进； 2、具备较强的数据分析能力，熟练使用常用数据处理与可视化工具（如 Pandas、SQL、Matplotlib 等）。 系统与工程意识： 1、对分布式训练、GPU 计算、参数服务器 / Embedding 服务等有一定了解者优先； 2、有大规模训练、推荐/广告实习或项目经历者优先。 软素质： 1、自驱力强，能够在不确定问题下主动探索与迭代； 2、具备良好的沟通协作能力与文档撰写能力，乐于在团队中分享与讨论。