腾讯｜混元-通用网页建模优化实习

课题背景： 聚焦网页内容建模问题，核心解决多语种（中文、英文及典型小语种）与富媒体结构（HTML语法、渲染信息、文本、图片、视频等）的统一建模难题，以简化模型结构、提升模型通用性为目标，实现网页内容的向量化统一表征，支撑下游网页信号刻画任务。 课题挑战： 网页通用表征能力建立与衡量，综合表征网页源码、文本、图片、结构等信息。在万亿级存量网页 + 天级别十亿级增量网页上上支持推理，控制模型体量的前提下，对网页进行综合的向量化表征，支撑下游各任务。 具体工作： 1、梳理网页富媒体结构（HTML、文本、图片、视频等）的核心特征及多语种网页的差异； 2、探索简化且通用的建模方式，融合多语种文本与富媒体信息，实现网页内容向量化统一表征； 3、验证模型适配性，支撑下游网页质量判别、领域识别、结构提取等任务； 4、优化模型结构，提升通用性与效率。

1、计算机/软件工程等相关专业硕士以上学历，拥有博士学位者优先，熟悉python/c++编程语言，熟练掌握大数据技术栈，包括Hadoop/Spark等； 2、深入理解大语言模型预训练原理、预训练目标及数据构建流程，拥有发表顶会论文、大模型研究工作、知名竞赛获奖、顶级研究机构或一线互联网工作经验者优先； 3、理解网页结构（HTML、渲染逻辑）及富媒体内容特性，掌握多语种处理与向量化表征相关技术； 4、研读网页建模、多模态融合、向量化表征相关核心论文，借鉴现有研究思路； 5、具备基础建模与分析能力，能设计简化、通用的模型方案，适配下游任务需求。