字节跳动｜大模型与智能体安全——面向Agentic AI的攻防评估与可信安全防御（机密计算）-安全与风控（北京/深圳）

团队介绍：我们团队牵头探索人工智能数据安全与隐私保护、联邦学习、安全多方计算（SMPC）、可信执行环境、差分隐私及同态加密等前沿网络安全技术。我们开展尖端研究，致力于将新兴理论转化为数据与系统安全领域的实际应用方案。通过开创安全计算与隐私保护的全新方法，为塑造可信数字创新的未来发挥重要作用。 课题介绍： 智能体应用在爆发式增长同时，也引入了新的安全挑战。包括数据、决策、执行、供应链在内的更大攻击面，及其错综的交互特点和复杂的基础设施，使得传统安全技术纷纷失效，智能体、数据、模型等资产面临着失控、失窃和受损的风险。 本课题旨在系统研究Agentic AI时代下大模型与智能体的攻防测试评估技术，以及基于大模型可信隐私计算的全链路防御体系，保障公司大模型业务的安全平稳发展，包括： 1、多模态大模型与智能体的攻防检测与评估方法、测试基准以及工具链； 2、面向智能体应用的风险防御技术以及可信安全运行保障技术； 3、大模型以及海量样本下的训练与推理技术，保障数据与模型资产安全； 4、面向大模型的机密训推基础设施安全构建、性能优化以及国产卡适配。 课题挑战： 1、智能体高权限下提示注入、记忆投毒等新攻击难以检测，多模态为对抗样本攻击提供了新路径； 2、插件生态缺乏审计，供应链投毒规模蔓延，如何为智能体构建过程完整、数据机密、行为可信的防护体系； 3、在大模型上百B的参数以及海量样本场景下，训练与推理如何实现安全、性能与成本的均衡，可信、可运维、高性能的工业级机密大模型训推基础框架如何构建。 课题价值： 1、技术价值： 1.1构建Agentic AI多模态安全评估基准与红队测试工具链； 1.2构建领先的大模型安全训练与推理算法、系统以及智能体安全可信防护能力。 2、业务价值： 2.1为智能体产品提供运行时安全防护能力以及可信可证的用户隐私保护措施，保障Flow等大模型和智能体产品安全运行； 2.2面向第三方算力环境提供安全可信的大模型数据与资产保护能力。

1、2027届毕业，获得博士学位，计算机科学、密码学、系统安全等相关专业背景； 2、具备扎实的数据结构、算法与计算机系统功底，深耕数据安全领域，熟悉机器学习或大模型技术者优先； 3、拥有机密计算、大模型安全领域前沿研究经验，有CCF-A类顶级会议论文成果者优先；对开源项目有贡献、获ACM/IEEE等国际组织杰出奖项者加分； 4、精通编程技能，熟练运用AI辅助编程工具，具备高效研发实践能力； 5、具备优秀的问题分析与技术攻坚能力，良好的团队协作、沟通意识，拥有强自驱力与快速适应能力。