华为｜AI安全与隐私研究员

【AI模型与Infra安全】 1、可证鲁棒性（Certifiable Robustness）： 研究针对大模型及多模态模型的对抗攻击防御理论，开发具备数学证明保证的防御算法，提升模型对抗扰动和恶意投毒的免疫力； 2、模型资产与隐私保全： 研究模型反向工程、成员推理攻击的防御机制；探索轻量化同态加密、安全多方计算（MPC）在超大规模模型推理中的应用； 3、计算平台受信任执行： 研究基于 TEE（如 Intel TDX, ARM TrustZone）的机密计算架构，确保模型权重在异构算力集群中处理时不被窃取或篡改； 4、自动化漏洞发现理论： 开发针对深度学习框架（如 PyTorch/TensorFlow 核心库）和推理引擎的自动化安全审计工具及模糊测试（Fuzzing）理论。 【AI应用安全】 1、Agent 决策一致性与对齐研究： 研究如何通过强化学习（RLHF/DPO）或构造新型损失函数，确保 Agent 在执行复杂长链路任务时，其行为逻辑始终符合人类伦理与预设安全基线； 2、多智能体对抗博弈： 探索多 Agent 协作环境下的安全风险，研究智能体之间是否存在潜在的“共谋”绕过安全机制，并设计去中心化的安全审计机制； 3、形式化验证与逻辑安全： 尝试利用形式化方法（Formal Methods）验证 Agent 动作空间的安全性，将模糊的语言指令转化为可数学证明的逻辑约束； 4、动态隐私追踪技术： 研究在 Agent 频繁调用外部工具、跨应用传输数据时，如何实现细粒度的隐私数据动态追踪与策略强制执行。

【AI模型与Infra安全】 教育背景：信息安全、数学、密码学或系统架构方向，在 USENIX Security, IEEE S&P (Oakland), ACM CCS, NDSS 等安全顶会有突破性成果。 底层攻防造诣：深入理解模型参数存储机制、序列化协议安全及计算图编译优化过程中的安全风险。 数学能力：具备极强的数学建模能力，精通概率论、线性代数及复杂性理论。 跨界思维：能够将传统的系统安全思想（如隔离、最小权限原则）与现代深度学习架构深度融合。 【AI应用安全】 教育背景：计算机科学、人工智能或相关方向，在 ACL, EMNLP, NeurIPS, ICLR 等顶会有高质量论文发表。 深厚理论背景：深入理解强化学习、博弈论或控制论在 AI 安全中的应用。 创新能力：能够从 0 到 1 提出解决“黑盒攻击”或“间接注入”的防御架构，而非仅仅依赖现有的过滤规则。 视野：对 AGI 时代的对齐问题（Superalignment）有深刻见解。