【学院动态】我院本科生荣获第二届大学生人工智能安全竞赛全国一等奖

2026年8月30日，由中国信息协会主办，上海交通大学、天融信科技集团等单位共同承办的第二届大学生人工智能安全竞赛总决赛在上海交通大学圆满收官。华东师范大学信息与电子工程学院（集成电路科学与工程学院）本科生彭丽媛、王奕兮、李楠樟、谢雨彤组成的参赛团队，在薛明富教授的指导下，在作品赛决赛中脱颖而出，荣获全国一等奖第一名。

参赛队员：（左起）彭丽媛、王奕兮、谢雨彤、李楠樟

大学生人工智能安全竞赛旨在提升大学生创新实践能力、实战攻防能力与合规安全意识，紧贴国家关键行业安全需求，覆盖金融、能源、低空经济、政务、工业、教育、医疗等领域，涵盖AI内生安全、AI应用安全、AI赋能安全与AI衍生安全四大维度，助力高校人才培养和人工智能安全战略落地，支撑我国人工智能产业安全、健康、有序发展。本届大赛吸引到了来自全国91所高校的298支参赛团队积极参加，最终评选出“作品赛”一等奖队伍23支、二等奖队伍40支、三等奖队伍72支，“对抗赛”一等奖队伍8支、二等奖队伍16支、三等奖队伍31支。

参赛作品《大模型评测数据泄露检测系统》获作品赛全国一等奖第一名

获奖团队介绍

作品名称：大模型评测数据泄露检测系统

团队成员：彭丽媛、王奕兮、李楠樟、谢雨彤

指导教师：薛明富教授

作品简介：作品针对大模型可能事先学习记忆过测评集导致大模型测评性能虚高的问题，设计了一个大模型评测数据泄露检测系统。在不访问模型训练语料、内部参数的黑盒情形下，系统自动批量对原测评集生成三类变体，分别计算三个维度的特征指标，通过三种变体测试与非线性的多指标判定机制，判定大模型是学习记忆了测评题还是未曾记忆的正常推理。作品能够在黑盒条件下对本地或云端大模型的测评集泄露风险进行量化检测，真实评估大模型的能力，助力企业完成模型选型与模型能力验证。