国内首个AI大模型攻防赛启动
上证报中国证券网讯（记者 刘怡鹤）9月6日上午，在2024 Inclusion·外滩大会“以AI守护AI大模型时代的攻守之道”论坛上，国内首个大模型攻防主题的科技赛事“全球AI攻防挑战赛”宣布正式启动。这项赛事聚焦AI大模型产业实践，设计了攻、防双向赛道，邀请各路“白帽黑客”（站在黑客立场攻击自己系统以进行安全漏洞排查的程序员）、技术人才分别进行针对文生图大模型“数据投毒”的攻防实战演练，以及金融场景大模型生成内容的防伪检测竞赛，角逐百万元科技奖金。
中国工程院院士、中国图象图形学学会理事长王耀南在赛事启动环节表示，大模型时代，如何确保AI系统的安全可控、如何有效应对供应链中的潜在风险，成为亟待解决的重要问题。图像图形技术作为新一代信息技术领域的关键技术，在大模型等多场景创新应用，推动图像识别与安全技术创新发展。此次AI攻防挑战赛，是中国图象图形学学会携手蚂蚁集团等业界知名企业、机构，聚焦大模型AIGC赛道共同打造的全球性技术盛宴，期待从人脸验真到生成式内容检测，挖掘出更多创新方案，进一步保障大模型应用安全和产业安全。
大赛设置了“攻击”与“防守”两大赛道，分别聚焦大模型自身安全和大模型生成内容的防伪检测及大模型滥用风险检测，涵盖机器学习、图像处理与计算机视觉、数据处理等多个算法领域的考点。
其中，“攻击赛道”聚焦于文生图大模型的实际应用风险问题。参赛选手可通过目标劫持、情景带入、逻辑嵌套等多样化的动态攻击诱导技术，诱发大模型输出风险图像，以此激活大模型的潜在弱点和漏洞，增强大模型生图的安全免疫能力。“防守赛道”则聚焦于AI人脸核身中的金融场景凭证篡改检测，以应对日益严峻的Deepfake深度伪造及AIGC假证风险。大赛提供百万级凭证篡改数据训练集，参赛选手需要研发和训练模型，并利用对应的测试集评估模型有效性，给出数据伪造概率值。
为保证大赛公平公正，同时更好地指导选手，大赛评委团由多位学术界与工业界专家共同组成。中国工程院院士、中国图象图形学学会理事长王耀南，云安全联盟（CSA）大中华区主席李雨航担任本次大赛的指导委员会专家，来自清华大学、上海交通大学、上海人工智能实验室、中国图象图形学学会等单位的近30位知名学者将参与大赛的组织及评审工作。
本次大赛由中国图象图形学学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办，广泛联合清华大学、上海交通大学、浙江大学等C9高校及多家产学研组织共同发起，上海人工智能实验室作为技术合作单位。大赛旨在通过技术竞赛的形式，凝聚学界、行业力量，直面并解决大模型应用中潜藏的风险，助力全球AI产业健康可持续发展。
本次大赛于9月6日正式启动报名，11月初完成赛事评审。即日起，选手可通过中国图象图形学学会官网、阿里云天池大数据众智平台官网等渠道报名。大赛全程设有近100万元奖金池，用以选拔及表彰领域内的优秀人才。
0人
- 每日推荐
- 股票频道
- 要闻频道
- 港股频道
中秋宴席预订火热 餐饮消费有望迎来小高峰
净息差一降再降 上市银行施展业绩平衡术
- 渐进式延迟法定退休年龄明年起施行
- 多家机构预计金价将刷新纪录，瞄准3000 美元/盎司的里程碑
- 瑞银：“恐怖数据”存在影响美联储降息幅度的可能性
- AI时代 服装行业将何去何从
- 宏观调控或更多从扩投资转向促消费
- 中国团队成功研发建立可同步制备镭-223和锕-225自动化分离系统 核药市场前景广阔（附概念股）
- 黄金价格续创历史新高 机构看好美联储降息后续预测（附概念股）
- 从智能客服到智能投顾，AI Agent全面渗透金融业
- 9月15日磷酸产业链情报
邮轮旅游持续火热 文旅融合加速“出圈”
力求打破固有印象 中药老字号加速向年轻群体渗透
港交所：两只恒生招商彭博美国国债指数ETF在港上市
刚刚！飙涨超210%
