首届人工智能安全大赛

大赛介绍

作为中关村国际前沿科技创新大赛的专题赛，2022人工智能安全大赛聚焦“新基建”时代人工智能产业发展所面临的安全挑战，针对人脸识别安全、深度伪造内容治理、自动驾驶安全等前沿领域，面向国内外高校、科研机构及企业设置赛题，旨在普及新型智能安全风险，以竞赛方式解决现实场景中的需求问题，挖掘培育一批高水平、高层次的人工智能安全新型人才团队，同时强化人工智能治理体系与安全评估能力建设，助力人工智能产业高质量发展。

组织机构

指导单位

北京市科学技术委员会、中关村科技园区管理委员会

北京市经济和信息化局

主办单位

中关村国家实验室

国家工业信息安全发展研究中心

清华大学人工智能研究院

北京瑞莱智慧科技有限公司

协办单位

中国电子信息行业联合会人工智能工作委员会

中关村网络安全与信息化产业联盟

三大赛题

本届大赛是国内首个以人工智能安全为主题的赛事，针对人脸识别安全、深度伪造内容治理、自动驾驶安全等领域设置赛题，将产业应用中的实际需求与最前沿的安全问题融合，将为人工智能的能力演进提供重要参考。赛题介绍如下：

深度伪造安全竞赛

目前利用生成合成类算法伪造音频、视频等内容的滥用现象日益加剧。例如，不法分子利用生物特征生成软件伪造特定信息，用于电信诈骗、编造虚假新闻等，给个人和社会造成了严重的负面影响。而通过分析伪造音视频的相似性，来溯源不同伪造内容是否来自同一种或同一类生物特征生成软件，成为有效应对方案。本赛题模拟互联网上深度伪造视频传播的场景，选手通过提交针对伪造方法的溯源算法，对相同生成方法的深度伪造视频进行识别，最终根据准确率进行排名。

自动驾驶安全竞赛

目前自动驾驶在工业界迎来蓬勃发展，但结构性的技术缺陷也导致自动驾驶系统面临安全威胁。以环境感知系统为例，在恶劣天气、强日光照射等极端场景中自动驾驶车辆极易发生误判。同时，对抗样本等算法漏洞的存在，导致能够通过修改道路车辆等目标物的颜色、纹理特征，使车辆目标检测模型失效。本赛题模拟自动驾驶场景下的对抗攻击，提供线上仿真自动驾驶环境，选手通过提交对抗补丁，对主流自动驾驶目标检测模型进行攻击测试，最终根据攻击成功率进行排名。

人脸识别安全竞赛

人脸识别作为人工智能技术的典型应用，已广泛渗透于社会生活的多个领域，如金融场景的刷脸支付、安防场景的人脸闸机验证等。但在大规模落地的同时，人脸识别系统也面临安全挑战，比如容易受到对抗样本攻击，即通过对人脸图像做微小的改动，能够欺骗识别系统做出错误的判断，破坏人脸认证系统，可能引发重大损失。本赛题模拟人脸比对场景下的对抗攻击，在模型详细信息未知的黑盒场景下，选手提交对抗补丁对模型进行攻击测试，最终根据攻击成功率进行排名。

大赛赛程

奖项设置

大赛官网

http://www.zgc-aisc.com/