让自动驾驶撞墙，刷别人的脸付账：最新的AI漏洞让我们开眼界

那些专家们曾经担心的AI算法漏洞是可以实现的，那些没想到的也是可以实现的。

在刚刚过去的1024年，大比武上演了人机攻防对抗的新形式。

劫持飞行无人机，干扰自动驾驶汽车“致盲”，戴口罩刷别人脸算账。在上周六的GeekPwn 2020国际安全极客大赛上，全球顶级白帽黑客揭开了AI模型、物联网、5G等领域的诸多不为人知的漏洞。

本次大赛共有来自不同科技公司和高校的600多支极客团队报名参赛，最终近50支团队于10月24日联合向500万元奖池发起冲击。

在总决赛开始前，今年的GeekPwn大赛早在3月份就开启了各比赛题目的报名，4月份公布了规则，8月底CAAD线上比赛结束。10月24日来到现场的队伍，个个身怀绝技。

他们面临的挑战也与以往不同——主办方为选手们准备了全新的挑战。今年的八大赛题包括“新基础设施”安全赛、基于漏洞的突破挑战赛、非基于漏洞的突破挑战赛、云安全赛、初级黑客马拉松赛、假面AI识别赛、AI变脸面具挑战赛和窃密与反窃密挑战赛。每个竞赛题目也分为几个单项竞赛，侧重不同的方向。

其中，由腾讯安全和GeekPwn联合举办的国内首届新基础设施安全大赛涵盖了5G、物联网、人工智能等领域，其中挑战者破解了车联网、无人机、安检设备、智能电表等目标，让人们对这些行业的安全性有了新的认识。

戴口罩刷别人脸。

刷脸门禁，手机解锁，机场安检...使用人工智能算法的人脸识别最近已经成为人们日常使用的技术。由于2020年初的新冠肺炎疫情，越来越多的人戴上口罩，这给人脸识别带来了新的挑战。一些科技公司推出了即使戴着口罩也能识别人脸的新技术，据说准确率能达到99%。另一方面，人们佩戴的口罩覆盖了人脸的很大一部分，这也为添加人脸识别和破解的对抗样本留下了“后门”。

这个挑战模拟了人脸识别自动售货机和ATM取货的场景。玩家可以利用AI算法制作印有攻击样本的面具，遮住自己的脸。自动售货机和自动取款机的人脸识别算法需要150秒才能识别出组织者指定的目标，包括蒋昌建、“美国队长”克里斯·埃文斯、埃隆·马斯克等人。

其中，挑战的目标还包括白盒算法(ArcFace算法)和黑盒算法两条赛道。顾名思义，黑盒算法是指攻击者事先不知道人脸识别算法的构成，破解起来比较困难。

GeekPwn创始人王琦(大牛蛙)戴上了伪主持人蒋昌建的面具:AI对抗的是样本的攻击，而不是目标人脸的一部分。

在比赛中，每台机器有三个难度递增的关卡。每个面具的有效攻击面积依次减小，面具上的图案面积从75%减小到67%，再减小到50%。难度在逐渐增加。前一关失败，意味着失去后一关的挑战资格。

入围的有来自清华大学和北京大学的AFMask战队、海棠初白战队、动感和动感弦乐战队，以及来自清华大学计算机系和RealAI的TSAIL战队。

戴口罩可以换脸取钱吗？我们经常听到厂商谈论“金融级安全”的支付技术。破解和钱有关的人脸识别系统，没那么简单。事实上，比赛的进展也验证了人们的期待。

第一个出现的动态串队第一轮就失败了。在……cond组，AFMask团队第一轮成功破解两项，第二轮失败。TSAIL和海棠初白也在第一轮倒下。

刷脸破解支付很难，或许是因为挑战的规则略显严格:每次尝试只需45秒，只有一个团队通过了第一关。另外，因为比赛只要求“信心”达到50%，就成功了。在现实世界中，对支付环境的要求显然更高。对于我们来说，被“偷”的可能性还是很低的。

让自动驾驶“自动撞墙”

虽然自动驾驶离大规模应用还有一段时间，但量产车上已经有很多辅助驾驶功能可以让驾驶员解放双手。对于许多人来说，最近买车时，是否有L2自动驾驶系统已经成为一个关键的考虑因素。这场大赛对自动驾驶的干扰挑战，让我们看到了这项技术的一些隐患。

进行这项挑战的白帽黑客吴伟源(音)表示，用于干扰自动驾驶系统中毫米波雷达的设备体积小，价格便宜。目前，毫米波雷达是各种传感器中公认的稳定性较高的一种方式。

我们知道目前的一些辅助驾驶技术，比如特斯拉上的Autopilot，是通过摄像头和雷达来收集道路信息的。不同的汽车选择不同的传感器(比如特斯拉不用激光雷达)，但算法会收集所有输入信息进行综合判断。技术人员做的小白盒看起来很不起眼，但它能造成的干扰效果却是“致命的”。

首先是没有干扰的测试。汽车的自动驾驶会停在纸箱做成的“墙”前。

把干扰器放在墙脚下，一个令人费解的现象出现了:进入自动驾驶模式后，汽车看到前面用纸箱堆起来的墙后，似乎犹豫了一下，有一个减速过程，但前面的物体无法识别，加速撞了进去。终于发生了“意外”，实际环境下的黑客攻击宣告成功。

在很多具有自动驾驶功能的汽车中，只要有传感器发出危险信号，系统就会指令车辆停下来。然而，在实验中，汽车仍然撞上了障碍物。这次挑战的成功让人们意识到，在自动驾驶汽车投入实际使用之前，还有很多工作要做。

据主办方GeekPwn透露，毫米波雷达攻击的测试结果已经提交给特斯拉，黑客也将帮助车企不断提高自动驾驶的安全性。

在10月24日的比赛现场，成功的项目有很多:来自TQL(清华-安信联合研究中心)的安全研究人员利用一个未知的安全漏洞，以云接入的方式攻击运行中的植保无人机，成功获得了植保无人机的最高接入权限，使其偏离了原来的通道。来自凤凰解码器(PhD)的白帽黑客也成功利用了视频协议中未知的安全漏洞，通过将网络连接到云端，对智能摄像机进行远程攻击。

为什么这些闻所未闻的漏洞都出现在GeekPwn上？

最近一两年，我们见证了大量的人工智能技术。在每天面临各种变化的安全领域，新的情况和挑战正在出现。其实AI安全有两层含义:即用AI的方法解决安全问题，AI技术的安全保护。

“GeekPwn曾经举办过数据追踪挑战赛，鼓励人们用AI的方法从大量数据中快速准确地定位恶意网站或恶意应用，”大赛负责人杨泉说。“当AI技术大量进入实用阶段，其自身的安全问题成为人们需要关注的领域。GeekPwn连续多年举办的CAAD(对抗样本攻防大赛)比赛，针对人工智能可能存在的安全问题设置了竞赛题目，通过比赛揭露AI算法的缺陷，从而推动人工智能更加健康的发展。」

……

从攻击者的角度来看，预判威胁，提前暴露风险，警告被破解的厂商，是长久以来完善数字安全防御体系的方式，是GeekPwn大赛的核心价值。今年的国际安全极客大赛是第七届。在这些大赛中，我们见证了AI技术的大规模应用，以及“反样本攻击”等破解技术的兴起。极客们已经揭露了数百个高风险漏洞。

今天，每个人都在使用各种电子设备，这表明安全漏洞在我们的生活中是常见的。然而，我们一直在享受新技术带来的便利，却忽略了技术背后的隐患。通过挑战比赛来展示未知的漏洞是一件很棒的事情，这让人们对新技术有了更多的了解，也唤起了人们对技术安全的关注。

除了发现漏洞，还有培养新人。GeekPwn还举办了首届“青少年黑客马拉松大赛”，吸引了众多10至16岁的黑客参加。相对于越来越火的机器学习，信息安全有时被认为是太高了，但杨权有不同的看法。

“每个行业都有自己的进入门槛。我不认为不同的行业有不同的门槛”，杨全说。“现在AI正在流行，但人工智能已经走过了六七十年默默无闻的发展史。目前看网络安全的人才缺口很大，因为这几年网络安全越来越受重视，行业需求越来越大。至于门槛，从个人来讲，更多的是对网络安全行业的热情和投入。只要你有一定的基础知识和必要的努力和研究，你会取得很好的效果。」

极客们将继续挑战自我，为构建安全应用做出更多贡献。大赛主办方表示，明年GeekPwn还会有更多新的比赛。但是，不变的是发现、鼓励、培养安全人才。GeekPwn希望让更多人认识和了解安全，让人们的生活更安全。

那些专家们曾经担心的AI算法漏洞是可以实现的，那些没想到的也是可以实现的。

在刚刚过去的1024年，大比武上演了人机攻防对抗的新形式。

劫持飞行无人机，干扰自动驾驶汽车“致盲”，戴口罩刷别人脸算账。在上周六的GeekPwn 2020国际安全极客大赛上，全球顶级白帽黑客揭开了AI模型、物联网、5G等领域的诸多不为人知的漏洞。

本次大赛共有来自不同科技公司和高校的600多支极客团队报名参赛，最终近50支团队于10月24日联合向500万元奖池发起冲击。

在总决赛开始前，今年的GeekPwn大赛早在3月份就开启了各比赛题目的报名，4月份公布了规则，8月底CAAD线上比赛结束。10月24日来到现场的队伍，个个身怀绝技。

他们面临的挑战也与以往不同——主办方为选手们准备了全新的挑战。今年的八大赛题包括“新基础设施”安全赛、基于漏洞的突破挑战赛、非基于漏洞的突破挑战赛、云安全赛、初级黑客马拉松赛、假面AI识别赛、AI变脸面具挑战赛和窃密与反窃密挑战赛。每个竞赛题目也分为几个单项竞赛，侧重不同的方向。

其中，由腾讯安全和GeekPwn联合举办的国内首届新基础设施安全大赛涵盖了5G、物联网、人工智能等领域，其中挑战者破解了车联网、无人机、安检设备、智能电表等目标，让人们对这些行业的安全性有了新的认识。

戴口罩刷别人脸。

刷脸门禁，手机解锁，机场安检...使用人工智能算法的人脸识别最近……成为人们日常使用的技术。由于2020年初的新冠肺炎疫情，越来越多的人戴上口罩，这给人脸识别带来了新的挑战。一些科技公司推出了即使戴着口罩也能识别人脸的新技术，据说准确率能达到99%。另一方面，人们佩戴的口罩覆盖了人脸的很大一部分，这也为添加人脸识别和破解的对抗样本留下了“后门”。

这个挑战模拟了人脸识别自动售货机和ATM取货的场景。玩家可以利用AI算法制作印有攻击样本的面具，遮住自己的脸。自动售货机和自动取款机的人脸识别算法需要150秒才能识别出组织者指定的目标，包括蒋昌建、“美国队长”克里斯·埃文斯、埃隆·马斯克等人。

其中，挑战的目标还包括白盒算法(ArcFace算法)和黑盒算法两条赛道。顾名思义，黑盒算法是指攻击者事先不知道人脸识别算法的构成，破解起来比较困难。

GeekPwn创始人王琦(大牛蛙)戴上了伪主持人蒋昌建的面具:AI对抗的是样本的攻击，而不是目标人脸的一部分。

在比赛中，每台机器有三个难度递增的关卡。每个面具的有效攻击面积依次减小，面具上的图案面积从75%减小到67%，再减小到50%。难度在逐渐增加。前一关失败，意味着失去后一关的挑战资格。

入围的有来自清华大学和北京大学的AFMask战队、海棠初白战队、动感和动感弦乐战队，以及来自清华大学计算机系和RealAI的TSAIL战队。

戴口罩可以换脸取钱吗？我们经常听到厂商谈论“金融级安全”的支付技术。破解和钱有关的人脸识别系统，没那么简单。事实上，比赛的进展也验证了人们的期待。

第一个出现的动态串队第一轮就失败了。第二组，AFMask团队第一轮成功破解两项，第二轮失败。TSAIL和海棠初白也在第一轮倒下。

刷脸破解支付很难，或许是因为挑战的规则略显严格:每次尝试只需45秒，只有一个团队通过了第一关。另外，因为比赛只要求“信心”达到50%，就成功了。在现实世界中，对支付环境的要求显然更高。对于我们来说，被“偷”的可能性还是很低的。

让自动驾驶“自动撞墙”

虽然自动驾驶离大规模应用还有一段时间，但量产车上已经有很多辅助驾驶功能可以让驾驶员解放双手。对于许多人来说，最近买车时，是否有L2自动驾驶系统已经成为一个关键的考虑因素。这场大赛对自动驾驶的干扰挑战，让我们看到了这项技术的一些隐患。

进行这项挑战的白帽黑客吴伟源(音)表示，用于干扰自动驾驶系统中毫米波雷达的设备体积小，价格便宜。目前，毫米波雷达是各种传感器中公认的稳定性较高的一种方式。

我们知道目前的一些辅助驾驶技术，比如特斯拉上的Autopilot，是通过摄像头和雷达来收集道路信息的。不同的汽车选择不同的传感器(比如特斯拉不用激光雷达)，但算法会收集所有输入信息进行综合判断。技术人员做的小白盒看起来很不起眼，但它能造成的干扰效果却是“致命的”。

首先是没有干扰的测试。汽车的自动驾驶会停在纸箱做成的“墙”前。

把干扰器放在墙脚下，一个令人费解的现象出现了:进入自动驾驶模式后，汽车看到前面用纸箱堆起来的墙后，似乎犹豫了一下，有一个减速过程，但前面的物体无法识别，加速撞了进去。最后，一个“意外”发生了，而且……acker攻击在实际环境中宣告成功。

在很多具有自动驾驶功能的汽车中，只要有传感器发出危险信号，系统就会指令车辆停下来。然而，在实验中，汽车仍然撞上了障碍物。这次挑战的成功让人们意识到，在自动驾驶汽车投入实际使用之前，还有很多工作要做。

据主办方GeekPwn透露，毫米波雷达攻击的测试结果已经提交给特斯拉，黑客也将帮助车企不断提高自动驾驶的安全性。

在10月24日的比赛现场，出现了多个成功的项目:来自TQL(清华-安信联合研究中心)的安全研究人员利用一个未知的安全漏洞，以云接入的方式攻击正在运行的植保无人机，成功获得了植保无人机的最高接入权限，使其偏离了原来的通道。来自凤凰解码器(PhD)的白帽黑客也成功利用了视频协议中未知的安全漏洞，通过将网络连接到云端，对智能摄像机进行远程攻击。

为什么这些闻所未闻的漏洞都出现在GeekPwn上？

最近一两年，我们见证了大量的人工智能技术。在每天面临各种变化的安全领域，新的情况和挑战正在出现。其实AI安全有两层含义:即用AI的方法解决安全问题，AI技术的安全保护。

“GeekPwn曾经举办过数据追踪挑战赛，鼓励人们用AI的方法从大量数据中快速准确地定位恶意网站或恶意应用，”大赛负责人杨泉说。“当AI技术大量进入实用阶段，其自身的安全问题成为人们需要关注的领域。GeekPwn连续多年举办的CAAD(对抗样本攻防大赛)比赛，针对人工智能可能存在的安全问题设置了竞赛题目，通过比赛揭露AI算法的缺陷，从而推动人工智能更加健康的发展。」

从攻击者的角度来看，预判威胁，提前暴露风险，警告被破解的厂商，是长久以来完善数字安全防御体系的方式，是GeekPwn大赛的核心价值。今年的国际安全极客大赛是第七届。在这些大赛中，我们见证了AI技术的大规模应用，以及“反样本攻击”等破解技术的兴起。极客们已经揭露了数百个高风险漏洞。

今天，每个人都在使用各种电子设备，这表明安全漏洞在我们的生活中是常见的。然而，我们一直在享受新技术带来的便利，却忽略了技术背后的隐患。通过挑战比赛来展示未知的漏洞是一件很棒的事情，这让人们对新技术有了更多的了解，也唤起了人们对技术安全的关注。

除了发现漏洞，还有培养新人。GeekPwn还举办了首届“青少年黑客马拉松大赛”，吸引了众多10至16岁的黑客参加。相对于越来越火的机器学习，信息安全有时被认为是太高了，但杨权有不同的看法。

“每个行业都有自己的进入门槛。我不认为不同的行业有不同的门槛”，杨全说。“现在AI正在流行，但人工智能已经走过了六七十年默默无闻的发展史。目前看网络安全的人才缺口很大，因为这几年网络安全越来越受重视，行业需求越来越大。至于门槛，从个人来讲，更多的是对网络安全行业的热情和投入。只要你有一定的基础知识和必要的努力和研究，你会取得很好的效果。」

极客们将继续挑战自我，为构建安全应用做出更多贡献。大赛主办方表示，明年GeekPwn还会有更多新的比赛。然而，不变的是发现、鼓励和培养安全……人才。GeekPwn希望让更多人认识和了解安全，让人们的生活更安全。

标签：特斯拉发现北京远程

汽车资讯热门资讯