给卡车穿“隐身衣”，让自动驾驶车撞上它：这场比赛，比谁攻得快

本文经AI新媒体量子位(微信官方账号ID:QbitAI)授权转载。转载请联系出处。

自动驾驶算法成了这场比赛中的一个实验:

24小时内，不仅在特定场景，让它被攻破；我们必须在比赛的情况下尽力优化，让车跑得更快。

如果这两个方向能脱颖而出，你就能获得第一名。

这是世界上第一辆自动驾驶CTF (Capture The Flag，意为旗帜赛跑，网络安全领域的一项技术竞赛)。参赛选手是来自世界各地的知名CTF团队。

在9月26日至27日的24小时内，来自加州大学欧文分校(UCI)的团队ASGuard脱颖而出，以745分的成绩获得冠军。

我们来看看比赛中的题目。

比赛的题目是什么？

本次比赛包含多种与自动驾驶安全密切相关的问题，包括二进制、倒车等传统的CTF问题，以及机器学习安全(AML)和自动驾驶算法(Mad Race)等全新的问题。

从下图可以看出，题目并不难。奖励分最高的题目是GPS，没有队伍能在限定时间内解决(累计分数为0)。

一些题目的具体画风如下:

是要攻击对手还是让自己跑得更快？

如何在有限的时间内超越所有车队的车，获得正赛第一名？

这是竞赛题目疯狂竞赛的规则:

参赛队伍需要实现自动驾驶的路线规划和控制算法，与其他队伍同场竞技，最快完成比赛的队伍获得最高分。

然而，或许是主办方“故意为之”，这个题目背后有一个邪恶的获胜方法:题目允许攻击其他车辆的漏洞。

所以，竞争的方式不止一种。毕竟，如果道路上的所有其他车辆都被攻破，那么您的汽车将稳操胜券。

但获胜的队伍最终并没有选择加入攻击算法，而是集中精力改进自己的路线规划和控制算法，这也迅速拉开了他们与第二名的差距。

获胜的团队表示，如果车辆优化得足够好，攻击算法追不上它，实际上可以成为获胜策略。

一张“贴纸”让卡车消失

此外，自动驾驶算法的避障也是一项重要技术。

所以，试图糊弄自动驾驶算法，让它撞上障碍物，其实是一种检测算法漏洞的方法。

在消失的卡车这个话题中，参赛者需要提交一个补丁(一个图像块)，系统会将这个补丁贴在卡车车厢上，同时让自动驾驶车辆逐渐靠近卡车，要求在此期间一帧内不能检测到任何卡车。

说白了就是用专门生成的图片来忽悠目标识别算法。

但没那么简单，因为参赛者提交的补丁不仅需要连续多帧的目标检测，还需要考虑车辆轨迹中视角和距离的变化、传感器噪声、图像预处理等技术。

毕竟谁也无法预测自动驾驶算法什么时候会被什么样的图像“”。

在这个题目中，冠军团队将生成的补丁做得更加健壮，最终成功过了自动驾驶算法。

GPS:全场最难的话题

从分数来看，团队唯一没有解决的问题就是这个GPS。

这个问题属于二进制攻击类型(二进制漏洞攻击)，是整个领域得分最高的问题，但是还没有人解决。

题目要求参赛者攻击一个服务器端的GPS检测程序，获取服务器中的标志文件内容。

该问题属于传统的CTF类型，其难点在于参赛者需要了解某个特定GPS数据的解析格式，并构造虚假的GPS数据来触发和利用这一漏洞。

所以要解决这个问题，除了传统的二进制攻击技术，还必须要有GPS传感器在自动驾驶方面的知识和经验，大部分团队都被这个难住了。

对于冠军队伍来说，这次的遗憾应该是没能解决这个最棘手的问题。

“在……在最后时刻，我们已经能够构建所需的GPS数据格式，并找到漏洞利用的注入点，但遗憾的是，由于缺乏时间，这没有完成。"

为什么自动驾驶仪CTF举行？

想尽办法破解自动驾驶算法有什么意义？

或许你还记得，今年6月，启动自动驾驶的特斯拉撞上了一辆侧翻的白色卡车:

高速公路上，一辆货车侧翻在地，随后的汽车纷纷避让。

但是一辆白色的特斯拉Model 3，以110公里的时速，直接撞上了这么明显的卡车障碍物。

针对这类自动驾驶的安全事故，CTF的定位与现实生活中自动驾驶的安全问题息息相关。

比如利用对抗样本可以让白色卡车“消失”的补丁，对于自动驾驶中的障碍物识别来说是一个很大的挑战。

比赛场景以特斯拉高速发生安全事故为背景。

毕竟，只有知道如何攻击自动驾驶算法，才能更好地优化自动驾驶算法，让车辆行驶更安全。

冠军队伍介绍

本次大赛的冠军团队由6人组成，主要来自美国加州大学欧文分校的Asguard (Autonomous Syemsguard)研究组，导师为齐阿尔弗雷德陈(Qi Alfred Chen)，成员有沈、佐藤隆美、王宁飞、四人，均为博士生。

此外，还有清华大学准一年级博士生罗和陈，他们目前在攻读硕士学位，在攻读学士学位。

ASGuard研究组通常的研究方向是自动驾驶软件的安全性。

ASGuard的团队成员也表示，本次比赛最大的制胜点是技能点，研究方向正好涵盖了所有类型的竞赛题。

因此，他们的团队分工也很明确，其中沈、罗、陈负责二进制、倒车和狂跑，而佐藤隆美和宁飞王负责机器学习模型安全(AML)。

然而，本次比赛对于冠军组来说并不是一帆风顺的。

可以看到，在最终夺冠之前，球队经历了很长一段时间的毫无进步，但在最后时刻一举解决了两个问题，终于转败为胜。

喜欢0本文经AI新媒体量子位(微信官方账号ID:QbitAI)授权转载。转载请联系出处。

自动驾驶算法成了这场比赛中的一个实验:

24小时内，不仅在特定场景，让它被攻破；我们必须在比赛的情况下尽力优化，让车跑得更快。

如果这两个方向能脱颖而出，你就能获得第一名。

这是世界上第一辆自动驾驶CTF (Capture The Flag，意为旗帜赛跑，网络安全领域的一项技术竞赛)。参赛选手是来自世界各地的知名CTF团队。

在9月26日至27日的24小时内，来自加州大学欧文分校(UCI)的团队ASGuard脱颖而出，以745分的成绩获得冠军。

我们来看看比赛中的题目。

比赛的题目是什么？

本次比赛包含多种与自动驾驶安全密切相关的问题，包括二进制、倒车等传统的CTF问题，以及机器学习安全(AML)和自动驾驶算法(Mad Race)等全新的问题。

从下图可以看出，题目并不难。奖励分最高的题目是GPS，没有队伍能在限定时间内解决(累计分数为0)。

一些题目的具体画风如下:

是要攻击对手还是让自己跑得更快？

如何在有限的时间内超越所有车队的车，获得正赛第一名？

这是竞赛题目疯狂竞赛的规则:

参赛队伍需要实现自动驾驶的路线规划和控制算法，与其他队伍同场竞技，最快完成比赛的队伍获得最高分。

然而，或许是主办方“故意为之”，这个题目背后有一个邪恶的获胜方法:题目允许攻击其他车辆的漏洞。

所以，竞争的方式不止一种。毕竟，如果道路上的所有其他车辆都被攻破，那么您的汽车将稳操胜券。

但获胜的队伍最终并没有选择加入攻击算法，而是集中精力改进自己的路线规划和控制算法，这也迅速拉开了他们与第二名的差距。

获胜的团队表示，如果车辆优化得足够好，攻击算法追不上它，实际上可以成为获胜策略。

一张“贴纸”让卡车消失

此外，自动驾驶算法的避障也是一项重要技术。

所以，试图糊弄自动驾驶算法，让它撞上障碍物，其实是一种检测算法漏洞的方法。

在消失的卡车这个话题中，参赛者需要提交一个补丁(一个图像块)，系统会将这个补丁贴在卡车车厢上，同时让自动驾驶车辆逐渐靠近卡车，要求在此期间一帧内不能检测到任何卡车。

说白了就是用专门生成的图片来忽悠目标识别算法。

但没那么简单，因为参赛者提交的补丁不仅需要连续多帧的目标检测，还需要考虑车辆轨迹中视角和距离的变化、传感器噪声、图像预处理等技术。

毕竟谁也无法预测自动驾驶算法什么时候会被什么样的图像“”。

在这个题目中，冠军团队将生成的补丁做得更加健壮，最终成功过了自动驾驶算法。

GPS:全场最难的话题

从分数来看，团队唯一没有解决的问题就是这个GPS。

这个问题属于二进制攻击类型(二进制漏洞攻击)，是整个领域得分最高的问题，但是还没有人解决。

题目要求参赛者攻击一个服务器端的GPS检测程序，获取服务器中的标志文件内容。

该问题属于传统的CTF类型，其难点在于参赛者需要了解某个特定GPS数据的解析格式，并构造虚假的GPS数据来触发和利用这一漏洞。

所以要解决这个问题，除了传统的二进制攻击技术，还必须要有GPS传感器在自动驾驶方面的知识和经验，大部分团队都被这个难住了。

对于冠军队伍来说，这次的遗憾应该是没能解决这个最棘手的问题。

“在……在最后时刻，我们已经能够构建所需的GPS数据格式，并找到漏洞利用的注入点，但遗憾的是，由于缺乏时间，这没有完成。"

为什么自动驾驶仪CTF举行？

想尽办法破解自动驾驶算法有什么意义？

或许你还记得，今年6月，启动自动驾驶的特斯拉撞上了一辆侧翻的白色卡车:

高速公路上，一辆货车侧翻在地，随后的汽车纷纷避让。

但是一辆白色的特斯拉Model 3，以110公里的时速，直接撞上了这么明显的卡车障碍物。

针对这类自动驾驶的安全事故，CTF的定位与现实生活中自动驾驶的安全问题息息相关。

比如利用对抗样本可以让白色卡车“消失”的补丁，对于自动驾驶中的障碍物识别来说是一个很大的挑战。

比赛场景以特斯拉高速发生安全事故为背景。

毕竟，只有知道如何攻击自动驾驶算法，才能更好地优化自动驾驶算法，让车辆行驶更安全。

冠军队伍介绍

本次大赛的冠军团队由6人组成，主要来自美国加州大学欧文分校的Asguard (Autonomous Syemsguard)研究组，导师为齐阿尔弗雷德陈(Qi Alfred Chen)，成员有沈、佐藤隆美、王宁飞、四人，均为博士生。

此外，还有清华大学准一年级博士生罗和陈，他们目前在攻读硕士学位，在攻读学士学位。

ASGuard研究组通常的研究方向是自动驾驶软件的安全性。

ASGuard的团队成员也表示，本次比赛最大的制胜点是技能点，研究方向正好涵盖了所有类型的竞赛题。

因此，他们的团队分工也很明确，其中沈、罗、陈负责二进制、倒车和狂跑，而佐藤隆美和宁飞王负责机器学习模型安全(AML)。

然而，本次比赛对于冠军组来说并不是一帆风顺的。

可以看到，在最终夺冠之前，球队经历了很长一段时间的毫无进步，但在最后时刻一举解决了两个问题，终于转败为胜。

喜欢0

标签：特斯拉Model 3

汽车资讯热门资讯