腾讯吕一平：安全左移，智能网联安全从研发做起 | CCF-GAIR 2020

2020年8月7日，全球人工智能与机器人峰会(CCF-GAIR 2020)正式开幕。CCF-GAIR 2020峰会由中国计算机联合会(CCF)主办，香港中文大学(深圳)和雷锋网(微信官方账号:雷锋网)联合承办，鹏程实验室和深圳人工智能与机器人研究所协办。

8月8日，在本次峰会的智能驾驶专场上，正是腾讯工业安全运营部总经理陆为线上线下参会者带来了《安全向左移动，从智能网联安全研发开始》的精彩报告。

陆强调，信息安全要成为智能网联汽车安全管理非常重要的一部分。

吕依平提到，目前在汽车信息安全领域还没有很好的评估体系。对于车辆的安全性，一个维度是设计安全，整个选型需要必要的安全考虑。如果在设计阶段就能考虑更多的安全因素，就可以避免很多安全问题，解决安全问题的成本也会更低。

以下是演讲全文。雷锋新智经编辑不改初衷:

如果你不是很了解我们，电影《速度与激情8》可以给你更直观的感受。很多车辆都可以被黑客控制，这就是未来的信息安全。当我们把汽车的控制权交给系统的时候，信息安全给车辆带来了挑战。

以前我们分享过很多关于信息安全对车辆重要性的观点，今天就不赘述了。首先我要明确一点，汽车是一个质量和品控非常严格的行业。新技术在汽车上的应用首先必须是技术，其次是国家相关规范和标准，最后才是符合性认证的过程。

简而言之，技术应用必须比规范、标准和认证更先进。

对于信息安全或者网络安全，在汽车领域是一个新的领域，所以它的技术会比规范更先进。

那么，我们如何将信息安全作为质量控制的一部分纳入质量管理体系呢？

我认为信息安全是车辆乃至智能驾驶的系统。刚才滴滴也提到，信息安全也是滴滴整个自动驾驶框架的重要组成部分。

高智能化、网络化的高安全性要求。

为什么我今天演讲的题目是“安全向左移动”？

很多汽车专家都在问同一个问题——如何用更少的成本、更可控的成本和投入来解决信息安全问题，从而保证引入自动驾驶后的车联网是安全的。

所以，今天我带来了一些我们自己的观点与大家分享。

目前，汽车信息安全领域还没有很好的评估体系。在做了大量的研究和实践后，我们总结出了自己的经验和体会:对于汽车安全，有一个维度是设计安全，整个选型过程中要考虑安全。另一个维度是汽车研发。

值得一提的是，现在汽车研发分为两部分，越来越多的OEM团队在做自己的软件代码，还有现在非常流行的软件定义汽车。

国际国内的车厂都成立了软件公司或软件开发子公司，目前已经出现了Tir1的研发逐渐向OEM转移的趋势。

然后在和他们合作的过程中，我们发现很多问题都和设计、工程实践有关。

如何提高智能网的设计和工程实践？

从上图可以看出，如果我们在设计和实践上做得好，车辆的信息安全会更安全。

更重要的是，在安全领域有一种理念。如果在设计阶段就能考虑更多的安全因素，就可以避免很多安全问题，解决安全问题的成本也会更低。

对于一辆车来说，无论是车端、云端还是移动端，都有大量的入口。汽车之前没有这些问题，因为汽车一开始和互联网没有任何联系，没有和世界互动的接口。

为什么现在汽车成了我们关注的焦点？

因为现在一辆车上的接口太多了，不管是远程接口还是phys……铝接口，它将与世界相连。

比如从WIFI到蓝牙，很多远程接口和物理接口，还有通过充电桩的交互，甚至包括L2和L2+自动驾驶系统，还有现场专家提到的车路协同，目前和汽车的交互很多。

对特斯拉入侵的思考

事实上，这些“点”也成为了攻击车辆、造成车辆信息安全问题的入口。过去几年，腾讯安全科恩实验室通过大量的接口，如3G和4G网络、ADAS等，证明了这些外部接口可以影响车辆信息安全。

比如2016年，我们第一次研究了特斯拉，并公布了结果，这也是一系列安全问题的结果。

因为特斯拉是较早推出软件定义汽车架构的OEM厂商，大部分代码都是自主开发的，但是2016年特斯拉出现了很多设计问题。

具体来说，在未授权远程控制中，我们可以看到浏览器版本很低，系统内核存在很多系统漏洞。

值得一提的是，OTA对于检查固件的完整性和安全性是非常重要的，但是2016年特斯拉并没有加入这种强检查，这导致我们最终可以更换连接到特斯拉汽车网络的物品，最终可以向特斯拉总线发送各种控制命令，从而导致特斯拉出现问题。

如果在设计阶段就考虑到这些问题，其实是可以避免的。

当然，特斯拉有优势。他们更早考虑到可以通过设计技术升级软件，大部分软件都是他们自己开发的。

2016年我们向特斯拉汇报这些问题后，他们很快弥补了这些缺陷，比如将浏览器升级到最新，升级内核，在网关OTA进行代码签名，从而保证在任何一个OTA进行强有力的安全检查，确保安全。

在我们安防领域，有一句话叫“道高一尺，魔高一丈”。说明安全圈有自己的能力和手段。

所以我们继续深入分析特斯拉之后，发现它的代码实现层面出现了新的问题，我们发现了特斯拉自己都没有发现的漏洞。

虽然特斯拉在网关中加入了签名验证，但其在工程实践中的逻辑是有问题的。

更有意思的是，2016年和2017年特斯拉最大的不同是，2016年，它没有考虑设计问题。到2017年，它在设计层面已经做得非常好了，但在工程实践中出现了小问题。

2020年，特斯拉的整体能力比2017年有了很大的进步。现在，他们不仅从安全设计的角度，而且从工程实践的角度都做得很好，值得国内汽车从业者借鉴。

综上可以发现，一方面软件定义汽车的比例越来越高，另一方面随着自动驾驶系统的引入，当驾驶决策真的即将交给系统的时候，预计会比人更安全。但如果信息安全做得不好，未必比人的决策更安全。

2019年，我们做了一个与自动驾驶相关的研究。如果自动驾驶系统出现问题，会有什么危害？

看完视频，大家有一个比较直观的感受，这里面涉及到两类问题，一类是自动驾驶和人工智能算法的对抗，一类是车道识别。

当然，特斯拉也有让人眼花缭乱的地方，前置摄像头可以感知车道线。此外，特斯拉的全视觉高级辅助驾驶方案不涉及毫米波雷达和激光雷达等传感器。

但是研究了他们的算法和神经网络之后，我们可以通过在地面布置几个干扰点，把他们引入错误的车道。这也涉及到人工智能算法决策的对策技术。

前几天，一辆特斯拉Model 3在省高速公路上直接撞上了一辆面包车。事故发生时，前方的白色卡车水平插入特斯拉的车道。事故发生前，这辆特斯拉Model 3开启了自动辅助驾驶，但司机没有专注于前方的道路，导致了事故的发生。换句话说，特斯拉的自动驾驶传感器没有发现前方有侧翻的卡车。

通过对Tesla的研究，发现安全领域出现了一个新的攻击角度，那就是APE模块o……本身就和互联网互动的特斯拉。因为车辆是联网的，如果我们获得了自动驾驶的角色，就可以通过一个游戏机的手柄来控制车辆。

那么，如何在算法层面更安全，避免更多的样本对抗问题呢？如何保证自动驾驶系统的安全性才能做得更好？

当我们向特斯拉反映这些问题时，比如系统安全问题，特斯拉很快做出了回应，称非常容易解决。在我们报告问题一个月后，特斯拉官网进行了调整，他们与我们沟通了自动驾驶算法和样本对策修复的流程。

同时，特斯拉也给出了一个声明，在启动L2自动驾驶时，驾驶员的手不能与方向盘分离，注意力要高度保持。当然，这是他们看到我们报道的问题后的策略调整。

智能网联汽车的安全问题

自动驾驶引入后，尤其是算法层面的问题，它的修复成本和成本会变得更高。因为调整算法意味着重新采集数据，重新训练数据，重新仿真，驾驶测试，最后验证算法。

刚才滴滴也提到了安全问题，但是他们关注的是行车安全。在我们把驾驶交给系统之后，要对算法做任何调整都需要大量的练习。

因此，在自动驾驶系统的设计阶段，安全考虑会变得更加重要。如果在设计阶段不考虑这些问题，应用后再进行修复调整，成本会高于系统层面带来的安全问题。

对于智能网联汽车，常见的问题有:

如上图所示，越往左，整个设计架构可以解决的问题。大家在设计的时候要尽量考虑这些问题，解决这些问题。右边的比较难，可以选择在工程实践阶段解决这些问题。

简而言之，设计上解决的问题越多，成本就会越低。

如果在设计层面就把安全做好了，对于自动驾驶来说本来就是安全的。

对于汽车来说，这是一个非常分散的行业。面对不同价格体系的汽车行业，要以人身安全为重。

那么，如何保证人身安全呢？

目前，自动驾驶汽车的操作系统和硬件并不统一，整个供应链也处于非常分散甚至复杂的阶段。而且，它不可能像PC和移动一样有一个通用的操作系统。

在我们看来，如果在设计阶段就把自动驾驶系统本身的安全性做好，问题是可以解决的。

针对以上问题，如何处理和练习就变得非常重要。

如何解决自动驾驶信息安全问题

首先，在研发阶段引入更多的工具来解决这个问题。这个措施在互联网领域已经用了很多，比如监控来解决这个问题。

未来自动驾驶算法的研发和迭代速度会和原来不一样，包括OTA功能的引入，很多软件的迭代速度会越来越快。

因此，从安全的角度来看，当最初的传统V模型逐渐转向快速迭代的软件定义汽车时，如何在R&D过程中考虑安全实践是非常重要的。

其实我们也有一些切实可行的方法来保证软件快速迭代的安全性。但是汽车行业有其特殊性，很多方法需要在汽车行业深入实践，同时要符合汽车行业的实际情况。

腾讯作为汽车快速数字化转型的助手，有以下建议:

人的维度:首先要有专门的团队负责信息安全，然后考虑信息安全人人有责；找专业的人做专业的事；

技术层面:根据具体业务场景定制PC和移动端的成熟技术，并优先应用于自能网；选择适当的自动化工具，并将其应用于安全开发流程。

流程层面:安全向左移动，大部分安全风险可以在需求设计层面解决，成本低，回报高；通过测试验证是否满足需求，并发现实现安全问题。

总之，强调信息安全应该成为智能网联汽车安全管理非常重要的一部分。

雷锋。com 2020年8月7日，全球人工智能与机器人峰会(CCF-GAIR 2020)正式开幕。CCF-GAIR 2020峰会由中国计算机联合会(CCF)主办，香港中文大学(深圳)和雷锋网(微信官方账号:雷锋网)联合承办，鹏程实验室和深圳人工智能与机器人研究所协办。

8月8日，在本次峰会的智能驾驶专场上，正是腾讯工业安全运营部总经理陆为线上线下参会者带来了《安全向左移动，从智能网联安全研发开始》的精彩报告。

陆强调，信息安全要成为智能网联汽车安全管理非常重要的一部分。

吕依平提到，目前在汽车信息安全领域还没有很好的评估体系。对于车辆的安全性，一个维度是设计安全，整个选型需要必要的安全考虑。如果在设计阶段就能考虑更多的安全因素，就可以避免很多安全问题，解决安全问题的成本也会更低。

以下是演讲全文。雷锋新智经编辑不改初衷:

如果你不是很了解我们，电影《速度与激情8》可以给你更直观的感受。很多车辆都可以被黑客控制，这就是未来的信息安全。当我们把汽车的控制权交给系统的时候，信息安全给车辆带来了挑战。

以前我们分享过很多关于信息安全对车辆重要性的观点，今天就不赘述了。首先我要明确一点，汽车是一个质量和品控非常严格的行业。新技术在汽车上的应用首先必须是技术，其次是国家相关规范和标准，最后才是符合性认证的过程。

简而言之，技术应用必须比规范、标准和认证更先进。

对于信息安全或者网络安全，在汽车领域是一个新的领域，所以它的技术会比规范更先进。

那么，我们如何将信息安全作为质量控制的一部分纳入质量管理体系呢？

我认为信息安全是车辆乃至智能驾驶的系统。刚才滴滴也提到，信息安全也是滴滴整个自动驾驶框架的重要组成部分。

高智能化、网络化的高安全性要求。

为什么我今天演讲的题目是“安全向左移动”？

很多汽车专家都在问同一个问题——如何用更少的成本、更可控的成本和投入来解决信息安全问题，从而保证引入自动驾驶后的车联网是安全的。

所以，今天我带来了一些我们自己的观点与大家分享。

目前，汽车信息安全领域还没有很好的评估体系。在做了大量的研究和实践后，我们总结出了自己的经验和体会:对于汽车安全，有一个维度是设计安全，整个选型过程中要考虑安全。另一个维度是汽车研发。

值得一提的是，现在汽车研发分为两部分，越来越多的OEM团队在做自己的软件代码，还有现在非常流行的软件定义汽车。

国际国内的车厂都成立了软件公司或软件开发子公司，目前已经出现了Tir1的研发逐渐向OEM转移的趋势。

然后在和他们合作的过程中，我们发现很多问题都和设计、工程实践有关。

如何提高智能网的设计和工程实践？

从上图可以看出，如果我们在设计和实践上做得好，车辆的信息安全会更安全。

更重要的是，在安全领域有一种理念。如果在设计阶段就能考虑更多的安全因素，就可以避免很多安全问题，解决安全问题的成本也会更低。

对于一辆车来说，无论是车端、云端还是移动端，都有大量的入口。汽车没有这些问题……efore，因为汽车一开始和互联网没有任何联系，也没有和世界互动的接口。

为什么现在汽车成了我们关注的焦点？

因为现在一辆车的接口太多了，不管是远程接口还是物理接口，都会和世界连接。

比如从WIFI到蓝牙，很多远程接口和物理接口，还有通过充电桩的交互，甚至包括L2和L2+自动驾驶系统，还有现场专家提到的车路协同，目前和汽车的交互很多。

对特斯拉入侵的思考

事实上，这些“点”也成为了攻击车辆、造成车辆信息安全问题的入口。过去几年，腾讯安全科恩实验室通过大量的接口，如3G和4G网络、ADAS等，证明了这些外部接口可以影响车辆信息安全。

比如2016年，我们第一次研究了特斯拉，并公布了结果，这也是一系列安全问题的结果。

因为特斯拉是较早推出软件定义汽车架构的OEM厂商，大部分代码都是自主开发的，但是2016年特斯拉出现了很多设计问题。

具体来说，在未授权远程控制中，我们可以看到浏览器版本很低，系统内核存在很多系统漏洞。

值得一提的是，OTA对于检查固件的完整性和安全性是非常重要的，但是2016年特斯拉并没有加入这种强检查，这导致我们最终可以更换连接到特斯拉汽车网络的物品，最终可以向特斯拉总线发送各种控制命令，从而导致特斯拉出现问题。

如果在设计阶段就考虑到这些问题，其实是可以避免的。

当然，特斯拉有优势。他们更早考虑到可以通过设计技术升级软件，大部分软件都是他们自己开发的。

2016年我们向特斯拉汇报这些问题后，他们很快弥补了这些缺陷，比如将浏览器升级到最新，升级内核，在网关OTA处进行代码签名，从而保证在任何一个OTA处进行强有力的安全检查，确保安全。

在我们安防领域，有一句话叫“道高一尺，魔高一丈”。说明安全圈有自己的能力和手段。

所以我们继续深入分析特斯拉之后，发现它的代码实现层面出现了新的问题，我们发现了特斯拉自己都没有发现的漏洞。

虽然特斯拉在网关中加入了签名验证，但其在工程实践中的逻辑是有问题的。

更有意思的是，2016年和2017年特斯拉最大的不同是，2016年，它没有考虑设计问题。到2017年，它在设计层面已经做得非常好了，但在工程实践中出现了小问题。

2020年，特斯拉的整体能力比2017年有了很大的进步。现在，他们不仅从安全设计的角度，而且从工程实践的角度都做得很好，值得国内汽车从业者借鉴。

综上可以发现，一方面软件定义汽车的比例越来越高，另一方面随着自动驾驶系统的引入，当驾驶决策真的即将交给系统的时候，预计会比人更安全。但如果信息安全做得不好，未必比人的决策更安全。

2019年，我们做了一个与自动驾驶相关的研究。如果自动驾驶系统出现问题，会有什么危害？

看完视频，大家有一个比较直观的感受，这里面涉及到两类问题，一类是自动驾驶和人工智能算法的对抗，一类是车道识别。

当然，特斯拉也有让人眼花缭乱的地方，前置摄像头可以感知车道线。此外，特斯拉的全视觉高级辅助驾驶方案不涉及毫米波雷达和激光雷达等传感器。

但是研究了他们的算法和神经网络之后，我们可以通过在地面布置几个干扰点，把他们引入错误的车道。这也涉及到人工智能算法决策的对策技术。

前几天，一辆特斯拉Model 3在省高速公路上直接撞上了一辆面包车。事故发生时，前方的白色卡车水平插入特斯拉的车道。事故发生前，这辆特斯拉Model 3开启了自动辅助驾驶，但司机却……不要把注意力放在前面的路上，这导致了事故。换句话说，特斯拉的自动驾驶传感器没有发现前方有侧翻的卡车。

通过对特斯拉的研究，发现安全领域出现了一个新的攻击角度，那就是特斯拉上的APE模块，它本身就是与互联网交互的。因为车辆是联网的，如果我们获得了自动驾驶的角色，就可以通过一个游戏机的手柄来控制车辆。

那么，如何在算法层面更安全，避免更多的样本对抗问题呢？如何保证自动驾驶系统的安全性才能做得更好？

当我们向特斯拉反映这些问题时，比如系统安全问题，特斯拉很快做出了回应，称非常容易解决。在我们报告问题一个月后，特斯拉官网进行了调整，他们与我们沟通了自动驾驶算法和样本对策修复的流程。

同时，特斯拉也给出了一个声明，在启动L2自动驾驶时，驾驶员的手不能与方向盘分离，注意力要高度保持。当然，这是他们看到我们报道的问题后的策略调整。

智能网联汽车的安全问题

自动驾驶引入后，尤其是算法层面的问题，它的修复成本和成本会变得更高。因为调整算法意味着重新采集数据，重新训练数据，重新仿真，驾驶测试，最后验证算法。

刚才滴滴也提到了安全问题，但是他们关注的是行车安全。在我们把驾驶交给系统之后，要对算法做任何调整都需要大量的练习。

因此，在自动驾驶系统的设计阶段，安全考虑会变得更加重要。如果在设计阶段不考虑这些问题，应用后再进行修复调整，成本会高于系统层面带来的安全问题。

对于智能网联汽车，常见的问题有:

如上图所示，越往左，整个设计架构可以解决的问题。大家在设计的时候要尽量考虑这些问题，解决这些问题。右边的比较难，可以选择在工程实践阶段解决这些问题。

简而言之，设计上解决的问题越多，成本就会越低。

如果在设计层面就把安全做好了，对于自动驾驶来说本来就是安全的。

对于汽车来说，这是一个非常分散的行业。面对不同价格体系的汽车行业，要以人身安全为重。

那么，如何保证人身安全呢？

目前，自动驾驶汽车的操作系统和硬件并不统一，整个供应链也处于非常分散甚至复杂的阶段。而且，它不可能像PC和移动一样有一个通用的操作系统。

在我们看来，如果在设计阶段就把自动驾驶系统本身的安全性做好，问题是可以解决的。

针对以上问题，如何处理和练习就变得非常重要。

如何解决自动驾驶信息安全问题

首先，在研发阶段引入更多的工具来解决这个问题。这个措施在互联网领域已经用了很多，比如监控来解决这个问题。

未来自动驾驶算法的研发和迭代速度会和原来不一样，包括OTA功能的引入，很多软件的迭代速度会越来越快。

因此，从安全的角度来看，当最初的传统V模型逐渐转向快速迭代的软件定义汽车时，如何在R&D过程中考虑安全实践是非常重要的。

其实我们也有一些切实可行的方法来保证软件快速迭代的安全性。但是汽车行业有其特殊性，很多方法需要在汽车行业深入实践，同时要符合汽车行业的实际情况。

腾讯作为汽车快速数字化转型的助手，有以下建议:

人的维度:首先要有专门的团队负责信息安全，然后考虑信息安全人人有责；找专业的人做专业的事；

技术层面:根据具体业务场景定制PC和移动端的成熟技术，并优先应用于自能网；选择适当的自动化工具，并将其应用于安全开发流程。

流程层面:安全向左移动，大部分安全风险可以在需求设计层面解决，成本低，回报高；通过测试验证是否满足需求，并发现实现安全问题。

总之，强调信息安全应该成为智能网联汽车安全管理非常重要的一部分。

雷锋。com

标签：特斯拉发现Model 3理念远程

汽车资讯热门资讯