汽车导航 汽车导航
Ctrl+D收藏汽车导航
首页 > 汽车资讯 > 正文

密歇根大学科学家开发出神经网络防御系统 可抵御对自动驾驶汽车的攻击

作者:

时间:1900/1/1 0:00:00

盖世汽车新闻深度神经网络是针对各种分类问题的机器学习算法的子集,包括图像识别和机器视觉(由自动驾驶汽车和其他机器人使用)、自然语言处理、语言翻译和欺诈检测。但是恶意的人可能会修改输入,使算法运行不正确。据国外媒体报道,为了保护算法免受此类攻击,密歇根大学的研究人员开发了一种强大的对抗性免疫启发学习系统(RAILS)。

图片来源:密歇根大学

John H. Holland的杰出教授和研究人员之一Alfred Hero说:“RAILS是第一种基于适应性免疫系统的对抗性学习方法,它不同于先天免疫系统。”

当先天免疫系统全面攻击病原体时,哺乳动物的免疫系统可以产生新的细胞来抵抗特定的病原体。事实证明,大脑信息处理系统启发的深度神经网络也可以利用这一生物过程。

计算医学和生物信息学副教授、该研究的共同领导者Indika Rajapakse说:“免疫系统的设计令人惊叹,它总能找到解决方案。”

图片来源:密歇根大学

RAILS通过模仿免疫系统的自然防御,识别并最终处理神经网络的可疑输入。起初,为了开发,生物团队研究了小鼠的适应性免疫系统如何对抗原做出反应。在该实验中,使用了在B细胞上表达荧光标记的转基因小鼠的组织。

通过用骨髓细胞培养脾细胞,该团队创建了一个免疫系统模型,它代表了免疫系统的总部和堡垒。该系统使生物团队能够跟踪B细胞的发育,这种方法最初是通过反复试验来设计与抗原结合的受体。一旦B细胞聚集在一种溶液上,它们将产生血浆B细胞来捕获所有存在的抗原,并记忆B细胞以准备下一次攻击。

当时的生物信息学博士生斯蒂芬·林德斯利(Stephen Lindsly)分析了拉贾帕克萨实验室产生的数据,并在生物学家和工程师之间充当翻译。Hero的团队随后在计算机上模拟了生物过程,并将生物机制整合到代码中。他们用对抗性输入测试RAILS防御。然后,他们将B细胞学习攻击抗原的学习曲线与学习消除不良输入的算法进行对比。

Hero说:“在我们将RAILS的学习曲线与从实验中提取的曲线进行比较之前,我们不能确定我们是否真的捕捉到了生物过程。”

RAILS不仅是一种有效的仿生学,而且优于两种最常见的机器学习过程:鲁棒的深度k近邻和卷积神经网络。

图片来源:密歇根大学

主要负责软件开发和实施的电气和计算机工程研究员王人说:“这项工作的一个重要部分是,我们的通用框架可以防御不同类型的攻击。”

使用图像识别作为测试案例,研究人员在多个数据集中评估了RAILS对八种对抗性攻击的攻击。它显示了在所有情况下的改进,包括防止最具破坏性的对抗攻击类型:投射梯度下降攻击。此外,RAILS提高了整体精度。例如,它可以正确识别鸡和鸵鸟的图像,而其他系统以前会识别猫和马。

未来,Hero团队将致力于将响应时间从毫秒级缩短到微秒级。盖世汽车新闻深度神经网络是针对各种分类问题的机器学习算法的子集,包括图像识别和机器视觉(由自动驾驶汽车和其他机器人使用)、自然语言处理、语言翻译和欺诈检测。但是恶意的人可能会修改输入,使算法运行不正确。据国外媒体报道,为了保护算法免受此类攻击,密歇根大学的研究人员开发了一种强大的对抗性免疫启发学习系统(RAILS)。

图片来源:密歇根大学

阿尔弗雷德·希罗,杰出的教授和研究者之一……John H. Holland说:“RAILS是第一种基于适应性免疫系统的对抗性学习方法,它不同于先天免疫系统。”

当先天免疫系统全面攻击病原体时,哺乳动物的免疫系统可以产生新的细胞来抵抗特定的病原体。事实证明,大脑信息处理系统启发的深度神经网络也可以利用这一生物过程。

计算医学和生物信息学副教授、该研究的共同领导者Indika Rajapakse说:“免疫系统的设计令人惊叹,它总能找到解决方案。”

图片来源:密歇根大学

RAILS通过模仿免疫系统的自然防御,识别并最终处理神经网络的可疑输入。起初,为了开发,生物团队研究了小鼠的适应性免疫系统如何对抗原做出反应。在该实验中,使用了在B细胞上表达荧光标记的转基因小鼠的组织。

通过用骨髓细胞培养脾细胞,该团队创建了一个免疫系统模型,它代表了免疫系统的总部和堡垒。该系统使生物团队能够跟踪B细胞的发育,这种方法最初是通过反复试验来设计与抗原结合的受体。一旦B细胞聚集在一种溶液上,它们将产生血浆B细胞来捕获所有存在的抗原,并记忆B细胞以准备下一次攻击。

当时的生物信息学博士生斯蒂芬·林德斯利(Stephen Lindsly)分析了拉贾帕克萨实验室产生的数据,并在生物学家和工程师之间充当翻译。Hero的团队随后在计算机上模拟了生物过程,并将生物机制整合到代码中。他们用对抗性输入测试RAILS防御。然后,他们将B细胞学习攻击抗原的学习曲线与学习消除不良输入的算法进行对比。

Hero说:“在我们将RAILS的学习曲线与从实验中提取的曲线进行比较之前,我们不能确定我们是否真的捕捉到了生物过程。”

RAILS不仅是一种有效的仿生学,而且优于两种最常见的机器学习过程:鲁棒的深度k近邻和卷积神经网络。

图片来源:密歇根大学

主要负责软件开发和实施的电气和计算机工程研究员王人说:“这项工作的一个重要部分是,我们的通用框架可以防御不同类型的攻击。”

使用图像识别作为测试案例,研究人员在多个数据集中评估了RAILS对八种对抗性攻击的攻击。它显示了在所有情况下的改进,包括防止最具破坏性的对抗攻击类型:投射梯度下降攻击。此外,RAILS提高了整体精度。例如,它可以正确识别鸡和鸵鸟的图像,而其他系统以前会识别猫和马。

未来,Hero团队将致力于将响应时间从毫秒级缩短到微秒级。

标签:

汽车资讯热门资讯
宁德时代宜宾工厂成首个电池零碳工厂

2022年3月,全球知名认证机构SGS为宁德时代全资子公司四川时代颁发PAS2060碳中和认证证书,宁德时代宜宾工厂成为全球首家电池零碳工厂。

1900/1/1 0:00:00
阿贡国家实验室发现钠离子电池性能缺陷 或可提升EV续航里程

盖世汽车讯随着纯电动汽车的普及,以及家用清洁能源存储的需求不断上涨,全球研究人员都在寻找可替代锂离子材料的性能更好的电池,其中钠离子电池脱颖而出。与锂相比,钠的存储更丰富也成本更低。

1900/1/1 0:00:00
报告:特斯拉每车研发费用近1.9万元 是汽车行业平均3倍

对于汽车来说,除了生产制造成本,还有就是营销和研发成本,特斯拉在营销和生产制造方面的成本,与其他车企相比有一定的优势,但是特斯拉的研发成本,却要远高于不少其它车企。

1900/1/1 0:00:00
宁德时代首个电池零碳工厂落户四川宜宾

日前,宁德时代官方宣布,全球知名认证机构SGS为宁德时代全资子公司四川时代颁发PAS2060碳中和认证证书,宁德时代宜宾工厂成为新能源产业首家零碳工厂。

1900/1/1 0:00:00
马斯克:特斯拉正在研发锰基电池

盖世汽车讯据外媒报道,马斯克表示,特斯拉看到了锰基阴极在电池方面的潜力,并重申汽车行业需要更多地关注电池供应链,特别是矿物供应链。

1900/1/1 0:00:00
马斯克:特斯拉计划今年完成Cybertruck开发 明年生产

盖世汽车讯据外媒报道,埃隆马斯克(ElonMusk)透露了有关Cybertruck电动皮卡的最新计划,他表示特斯拉计划在今年内完成该车型的开发,并在2023年开始生产。

1900/1/1 0:00:00