大学研究团队的开源计算机视觉AI自然对抗图像数据集
来自三所大学的研究团队最近发布了一个名为ImageNet-A的数据集,其中包含自然对抗图像:由图像识别AI错误分类的真实世界图像。当在几个高级预训练模型上用作测试集时,这些模型的准确率低于3%。
在7月发表的一篇论文中,来自加州大学伯克利分校、华盛顿大学和芝加哥大学的研究人员描述了他们创建7500倍图像的过程,这些图像是“傻瓜”预先训练的图像识别系统的故意选择的数据集。虽然之前已经有关于该系统抗攻击的研究,但是大部分工作都是研究如何以模型输出错误答案的方式修改图像。
相比之下,该团队使用真实或“自然”的图像,这些图像不是通过互联网收集的。该团队将其图像用作DenseNet-121的预训练测试集模型。当在流行的ImageNet数据集上测试时,它的最高错误率为25%。使用ImageNet-A测试时,同一模型的前1名错误率为98%。该团队还使用他们的数据集来衡量研究小组开发的“防御性”训练措施的有效性。他们发现“这些技术几乎毫无用处”。
近年来,计算机视觉系统取得了长足的进步,这归功于卷积神经网络(CNN)等深度学习模型和ImageNet等大规模精选图像数据集。然而,这些系统仍然容易受到攻击。在这种情况下,容易被人类识别的图像已经被修改成使得人工智能将图像识别为其他图像的方式。
这些攻击可能会对自动驾驶汽车造成严重后果:研究人员已经表明,停车标志可以通过让许多计算机视觉系统将它们识别为让行标志来修改。虽然已经研究了防御这些攻击的技术,但到目前为止,“只有两种方法提供了重要的防御”。
其中一种方法叫做对抗训练,其中除了“干净”的输入图像之外,还使用带有噪声或其他干扰的对抗图像来训练模型。ImageNet-一个团队使用对抗训练和ImageNet数据集来训练ResNeXt-50模型。当在其ImageNet-A对抗数据上测试时,这确实略微提高了模型的健壮性;然而,在“干净”的ImageNet测试数据上,准确率为92.2%的top-5模型通常会下降到81.88%。考虑到健壮性的提高,团队认为这是不可接受的。另一方面,该团队发现简单地增加模型大小(例如,通过添加层)确实提高了健壮性,并且在一些模型架构中,准确性几乎翻了一番。
免责声明:本文由用户上传,与本网站立场无关。财经信息仅供读者参考,并不构成投资建议。投资者据此操作,风险自担。 如有侵权请联系删除!
-
【梦见男朋友出轨的意义】梦境是潜意识的反映,常常承载着我们内心深处的情感和担忧。当一个人梦见“男朋友出...浏览全文>>
-
【梦见男女做那种事是什么意思】梦境是人类潜意识的一种反映,常常让人感到困惑或好奇。其中,“梦见男女做那...浏览全文>>
-
【梦见男明星好不好】梦境是人们日常生活中常见的一种心理现象,有时会让人感到困惑或好奇。尤其是梦见男明星...浏览全文>>
-
【梦见男孩拉粑粑】梦境是人类潜意识的一种表达方式,常常让人感到困惑或好奇。其中,“梦见男孩拉粑粑”这样...浏览全文>>
-
【梦见楼房倒塌啥意思】梦境是人们日常生活中常见的一种心理现象,常常反映出内心的情绪、压力或潜在的担忧。...浏览全文>>
-
【梦见龙在天上现身预兆什么】梦境是人们内心深处的反映,有时会带来神秘的启示。关于“梦见龙在天上现身”的...浏览全文>>
-
【梦见龙在水中游是什么意思】梦境是人们内心深处情感、思想和潜意识的反映。不同文化对梦中的象征物有着不同...浏览全文>>
-
【梦见龙在飞好不好】梦境是人类潜意识的反映,不同的人对同一梦境可能有完全不同的解读。其中,“梦见龙在飞...浏览全文>>
-
【梦见龙虾预示着什么】梦境是人们日常生活中常见的现象,有时会让人感到困惑或好奇。关于“梦见龙虾”这一主...浏览全文>>
-
【梦见龙为什么三日不能说破】在中国传统文化中,梦境往往被赋予了神秘的意义,尤其是与“龙”相关的梦,更被...浏览全文>>
- 梦见龙在天上现身预兆什么
- 梦见和死人说话是什么意思是吉还是凶
- 梦见和死人睡在一起是什么意思
- 梦见过世的亲人代表什么
- 梦见过生日有什么寓意
- 梦见过年回家放鞭炮是什么意思
- 梦见厨房塌了
- 梦见被僵尸追是什么预兆
- 梦见被坏人追是什么意思
- 借花献佛指什么生肖经典解释落实
- 出水芙蓉是什么生肖动物,精选全面解释落实
- 今夜月明人尽望,不知横财何时发打一生肖,作答解读落实
- 一口青细解身疲打一生肖.答案揭晓解析落实
- 闭门谢客是什么生肖.完美揭晓解释落实
- 柔中有刚打一生肖数字.词语解答落实
- 梦幻西游手游魔王和龙宫哪个好玩
- 梦幻西游诗意名字有哪些
- 梦到自己订婚是什么预兆
- 梦到自己的头发长了很多是什么征兆
- 梦到小孩子意味着什么