神经网络这么弱改一个像素就懵圈了

2019年04月11日 来源:

雷锋按:这里是,雷锋字幕组编译的Two minutes paper专栏,每周带大家用碎片时间阅览前沿技术,了解AI领域的研究成果。

原标题 One Pixel Attack Defeats Neural Networks | Two Minute Papers #240

翻译 | 于泽平 字幕 | 凡江 整理 | 李逸凡 吴璇

▷每周一篇2分钟论文视频解读

骗过神经络,我们少需要改变多少像素(pixel)呢?猜猜是多少,可能你会觉得,怎么着都要100才够塑料制品
,但论文证明了,攻击大多数神经络只需要修改一个像素就行。

在这篇《One pixel attack for fooling deep neural networks》论文中,研究人员分析了一种在极端限制情形下(只修改一个像素)的攻击。他们提出了一种基于差分进化(differential evolution)的单像素对抗干扰新方法。

结果表明,70.97%的自然图像至少有一个分类目标会被干扰,而造成干扰只需要修改置信均值为97.47%的一个像素。因此,在极端限制情形下,攻击探索出了不同的对抗机器学习方法。这也表明当前的深度神经络也容易受到这类低维攻击。

神经络通常不直接判断一个类别,而是通过一些置信值来判别。置信值代表神经络它有多确信看到的是只拉布拉多犬还是一只老虎猫。我们通常对比所有的置信值,并选出的,查看它们使神经络对正确类别的置信值下降了多少,接着我们抛弃效果不好的像素,并继续搜索有希望的像素电子回收
,我们将这个过程称为差异进化。

如果这个过程实现的很好,终正确类别的置信值将会变的很低,因为神经路将能预测另一个类别,一旦发生这种情况,代表神经络成功被欺骗了,这也意味我们需要查看神经路,并获得其置信值。

当然,也有大量关于训练鲁棒性的神经络的研究,使这些神经络可以承受更多对抗攻击,对抗攻击有着许多地方值得我们去挖掘以及探索。

论文:

Github:

雷锋字幕组正在招募中橡皮布价格
,扫描下方二维码,备注“雷锋字幕组+姓名”加入我们。

雷锋(公众号:雷锋)雷锋

相关文章
  • 景顺长城中证500ETF领跑指基
    景顺长城中证500ETF领跑指基

    上证综指二季度以来上涨乏力,一直震荡徘徊,中证500指数以其突出的表现领跑,悄然成为市场正收益的核心指数。据银河数据显示,截至7月18日,在172只标准指数股票型基金中,今年以来业绩前十的产品里,有5只都是以中证500指数为标的。其中景顺长城中证500ETF以...

  • 律师结合医院诊断伤情鉴定应早做
    律师结合医院诊断伤情鉴定应早做

    安徽17岁少女拒爱遭毁容受害人曝光称警方不鉴定伤情律师认为结合医院诊断伤情鉴定应早做●点击安徽合肥17岁少女拒爱遭毁容案有了新进展,据媒体报道,周岩的小姨李云日前道出了他们曝光此事的真正原因:法医无法对周岩的伤情进行鉴定。李云说,2月20日,两...

  • 八旬老人剪报50年汇集养生百科
    八旬老人剪报50年汇集养生百科

    在汕头,有一名爱好剪报的老人,名叫张翼,当他还是30多岁的年轻人时就爱上剪报,退休后剪报更成了他每天生活的主心骨。经过半个世纪的辛勤耕耘,如今80多岁的张翼剪出一片新天地,他把自己多年积累的剪报资料整理、出版了《保健文摘》、《报海拾贝》和海...

  • 韩国称对朝援助不会机械化进行不牵扯政治因素
    韩国称对朝援助不会机械化进行不牵扯政治因素

    10月15日电 据韩联社报道,韩国统一部长官柳吉在15日表示,韩国政府对朝鲜的人道主义援助不会牵扯政治性因素,但也不会机械化进行。柳吉在称。柳吉在提及目前韩国政府不允许“对朝合作民间团体协议会”向朝鲜运送面粉和玉米一事,系韩国政府担心朝鲜将上述...

  • 致公党中央将互联金融纳入金融监管框架
    致公党中央将互联金融纳入金融监管框架

    根据互联金融不同的产品和业务类型,将其纳入包括“一行三会”和地方政府金融局(办)在内的金融监管框架内“根据互联金融不同的产品和业务类型,将其纳入包括一行三会和地方政府金融局(办)在内的金融监管框架内,并注意发挥市场主体自治和行业自律管理的作...

  • 我国太阳能新能源迎来发展好时机新能源智能化国内新闻
    我国太阳能新能源迎来发展好时机新能源智能化国内新闻

    摘要:中国光伏制造业稳稳占据了全球市场的半壁江山,近两年已经慢慢走出 双反 的阵痛,过剩产能正被逐步消化,产业集中度提高,技术进步与成本降低明显,涌现出一批的龙头企业。我国太阳能新能源迎来发展好时机厦门大学能源经济协同创新中心主...