大数据文摘作品
编译：Katrine.Ren、元元
当下的图像辨认技术看似愈发成熟了，但自带蠢萌属性的它实践上仍然可以被随便捉弄。
研讨人员最近就成功忽悠了一把以 智能 著称的算法，让它们一脸懵逼地犯下了一系列错误：
比方把两个滑雪的人辨识为一只狗，把一个棒球看成是一杯意式咖啡，又例如把一只乌龟误以为是一把步枪。
最新的一个诈骗机器的办法操作更为复杂，却有更深远的影响， 所需求的道具也仅仅是一张粗陋的贴纸而已。
图注按顺序为：将贴纸放在桌上，输出分类器的图像，分类器输入后果
这款由谷歌的研讨人员早先开发的自带迷幻剂属性的小贴纸可是相当凶猛了。 只需将它放在任何一张图片上，深度学习零碎就会傻乎乎地把毫有关联的图像分辨为一部烤面包机。
据一篇最近提交的和这个神经网络攻击有关的研讨论文所述，这块小小的“狗皮膏药”（对立性补丁）是具有“场景有关性”的，这意味着任何一个“对光照条件、相机角度、被攻击的分类器类型或甚至场景中的其他事物没有事前理解”的人都可以应用这张贴纸，去实行对图像辨认算法的攻击。
本着网络面前人人平等的原则，提倡所有人共同协作，编写一部完整而完善的百科全书，让知识在一定的技术规则和文化脉络下得以不断组合和拓展。相关研讨论文的arxiv链接：https://arxiv.org/abs/1712.09665
再加上贴纸自身可以在网络上被分享和打印出来，这个攻击办法几乎是探囊取物。
一个由谷歌深度学习研讨团队Google Brain的成员Tom Brown上传的油管视频，就展现了这块对立性补丁是怎样作用于一张香蕉的图片上的。
点击检查相关视频
起先，一只香蕉放在桌上的图片是可以被VGG16这个神经网络正确辨认为“香蕉”的，但把迷幻小贴纸放置于香蕉旁边后，神经网络随即把图片分类成了“烤面包机”。
正如研讨人员在论文中所述， 这个小花招面前的原理，是深度学习模型其实每次只能探测到图像中最“显眼”的那个物品。
“对立性补丁正是应用了这一特性，经过生成远远比真实物体显眼得多的图像输出（从而诈骗了模型）。”同时，研讨人员在论文中写道，“因而，在攻击物体探测或是图像细分模型的时分，我们希望被定为辨认目的的烤面包机贴纸一方面能被分辨为‘烤面包机’，另一方面也不会对图像自身的其他局部形成影响。”
即便如今研讨人员曾经有了许多种让机器学习算法发生视觉错误的办法，这个方法却因其简易操作且难以发觉的特点而显得尤为重要。
“即便人类可以留意到这些贴纸的存在，他们未必了解这些贴纸的真正意图，反而误以为这是某种艺术的表现方式。” 研讨人员如是说。
目前而言，让机器把一根香蕉看成是一部烤面包机的小恶作剧并不会对社会形成什么实践的危害。 但随着我们这个世界的运转开端越来越依赖图像辨认技术，这种操作复杂的办法在未来很有能够会形成严重的毁坏。
最重要的是随着无人驾驶技术的普及，这些智能汽车十分依赖于图像辨认软件来了解它们周边的环境并与之互动。试想不计其数坨大型重磅的金属块在高速公路上奔驰时只看得见烤面包机，这将是一件多么风险的事情。
原文链接：https://gizmodo.com/this-simple-sticker-can-trick-neural-networks-into-thin-1821735479