谈及机器学习，「对立样本」这个词，应该曾经不再生疏。而对立性样本攻防赛，或许你还是第一次听说。
为了放慢对立样本的研讨，作为全球首个关注人工智能与专业平安的前沿平台，GeekPwn2018将创新性地设置CAAD 对立样本攻防赛（Competition on Adversarial Attacks and Defenses），针对图像辨认范畴的对立攻击与进攻研讨辨别设置了三个项目，于往年5月正式开赛。选手出示的图片上，究竟是中华田园犬还是北极熊、是鹦鹉还是鸵鸟、是
汽车
还是飞机？想晓得答案，你一定要来GeekPwn2018的现场一探求竟。
由于，这能够是AI平安范畴最特别的一次竞赛。
连人也不放过的「对立样本」
虽然，人工智能曾经作为不可或缺的
科技
新品走进了千家万户，上到人脸辨认门禁、瞳孔辨认保险柜，下到
手机
、房门，AI使一切看起来如此便捷与美妙。但现实上，研讨人员们阅历过的人工智能的“失败”远远多于我们看到的成功的成品，这其中就触及到对对立样本搅扰的扫除。由于少数基于机器学习的分类器关于对立样本是高度敏感的。
有一个例子：在2016年的GeekPwn硅谷站上，生成对立网络之父Ian GoodFellow就带来了诈骗机器视觉的演示。
在一张熊猫的图片中，参加了一个小搅扰到对立性样本里，就招致零碎将其误以为是长臂猿的照片。在绝大少数时分，这些小的修正并不会使人类留意，但依然会使得分类器出错。
Ian凭仗一个做过手脚的对立性样本让我们晓得，即便对样本做极巨大的改动也能诈骗神经网络图像分类器，让分类器做出背道而驰的判别。充沛阐明了目前 AI 零碎的软弱性。
而不久前，这种应用对立样本的诈骗手法曾经更上一层楼，对立性样本不再只是诈骗机器，如今连人类也可以被诈骗了。就如下图所示：无论是机器模型还是人类都会判别左侧是猫，右侧是狗。而现实上，右侧图像只是左侧图像一个复杂地对立扰动。
这些例子都在通知我们一个现实，机器视觉并非金刚不坏之身，攻击者应用对立样本会为我们带来潜在的平安隐患，它们可以被用来攻击机器学习零碎，即便是在无法取得模型的状况下。如：当无人驾驶汽车的视觉零碎被诈骗，就无法正确区分对人、交通工具和路标的分类，这将会带来灾难性结果。
从久远角度来看，机器学习和 AI 零碎必将变得愈加弱小近一年来，国家加大了对于互联网金融的管理力度，各种管理政策不断出台，不少业内人士对于互联网金融都保持着谨慎看好的态度，但是安方丹却保持了乐观的态度，她认为，互联网金融行业在当前是“风口上的大象”，技术正是这股风的原动力。。相似于对立样本的机器学习平安破绽能够危害甚至控制弱小的 AI 们。那么，从机器学习平安的角度来思索，该如何进攻？而目前为止一个卓有成效的防卫战略就是对立训练。在不时地模型训练进程中，训练样本不只仅是洁净样本，而是洁净样本加上对立样本。随着模型训练越来越多，一方面洁净图片的精确率会添加，另一方面，对对立样本的鲁棒性也会添加。
你的障眼法能否蒙蔽机器的双眼
为了找到进攻这些对立样本的最佳进攻战略，探究这个让人冲动人心的范畴，2018年，GeekPwn以65万元总奖金结合谷歌大脑的 Alexey Kurakin、Ian Goodfellow 以及美国加州大学伯克利分校计算机系教授宋晓冬共同发起 CAAD 对立样本攻防赛（Competition on Adversarial Attacks and Defenses）。
本次大赛将聚焦让机器学习分类器频频犯错的对立样本，针对图像辨认范畴的对立攻击与进攻研讨辨别设置了三个项目，预演 AI 范畴能够存在的风险并不时完善，从而推进人工智能平安安康生长。在这三项项目中，选手需求提交顺序来完成相应的义务，选手可以独立报名，参与一个或多个项目。
第一个项目为非定向对立攻击，此项竞赛的目的是细微修正原图像，使得未知分类器将修正后的图像错误分类；第二个项目为定向对立攻击，此项竞赛的目的是目的是细微修正原图像，使得未知分类器将修正后的图像错误分类到指定的类；最初一个项目则是对立进攻，此项竞赛的目的是生成基于机器学习的分类器，对对立样本有强的进攻力，也即可以正确地把对立样本停止分类。
复杂来说，GeekPwn希望以CAAD对立样本攻防赛的方式，约请全球顶级AI黑客，经过“对立训练”，使机器停止更深度的“学习”，从而无效提升机器的鲁棒性，让机器学习零碎安康生长。
CAAD对立样本攻防赛将于2018年5月-2018年7月以线上的方式展开，在GeekPwn2018拉斯维加斯站上举行颁奖典礼。报名起止工夫为：2018年 5 月 10 日-7 月10 日。值得一提的是，竞赛的参谋团和评审委员会将由业内顶尖专家组成，其中包括谷歌大脑资深研发工程师Alexey Kurakin、加州大学伯克利分校计算机系教授宋晓冬、清华大学副教授兼智能技术与零碎国度重点实验室副主任朱军以及极棒实验室总监王海兵等。
而除了CAAD样本对立攻防赛外，GeekPwn2018还将设置另一AI命题专项赛——数据追踪应战赛。AI和数据化时代，可以多维度将不同来源的数据关联并得出精确后果是一种先进的技术。你能经过对受益者手机中装置的病毒APP停止剖析，在海量的病毒数据中揪出幕后黑手吗？只需你能“玩转AI”,我们都欢送你报名参赛，用你特殊的技术实力，完成那些看似“不能够”的应战义务。GeekPwn2018将于8月10日及10月24日辨别在美国拉斯维加斯以及中国上海举行，敬请等待。戳GeekPwn官网，理解更多赛事信息。
本文被转载1次
首发媒体
| 转发媒体