雷锋网AI科技评论按: 近日,一份 AI 专家结合签名的地下信火了。这封信宣布在澳大利亚新南威尔士大学 (University of New South Wales) 的官网上,在信上,来自全球 20 多个国度、50 多名高校顶尖 AI 学者个人签名抵抗一所正在研讨如何运用人工智能武器的韩国研讨型大学。
事情的原因是,韩国迷信技术研讨院 (Korea Advanced Institute of Science and Technology)(以下简称 KAIST)在往年 2 月 20 日成立了一个研讨中心,希望在往年年底前研收回基于「人工智能」的导弹、潜艇和四轴飞行器。
看到这儿,晓得 AI 专家为什么要抵抗了吧?KAIST 要研制人工智能和平武器!
雷锋网发现这个研讨中心的成立背景也让人细思极恐。该研讨中心由 KAIST 与韩国军工企业「Hanwha Systems」协作成立,全称为「国防和人工智能交融研讨中心」。Hanwha Systems 的母公司是韩华集团(Hanwhua),是一家有着制造恐惧武器黑历史且是韩国最大的军工企业,曾因制造集束弹药被结合国列入黑名单。
据《韩国时报》称,该中心的目的是开发使用于军事武器的人工智能技术,以便在无人控制的状况下搜索并消弭目的。Hanwha Systems 与 KAIST 正在协作研发的国防 AI 使用,目前已曝光的的有四小气向,辨别是 AI 指挥与决策零碎;无人水下潜艇的导航算法技术;AI 智能飞行模仿器;AI 智能目的追踪与辨认技术。
看清了该研讨中心科研项目的不纯目的后,AI 学界大牛们对此收回了分歧的谴责声。
最早收回呼吁的是 AI 范畴著名的澳大利亚学者 Toby Walsh,其后有近 60 名从事机器人和 AI 研讨的专家表示赞同。其中最著名的有多伦多大学 Geoffrey Hinton、蒙特利尔大学 Yoshua Bengio、瑞士人工智能实验室 Jürgen Schmidhuber、加州大学伯克利分校 Stuart Russell、南京大学的周志华教授,香港中文大学的华云生教授、香港科技大学的杨瓞仁教授等人。南京大学人工智能学院院长、计算机系教授周志华是独一一名边疆学者。
专家们在信中写道:
在结合国正在讨论如何遏制自主武器对国际平安构成的要挟时, 我们十分遗憾的看到, 像韩国迷信技术院这样的著名机构似乎在减速军备竞赛, 以开展这类武器。因而, 我们在这里地下宣布, 我们将抵抗与韩国迷信技术院相关的一切协作, 直到韩国迷信技术院担任人向我们保证,该中心将不会研发完全自主,不需求人类控制的「机器人杀手」。例如, 我们将不再拜访韩国迷信技术院, 接待韩国迷信技术院的学者, 或参与任何触及韩国迷信技术院的研讨项目。
道义一直站在正义这边,大家的个人呼吁很快失掉了 KAIST 院长 Sung-chul Shin 的回应。
他表示对迷信家们联名抵抗感到很遗憾。他在一份声明中称:「我需求重申 KAIST 有意参与致命性自主武器零碎「机器人杀手」的研发。作为一个学术机构,我们高度注重人权和伦理规范。我重申 KAIST 没有停止任何有违人类尊严的研讨,包括研发短少无效控制的自主武器。」
周志华教授也第一工夫在微博上告诉了此事情的停顿。以下是周志华教授微博的截图内容:
事情开展到此根本告一段落,不过,该地下信签名发起人新南威尔士大学 Toby Walsh 教授对这一回应似乎有点小小的不称心。他在承受 CNN 采访时表示,「依然对他们研发这些计划做什么有一些疑问,但总体来说,也算做出了适当的回应。」
附地下信全文翻译及联名教授名单:
作为 AI 和机器人技术的研讨员和工程师, 我们对韩国迷信技术院(Korea Advanced Institute of Science and Technology)与韩国军工企业韩华零碎(Hanwha Systems)协作树立的「国防与人工智能交融研讨中心」(Research Center for the Convergence of National Defense and Artificial Intelligence)表示极大的担忧。据报道, 该中心的目的是「开发可用于军事武器的人工智能技术, 参加全球研发自主武器(autonomous weapon)的军备竞赛」。
在结合国正在讨论如何遏制自主武器对国际平安构成的要挟时, 我们十分遗憾的看到, 像韩国迷信技术院这样的著名机构似乎在减速军备竞赛, 以开展这种武器。因而, 我们在这里地下宣布, 我们将抵抗与韩国迷信技术院相关的一切协作, 直到韩国迷信技术院担任人向我们保证该中心将不开展完全自主不需求人类控制的「机器人杀手」。例如, 我们将不再拜访韩国迷信技术院, 接待韩国迷信技术院的学者, 或参与任何触及韩国迷信技术院的研讨项目。
一旦开展出自主武器,我们将面临和平的第三次反动。自主武器(「机器人杀手」)将让和平的规模比以前更大,速度更快。它们很有能够成为恐惧武器。民主统治者和恐惧分子可以应用它们损伤无辜平民,不顾任何伦理约束。这个「潘多拉的盒子」一旦被翻开将很难封闭。正如过来我们已经制止的技术(如致盲激光)一样,我们可以直接决议不再开发。我们敦促韩国迷信技术院持续沿着这条路途行进,用人工智能技术来改恶人类生活,而不是损伤人类生命。
地下信联名教授名单
雷回到当下汹涌澎湃的AI浪潮,正如所有的企业都被互联网化一样,所有的互联网企业都将 AI 化。而这些互联网企业中,也包含CSDN。同时,作为全球最大的中文IT社区,CSDN还有一个历史使命——为广大的互联网公司进行AI赋能。锋网 (大众号:雷锋网)
。