农企新闻网

研讨人员呼吁各国关注AI被滥用的风险 要挟已火烧眉毛

发布者:陈阳明
导读腾讯科技讯 据外媒报道,剑桥、牛津和耶鲁大学的25名技术和公共政策研讨人员以及隐私和军事专家周三宣布了一份最新的研讨报告,他们在报告中正告说,人工智能的疾速开展引发了日益增长的风险,歹意用户很快就能应用人工智能技术来发起自动黑客攻击,这些攻击能够会形成十分严重的结果,比方无人驾驶汽车相撞或许将商用无人机变成有针对性的武器。研讨人员和专家们称,人工智能技术有能够被流氓国度、立功团伴随着互联网和移动生

研究人员呼吁各国关注AI被滥用的风险 威胁已迫在眉睫

腾讯科技讯 据外媒报道,剑桥、牛津和耶鲁大学的25名技术和公共政策研讨人员以及隐私和军事专家周三宣布了一份最新的研讨报告,他们在报告中正告说,人工智能的疾速开展引发了日益增长的风险,歹意用户很快就能应用人工智能技术来发起自动黑客攻击,这些攻击能够会形成十分严重的结果,比方无人驾驶汽车相撞或许将商用无人机变成有针对性的武器。

研讨人员和专家们称,人工智能技术有能够被流氓国度、立功团伴随着互联网和移动生活的日趋成熟,芝麻信用高分和良好的个人征信记录,不仅可以办理贷款、申请信用卡延伸你的财富,更能大大便利我们的生活。伙或独来独往的立功分子们滥用,这曾经从数字、物理和政治层面上对人类社会构成了火烧眉毛的要挟,由于人工智能技术让大规模、高精准和高效率的攻击成为了能够。

牛津大学人类将来学院的研讨员迈尔斯-布伦达奇(Miles Brundage)称:“我们都供认,人工智能有很多积极的使用,但在歹意运用成绩的研讨上存在一片空白。”

人工智能即AI包括应用计算机执行一些通常需求人类智能才干完成的义务,比方决策或辨认文本、语音或视觉图像等等。

人们普遍以为人工智能是开启各种技术能够性的弱小力气,但它也成为了锋利争辩的焦点,人们担忧它所支持的大规模自动化会招致普遍失业和其他社会混乱。

研讨人员和专家们在这份长达98页的报告中正告说,用人工智能来完成能够需求人工休息和专业技艺才干完成的义务,这能够会降低攻击的本钱和催生新的攻击方式。这些新的攻击方式能够是人力无法独自完成或许需求用到人工智能零碎本身弱点才干完成的。

报告审查了越来越多关于人工智能平安风险的学术研讨效果,呼吁各国政府和政策与技术专家协作并化解这些风险。

研讨人员们详细阐明了人工智能技术的弱小力气,人工智能技术可以将图像、文字和音频分解在一同以模拟别人在线行为,进而改动大众的观念。研讨人员们指出,民主政权能够会应用这种技术。

这份报告提出了一系列建议,包括将人工智能作为一种军民两用的技术来管理。

它还提出了一些成绩,包括学术界和其别人能否应该控制他们发布或披露人工智能研发停顿,直到该范畴的其他专家无机会对潜在风险停止研讨并作出反响。

布伦达奇说:“我们最终得出的成绩比处理的成绩多得多。”

这篇论文最早源于2017年终的一个研讨会,当作者们正式开端撰写时,报告中提出的某些预测根本上曾经完成了。作者们揣测,人工智能能够会被用来制造各种逼真的假声响和假视频,模拟各行各业的名人,以到达宣传的目的。

去年晚些时分,所谓的“深度假”色情视频开端在网上呈现,这类视频实践上是将明星们的面孔交融到不同的身体上。

特斯拉首席执行官埃隆-马斯克(Elon Musk)和硅谷投资者山姆-奥尔特曼(Sam Altman)创建的人工智能公司OpenAI的政策主管杰克-克拉克(Jack Clark)表示:“这发作的色情行业,并不是处于宣传目的。但是一切都标明,关于深度假的东西也有能够被用于宣传。”(编译/林靖东)