当前位置: 速途网 > 互联网 > 互联网资讯

研究人员呼吁各国关注AI被滥用的风险 威胁已迫在眉睫


作者: 林靖东 发布: 李楠  2018年02月21日13:42  来源: 腾讯网 我要评论(0)

研究人员呼吁各国关注AI被滥用的风险 威胁已迫在眉睫

  据外媒报道,剑桥、牛津和耶鲁大学的25名技术和公共政策研究人员以及隐私和军事专家周三发表了一份最新的研究报告,他们在报告中警告说,人工智能的快速发展引发了日益增长的风险,恶意用户很快就能利用人工智能技术来发动自动黑客攻击,这些攻击可能会造成非常严重的后果,比如无人驾驶汽车相撞或者将商用无人机变成有针对性的武器。

  研究人员和专家们称,人工智能技术有可能被流氓国家、犯罪团伙或独来独往的犯罪分子们滥用,这已经从数字、物理和政治层面上对人类社会构成了迫在眉睫的威胁,因为人工智能技术让大规模、高精准和高效率的攻击成为了可能。

  牛津大学人类未来学院的研究员迈尔斯-布伦达奇(Miles Brundage)称:“我们都承认,人工智能有很多积极的应用,但在恶意使用问题的研究上存在一片空白。”

  人工智能即AI包括利用计算机执行一些通常需要人类智能才能完成的任务,比如决策或识别文本、语音或视觉图像等等。

  人们普遍认为人工智能是开启各种技术可能性的强大力量,但它也成为了尖锐辩论的焦点,人们担心它所支持的大规模自动化会导致广泛失业和其他社会混乱。

  研究人员和专家们在这份长达98页的报告中警告说,用人工智能来完成可能需要人工劳动和专业技能才能完成的任务,这可能会降低攻击的成本和催生新的攻击方式。这些新的攻击方式可能是人力无法单独完成或者需要用到人工智能系统自身弱点才能实现的。

  报告审查了越来越多关于人工智能安全风险的学术研究成果,呼吁各国政府和政策与技术专家合作并化解这些危险。

  研究人员们详细说明了人工智能技术的强大力量,人工智能技术可以将图像、文字和音频合成在一起以模仿他人在线行为,进而改变公众的观点。研究人员们指出,专制政权可能会利用这种技术。

  这份报告提出了一系列建议,包括将人工智能作为一种军民两用的技术来管理。

  它还提出了一些问题,包括学术界和其他人是否应该控制他们发布或披露人工智能研发进展,直到该领域的其他专家有机会对潜在危险进行研究并作出反应。

  布伦达奇说:“我们最终得出的问题比解决的问题多得多。”

  这篇论文最早源于2017年初的一个研讨会,当作者们正式开始撰写时,报告中提出的某些预测基本上已经实现了。作者们推测,人工智能可能会被用来制作各种逼真的假声音和假视频,模仿各行各业的名人,以达到宣传的目的。

  去年晚些时候,所谓的“深度假”色情视频开始在网上出现,这类视频实际上是将明星们的面孔融合到不同的身体上。

  特斯拉首席执行官埃隆-马斯克(Elon Musk)和硅谷投资者山姆-奥尔特曼(Sam Altman)创立的人工智能公司OpenAI的政策主管杰克-克拉克(Jack Clark)表示:“这发生的色情行业,并不是处于宣传目的。但是一切都表明,关于深度假的东西也有可能被用于宣传。”

分类:  互联网资讯   用户:  李楠    关键词人工智能 特斯拉

速途网探营丨腾讯游戏研发总部成都分公司