《电子技术应用》

人工智能正在持续进步 缺点不断暴露

2016/10/12 5:00:00

  试想一下,在你与客户见面前,他们给了你一份确认函以及见面地的地图,并且在地图上标注了方位。这一切似乎看起来很正常,但事实是,整条信息都由一个恶意软件模仿客户的语言习惯写成,而且在地图上附着了病毒。

  这样的事听起来似乎离我们很远,但其实它就发生在眼下。作为Darktrace网络安全公司的技术总监,Dave Palmer认为黑客和网络安全公司的技术能力竞争正越来越激烈。

  今年九月份,在伦敦举行的《金融时报》网络安全峰会上,Dave Palmer提出:随着人工智能变得越来越精密,它难免会变成恶意软件,对企业和个人造成潜在的巨大威胁,而这一点恰恰是黑客所看中的价值。

  我们必须牢记,Dave Palmer不仅是一位网络安全维护者,同时也是一个商人。他的工作就是大肆宣扬和夸大所出现的威胁(不论是现在已经出现的,还是未来可能出现的),并宣称只有Darktrace才能解决这一问题,以此来安抚用户。

  Darktrace是一家市值5亿美元(4.01亿英镑)的英国公司,主要采用人工智能方式来保障网络安全。该公司为用户建立了一个“免疫系统”,以监督潜在的非法商业操作。从这一点来看,Dave Palmer作为一家年轻的人工智能领域公司的技术总监,对网络安全的未来发展提出了新见解。

22_webp.jpg

  智能病毒将“绑架”工业设备

  目前,勒索软件非常普遍。这款恶意软件会对受害者的电脑或者网络进行编码,只有提供一个比特币才能解码。如果没有在规定时间内上交比特币,那么数据将会永久丢失。

  如果恶意软件拥有人工智能特性,则将具有自我组织性,其杀伤力将会更大。而且它具有不断生成性,这对于制造者来说将更有利可图。

  Dave Palmer说:“我们对恶意软件产生的连锁反应有一定预见。在突然大规模爆发前,它们一定会事先潜伏在网络的许多区域,以便形成连续效应。我确信,一定会出现对资产和数据的网络敲诈。第一,在工厂的设备,医院的核磁共振扫描仪和自动贩卖机损坏时,为了不影响到日常工作,你需要及时修复它们,以避免网络敲诈。第二,你需要备份数据,以便在机器损坏时,也不必把钱浪费在数据恢复上。

  恶意软件将模仿熟悉的人

  不论是充满噱头的关于病毒的小道消息,还是英国卫报的社论专版,都提到过人工智能软件将根据用户经常使用的神经网络来学习并模仿写作模式。DavePalmer提到:在不久的将来,恶意软件将会从用户的通信中学习并模仿与他人的交流方式,以达到其他目的。

  他举例道:“有一个叫纳迪亚的女孩,她在手提电脑里安装了一个软件,该软件可以阅读她所有的信件、信息和日程,而且能模仿她的语气进行回复。所以,仅从信件判断,你会觉得她是一个很粗鲁、不时开玩笑的人。但实际上,她非常有礼貌。此外,该软件也可发送病毒。根据她的日程表,她会发给你一封邮件,可能内含有地图,上面标注着你们见面的地点。但当你打开邮件时,也会激活附着在地图上的病毒。”

  还有一种更复杂骗人手段,被称作“CFO邮件”骗局或者“信任攻击”。这些骗子的目标是公司职员,通过发送邮件要求他们转移资金。在过去三年里,FBI查处了23亿美元(18.4亿英镑)的被骗资金。

  最好的黑客是最受瞩目的

  2015年12月,乌克兰一家发电站遭受到了史无前例的黑客攻击,造成8万户家庭断电,人们认为那些受国家支持的黑客应对此负责。这件事很好地证明了当今世界易受黑客攻击,但DavePalmer从长远角度出发,认为那些技艺高超且破坏性极强的黑客将隐藏得更深。

  Dave Palmer表示:“如果你想损坏一个石油钻塔,很容易就会被人们发现,而且每个人都会想办法修复它。但你真的想搞垮一个石油或者天然气开采公司,则不如开发一个拥有自主寻找、定位和攻击的恶意软件,使其入侵到对方的系统里,更改他们想获得开采权地区的地理数据。一段时间以后,你可以根据油井储量并不不如预想的丰富这一点,确认他们开采的地点是错误的。而此时该公司的利益已受到了严重损害,但他们并不会有所怀疑和注意,而且无法应对。”

  他补充道:“你可能会想‘这确实是个好主意,我们应该看看我们的数据看,找找是否存在有趣的软件。’但在未来,恶意软件的攻击可能存在于物联网传感器中,它们的深层危害和扫描设备都将在第一时间爆发,预祝你能成功避开攻击。”

  人工智能改革的阴暗面

  现在仍是人工智能革命的早期,该技术应用在从无人车到癌症治疗的各个领域,但我们现在只领悟到了皮毛。当它变得更先进、更通俗易懂的时候,它的副作用也会凸显。

  那么,它发展的时间表到底是什么样的呢?Dave Palmer说:“我认为,你可以在接下来的一年时间里创建自己的神经网络,使其形成基础的智能应对策略(实现信任攻击)。而在接下来的几年里,你将会看到人工智能使用更自然的语言,比如谷歌的Deep Mind。”

  这项技术正在持续进步,缺点也在不断暴露。


继续阅读>>