新华网 正文
算法界上演“猫鼠游戏”连续剧
2019-07-03 08:05:27 来源: 科技日报
关注新华网
微博
Qzone
评论
图集

图片来自网络今日视点

  医疗手术、无人驾驶、围棋对弈、随手可用的翻译……近十年来,人工智能(AI)取得了巨大进步。而这,要得益于人工神经网络的发展。

  这一神经网络的模式,效仿的是我们人类的大脑,在大规模应用时,也被称为深度学习,其能够自己发现数据的模式,而无需明确指令。

  深度学习虽然可以在大数据训练中学到正确的工作方法,却也很容易受到恶意干扰。攻击者们通常会通过输入恶意数据来欺骗深度学习模型,导致其出现严重故障。

  面对恶意算法欺骗,人工智能如何反击?英国《自然》网络版日前的报道称,现在,计算机科学家正在多方寻找对策,以便让人工智能更安全。

  AI:我因“学习”而受伤

澳门星际平台|澳门星际娱乐网址|澳门xj官方网站|信赖品牌  “学习”,是人工智能的核心,也是使计算机具有智能的根本途径。

  深度学习的主旨,是让计算机去模拟或实现人类的学习行为,以获取新的知识或技能,并重新组织已有的知识结构,使之不断改善自身的性能。

澳门星际平台|澳门星际娱乐网址|澳门xj官方网站|信赖品牌  但同时,深度学习算法的不可预测性,使其需要不断挖掘。

  对于家庭和个人手机来说,虚拟智能化助理的应用越普遍,恶意攻击就越可能随时发生。有些信息眼看、耳听都没有问题,却能“暗藏杀机”——隐藏着劫持设备的指令。

  举例来说,人工智能“看”图像的模式,和人类的肉眼大不一样。通过微妙改变图像的某些部分,再输入后的图片即使肉眼看来一模一样,计算机看起来却大不相同。这就叫对抗性示例。

  除了图像,声音也会有同样的问题,只要修改了一个语音片段,人工智能就可能修改成完全不同的语音指令。

  无需隐身,也能抓住攻击者

  不过,在不久前召开的国际学习表征会议(ICLR)上,美国伊利诺伊大学香槟分校的计算机科学家拿出了一种对抗攻击的方法。

  他们编写的算法可以转录完整的音频以及单个片段。如果单个片段转录出来和完整音频中的对应部分不完全匹配,那么算法会立即用一面小红旗做出标记,表明音频样本可能已遭攻击。

  在攻击测试中,面对几种不同类型的修改,该算法几乎都检测到了异常情况。此外,即使攻击者已经了解到有防御系统的存在,大多数情况下还是会被抓住。

  这套算法拥有令人惊讶的稳定性。谷歌大脑团队的科学家尼古拉斯·卡林尼评价称,其最具吸引力之处在于它的“简单”。另有与会专家认为,随着对抗性攻击越来越常见,谷歌助手、亚马逊和苹果等服务,都应当应用这种防御系统。

澳门星际平台|澳门星际娱乐网址|澳门xj官方网站|信赖品牌  然而,攻击和防御之间,注定是一场持久的“猫鼠游戏”。卡林尼表示:“我毫不怀疑有人已经在研究如何攻击这种防御系统了。”

  提前演练,对攻击免疫

澳门星际平台|澳门星际娱乐网址|澳门xj官方网站|信赖品牌  也有的研究团队在另辟蹊径。

澳门星际平台|澳门星际娱乐网址|澳门xj官方网站|信赖品牌  就在本周,澳大利亚联邦科学与工业研究组织下属团队公开了一套算法,其通过效仿疫苗接种的思路,帮助人工智能“修炼”出抗干扰能力。

  所谓“疫苗算法”,就是在识别图片时,能够对图片集合进行微小的修改或使其失真,以激发学习模型“领会”到越来越强的抗干扰能力,并形成相关的自我抗干扰训练模型。经过此类小规模的失真训练后,最终的抗干扰训练模型将更加强大,当真正的攻击到来之时,机器学习模型将具备“免疫”功能。

  这其实是针对深度学习模型专门打造的训练。因为它会“学习”,所以也会学着纠错。

  邮件过滤器:效果不尽人意

  邮件过滤器真的已经很努力了,但效果并不尽如人意。

  这是因为防御与攻击总是相伴相生。随着漏洞越来越多的被察觉,人工智能拥有更多的防御能力,恶意攻击也在不断进阶。

  在4月召开的美国系统和机器学习大会(SysML)上,德克萨斯大学奥斯汀分校的计算机科学家们揭示了机器学习算法在文本理解方面的漏洞。

  有些人认为文本不容易被攻击,因为恶意欺骗可以对图像或声音波形进行微调,但改变任何文字都会被察觉。可科学家告诉我们不是这样。

  恶意攻击会瞄准一些同义词,文本含义不发生改变,但深度学习算法却可能因此而判断错误——垃圾邮件成了安全的,假新闻被合法推送。

  科学家们演示了一套恶意攻击程序,它甚至会检测文本分类器在判断是否含有恶意时,最依赖的是哪些词语。接着,它挑选出关键词的同义词,替换,然后飞速开始测试下一个关键词。在这套算法攻击下,过滤器的准确率急剧下降。

  不过,将这些手段公诸于众,究竟可以提高防御能力,还是会加剧攻击手段,目前仍有争议。此前,已经有AI实验室拒绝公开一种攻击算法,因为担心它被滥用。

澳门星际平台|澳门星际娱乐网址|澳门xj官方网站|信赖品牌  (科技日报北京7月2日电)

  

+1
【纠错】 责任编辑: 赵秋玥
新闻评论
加载更多
    热帖
  • 2018-03-02 08:58:39
  • 2018-03-02 08:58:39
  • 2018-03-01 14:40:53
  • 2018-03-01 14:40:53
  • 2018-03-01 09:01:20
热词
“广州之夜”闪耀夏季达沃斯论坛
“广州之夜”闪耀夏季达沃斯论坛
旅游小镇助力脱贫攻坚
旅游小镇助力脱贫攻坚
中意在重庆开展联合警务巡逻
中意在重庆开展联合警务巡逻
探秘神奇的下渚湖
探秘神奇的下渚湖

 赢咖娱乐网站_赢咖娱乐网址_平台app官网下载 澳门娱乐平台送彩金_澳门送彩金的网站大全_澳门网上娱乐网站 澳门十大网投平台_正规澳门赌场平台_澳门真人娱乐平台 澳门线上博彩-网赌十大信誉的平台-澳门亚洲网投 官网澳门正规平台_澳门网站大全网址平台_澳门网上正规赌场网址 澳门正规博彩十大网站_澳门十大正规赌博娱乐_澳门十大正规赌博平台 澳门赌场彩票APP官网_体育在线投注网站_澳门线上赌场网投网站 网上十大正规赌网址大全_澳门赌场网上娱乐_亚洲正规博彩十大网站 十大正规赌博平台排名_网上十大正规赌博网站_澳门线上赌博平台大全 澳门赌场网上娱乐_博彩十大网站排行_亚洲博彩十大体育网站排名 澳门送彩金网站大全_澳门电子游戏注册送彩金_澳门金沙注册送彩金的彩票网站 澳门赌博送彩金_澳门赌博送彩金体验_澳门赌博送彩金网站大全 澳门十大电子游戏平台-澳门电子游戏平台大全-澳门赌博官网下载 全球最大网赌正规平台_手机赌博哪个软件靠谱_可靠网赌app平台网址 2019无需申请送彩金_无需申请自动送彩金58_娱乐国际平台送彩金58