• QQ空间
  • 收藏

算法界上演“猫鼠游戏”连续剧

| 2020-11-14

医疗手术、无人驾驶、围棋对弈、随手可用的翻译……近十年来,人工智能(AI)取得了巨大进步。而这,要得益于人工神经网络的发展。

这一神经网络的模式,效仿的是我们人类的大脑,在大规模应用时,也被称为深度学习,其能够自己发现数据的模式,而无需明确指令。

深度学习虽然可以在大数据训练中学到正确的工作方法,却也很容易受到恶意干扰。攻击者们通常会通过输入恶意数据来欺骗深度学习模型,导致其出现严重故障。

面对恶意算法欺骗,人工智能如何反击?英国《自然》网络版日前的报道称,现在,计算机科学家正在多方寻找对策,以便让人工智能更安全。

AI:我因“学习”而受伤

“学习”,是人工智能的核心,也是使计算机具有智能的根本途径。

深度学习的主旨,是让计算机去模拟或实现人类的学习行为,以获取新的知识或技能,并重新组织已有的知识结构,使之不断改善自身的性能。

但同时,深度学习算法的不可预测性,使其需要不断挖掘。

对于家庭和个人手机来说,虚拟智能化助理的应用越普遍,恶意攻击就越可能随时发生。有些信息眼看、耳听都没有问题,却能“暗藏杀机”——隐藏着劫持设备的指令。

举例来说,人工智能“看”图像的模式,和人类的肉眼大不一样。通过微妙改变图像的某些部分,再输入后的图片即使肉眼看来一模一样,计算机看起来却大不相同。这就叫对抗性示例。

除了图像,声音也会有同样的问题,只要修改了一个语音片段,人工智能就可能修改成完全不同的语音指令。

无需隐身,也能抓住攻击者

不过,在不久前召开的国际学习表征会议(ICLR)上,美国伊利诺伊大学香槟分校的计算机科学家拿出了一种对抗攻击的方法。

他们编写的算法可以转录完整的音频以及单个片段。如果单个片段转录出来和完整音频中的对应部分不完全匹配,那么算法会立即用一面小红旗做出标记,表明音频样本可能已遭攻击。

在攻击测试中,面对几种不同类型的修改,该算法几乎都检测到了异常情况。此外,即使攻击者已经了解到有防御系统的存在,大多数情况下还是会被抓住。

这套算法拥有令人惊讶的稳定性。谷歌大脑团队的科学家尼古拉斯·卡林尼评价称,其最具吸引力之处在于它的“简单”。另有与会专家认为,随着对抗性攻击越来越常见,谷歌助手、亚马逊和苹果等服务,都应当应用这种防御系统。

然而,攻击和防御之间,注定是一场持久的“猫鼠游戏”。卡林尼表示:“我毫不怀疑有人已经在研究如何攻击这种防御系统了。”

提前演练,对攻击免疫

也有的研究团队在另辟蹊径。

就在本周,澳大利亚联邦科学与工业研究组织下属团队公开了一套算法,其通过效仿疫苗接种的思路,帮助人工智能“修炼”出抗干扰能力。

所谓“疫苗算法”,就是在识别图片时,能够对图片集合进行微小的修改或使其失真,以激发学习模型“领会”到越来越强的抗干扰能力,并形成相关的自我抗干扰训练模型。经过此类小规模的失真训练后,最终的抗干扰训练模型将更加强大,当真正的攻击到来之时,机器学习模型将具备“免疫”功能。

这其实是针对深度学习模型专门打造的训练。因为它会“学习”,所以也会学着纠错。

邮件过滤器:效果不尽人意

邮件过滤器真的已经很努力了,但效果并不尽如人意。

这是因为防御与攻击总是相伴相生。随着漏洞越来越多的被察觉,人工智能拥有更多的防御能力,恶意攻击也在不断进阶。

在4月召开的美国系统和机器学习大会(SysML)上,德克萨斯大学奥斯汀分校的计算机科学家们揭示了机器学习算法在文本理解方面的漏洞。

有些人认为文本不容易被攻击,因为恶意欺骗可以对图像或声音波形进行微调,但改变任何文字都会被察觉。可科学家告诉我们不是这样。

恶意攻击会瞄准一些同义词,文本含义不发生改变,但深度学习算法却可能因此而判断错误——垃圾邮件成了安全的,假新闻被合法推送。

科学家们演示了一套恶意攻击程序,它甚至会检测文本分类器在判断是否含有恶意时,最依赖的是哪些词语。接着,它挑选出关键词的同义词,替换,然后飞速开始测试下一个关键词。在这套算法攻击下,过滤器的准确率急剧下降。

不过,将这些手段公诸于众,究竟可以提高防御能力,还是会加剧攻击手段,目前仍有争议。此前,已经有AI实验室拒绝公开一种攻击算法,因为担心它被滥用。

编辑:谢珊

2020-11-28
VR游戏 星月解惑:12.5比特币以太坊操作建议
区块链,一个神奇的词汇,写入了十三五规划的词汇,让大家一度痴迷,幻想,沉浸其中,2017年,多少人从一个平民百姓飞跃成了千万甚至亿元的大佬,2018年,让多少家... <详情>
2020-11-28
VR游戏 王团长日记390篇:忙的忘记了,就会忽略自己炒币的痛
南京下小雨的这几天,币价也瀑布不断。 早上起床还没睁眼就听到外面在下雨,打开手机微信一看没有人@我,我心里想今天肯定币价格比较平稳。 ... <详情>
2020-11-28
VR游戏 研究发现DNA修复能力与生物钟有关
  新华社华盛顿5月7日电(记者周舟)美国北卡罗来纳大学医学院一个团队发现,小鼠的DNA(脱氧核糖核酸)修复能力与生物钟有关。这一发现有望为调整癌症患者给药时间... <详情>
2020-11-28
VR游戏 iOS13和iPadOS爆安全漏洞:用户名密码或遭泄露
  【环球网科技综合报道】一直以安全著称的苹果,在近日来却屡遭安全泄露问题。前段时间,Apple Watch刚刚遭遇了隐私危机,今天,iOS 13与iPad O... <详情>
2020-11-28
VR游戏 巩留县新建和改扩建双语幼儿园 即将陆续投入使用
伊犁新闻网讯(记者于洋 通讯员陈宝)近日,记者来到巩留县东买里镇奥伊塔木村的双语幼儿园建设工程工地,看到这所双语幼儿园已经整体完工,正在开展一些收尾工作。据了解... <详情>
2020-11-28
VR游戏 霍城县教育系统举办 “红旗飘飘 引我成 长”主题演讲比赛
伊犁新闻网讯(记者冯强)4月25日,霍城县教育系统举办“红旗飘飘 引我成长”主题演讲比赛,从全县近百所学校中选出的23名中小学生参加角逐... <详情>