当前位置:安全内网安全 → 正文

以AI技术助力保障网络安全

责任编辑:zsheng |来源:企业网D1Net  2018-04-01 10:55:45 本文摘自:光明网

2018年政府工作报告提出,加强新一代人工智能研发应用,发展智能产业,拓展智能生活。这是继2017年首次写入之后,人工智能第二次被写入政府工作报告。人工智能为何受到如此重视?

认识当前人工智能(AI)的发展热点与动态

目前,大数据、人工智能已双双上升为国家战略。2017年,国务院印发《新一代人工智能发展规划》明确指出,人工智能是引领未来的战略性技术……当前,我国国家安全和国际竞争形势更加复杂,必须放眼全球,把人工智能发展放在国家战略层面系统布局、主动谋划,牢牢把握人工智能发展新阶段国际竞争的战略主动,打造竞争新优势、开拓发展新空间,有效保障国家安全。2018年的《政府工作报告》中又多次提及大数据、人工智能等关键词,这是大数据第五次、人工智能第二次被写入政府工作报告。如果我们放眼世界,会发现AI的热潮正席卷全球,AlphaGo击败人类最顶级的职业围棋手,DeepStack打败职业的人类poker玩家,ResNet等深度卷积神经网络在IMAGENET上的图像分类任务上也超越了人类。AI技术被广泛应用在教育、就业、信用、贷款、保险、广告、医疗、治安、刑事司法程序等领域。同时,AI新的研究热点也在不断涌现,如自动驾驶、人脸识别、智慧医疗、智能语音操作系统,AI网络安全防护以及他们背后所连接的各种场景将逐渐成为AI商业化落地的主战场。

当前,人们对AI的热情空前高涨,但即使是当前最前沿的AI算法在能力上来讲还是有局限的。计算机还不具备抽象思考能力,不懂得用大数据得到的能力,去解决新的问题,距离真正的智慧还很遥远。同时,过去一年里人工智能在理论上大的突破并不多,现在深度学习能做到的仅仅是知其然,而不知其所以然,这就导致了人工智能的脆弱性。因此,AI要到达一个新的高度,要更好地为人类服务,就要更多从人脑的学习机制得到启发。人脑是具有所谓强人工智能的唯一的实例,我们要进一步提升AI的性能并为我所用,研究人脑的工作机制给我们提供了一条捷径,也很有可能是必由之路。比如,现有的很多深度学习算法是提前设计好神经网络的架构,一旦设计好,架构是不变的。而我们人类从婴幼儿成长到青壮年,人脑的神经元是逐渐增加的,架构也是逐渐拓展的。并且,人脑在我们休息的时候,尤其是深度睡眠期间,会对冗余的神经元进行修剪,使人脑的推理过程更加节能和高效。现在一些前沿的神经网络生长和修剪算法已经朝着个方向迈出了一步。大部分机器学习(包括深度学习)算法和推理过程是分开进行的,而我们人脑的学习和推理是互相嵌套,交叉迭代进行的。另外,反向传播算法一直以来是深度学习算法的核心之一。最近,被称为深度学习之父的Geoffrey Hinton教授提出了胶囊网络,并号召大家摒弃反向传播。胶囊网络也是从神经学的研究中得到了启发。其实,现在深度学习里的一些里程碑式的算法都或多或少从神经科学,心理学等学科的研究得到了启发。

给予网络安全问题高度重视

“没有网络安全就没有国家安全”,随着人类社会进入移动互联网时代,网络安全已经成为事关国家安全的重大问题。近两年,伴随着人工智能的高速发展,AI时代的网络安全以及国家安全问题更为突出。据有关数据显示,当前网络犯罪已经成为我国第一大犯罪类型,占比超过三分之一,并且每年30%的速度同比增长。而到2020年,全球联网设备数量将上升到500亿部左右。如果联网设备都不具备基本的安全防护措施,黑客就可以利用漏洞劫持智能终端设备,智能门锁、网络摄像头、智能电视、温控器等等无一能够幸免。

同时,随着全球互联网带宽的不断增加,越来越多的数据流量正通过互联网进行传送,这些都导致不法黑客有机可乘,不断翻新DDoS攻击的规模。2018年2月,Github成为了第一个关注度较高的受害者,遭受了1.35Tbps的DDoS攻击,几天之后,一家未命名的美国服务提供商遭遇了一次单独的攻击,峰值流量高达1.7Tbps。面对层出不穷的安全漏洞,不断增长的物联网设备,未来的DDoS攻击将继续存在下去。而对于企业来说,如何在持续增长的攻击规模下求得安全,摆脱自身基础设施内防护设备的扩展性瓶颈,显然成为了亟待解决的关键问题。2017年以来,Bad Rabbit,WannaCry,Petya,NotPetya在全球大面积爆发,对全世界的互联网安全造成了严重威胁。据统计,2017年第一季度,勒索病毒新变种比去年同期增加了4.3倍;2017年第三季度,垃圾邮件携带勒索病毒的比率增至64%。与此同时,恶意软件和勒索软件也越来越智能化,它们可以一边传播一边学习,利用机器智能可以协调全球网络攻击,借助高级数据分析来定制攻击方式。

可以说,当前网络安全形式严峻,需要对安全问题给予高度的重视。正如阿里巴巴集团秘书长、风险委员会主席邵晓锋表示,在互联网大数据技术即将对社会方方面面产生重大颠覆,包括如何从国家、企业、专业机构甚至全体公民层面形成全面的机制,如何升级安全理念和安全体系等,并要求我们在商业应用迅速拓展的同时,把构建良好网络生态环境当作最重要的能力提升来看待。而应对新的安全挑战,大数据、人工智能等一定要成为我们手中的利器。

AI在安全领域的应用亮点与挑战

AI是一把双刃剑。2018年包括牛津大学、剑桥大学等在内的14家机构联合发布题为《人工智能的恶意用途:预测、预防和缓解》的研究报告。报告指出,随着人工智能越来越强大,越来越普及,预计人工智能系统的广泛应用将导致现有威胁的扩大,还会引发新的威胁,甚至改变典型的威胁特征。的确,由于使用人工智能带来的门槛的下降和成本的降低,与自动攻击、语音合成、图像合成,视频合成,数据中毒有关的网络攻击将会增多。无人机以及全自动和半自动驾驶系统的出现也会构成新的风险。比如在面临撞车时,无人驾驶系统并不能做出全面正确的判断,而很有可能基于尽量降低事故损伤程度而简单选择撞向与事故并无直接原因的周边车辆或行人等。同时,部分黑色产业也在使用AI技术。因此,我们要善用科学技术与一颗保卫互联网安全的初心对抗黑色产业和不法分子,确保手中AI的安全并且可控。

《新一代人工智能发展规划》中明确指出,在大力发展人工智能的同时,必须高度重视可能带来的安全风险挑战,加强前瞻预防与约束引导,最大限度降低风险,确保人工智能安全、可靠、可控发展。目前,我们正在这方面进行努力。比如,阿里巴巴集团安全部以大数据和 AI 的算法为驱动,利用先进的社交图谱分析、图像识别、自然语言处理、知识表达推理等 AI 工具,在注册场景,防止机器注册,人工恶意注册,注册短信被攻击;在登陆防空场景提,防止刷库撞库,暴力破解,可疑登陆;在发帖评论场景,防止批量发帖,垃圾评论;在内容安全场景检查和删除黄赌毒内容等,不断研发新和利用高科技产品对抗黑色产业带来互联网安全的破坏。

中国需要海归 海归更需要中国

大数据和人工智能的未来在中国一定会有丰富的应用场景与最好的舞台,因此我们要注重对海外人才,尤其是海归人才的引进。同时,海归人才们也会有这份归国的热情。以笔者本身为例,回国前在硅谷的多家国际知名公司担任首席科学家和高级总监的职位,在人工智能和安全领域已经耕耘了超过十年,大数据和人工智能在中国发展的前景以及对人才的重视是归国的原因之一,笔者相信归国之后大有可为。

关键字:网络安全技术

本文摘自:光明网

x 以AI技术助力保障网络安全 扫一扫
分享本文到朋友圈
当前位置:安全内网安全 → 正文

以AI技术助力保障网络安全

责任编辑:zsheng |来源:企业网D1Net  2018-04-01 10:55:45 本文摘自:光明网

2018年政府工作报告提出,加强新一代人工智能研发应用,发展智能产业,拓展智能生活。这是继2017年首次写入之后,人工智能第二次被写入政府工作报告。人工智能为何受到如此重视?

认识当前人工智能(AI)的发展热点与动态

目前,大数据、人工智能已双双上升为国家战略。2017年,国务院印发《新一代人工智能发展规划》明确指出,人工智能是引领未来的战略性技术……当前,我国国家安全和国际竞争形势更加复杂,必须放眼全球,把人工智能发展放在国家战略层面系统布局、主动谋划,牢牢把握人工智能发展新阶段国际竞争的战略主动,打造竞争新优势、开拓发展新空间,有效保障国家安全。2018年的《政府工作报告》中又多次提及大数据、人工智能等关键词,这是大数据第五次、人工智能第二次被写入政府工作报告。如果我们放眼世界,会发现AI的热潮正席卷全球,AlphaGo击败人类最顶级的职业围棋手,DeepStack打败职业的人类poker玩家,ResNet等深度卷积神经网络在IMAGENET上的图像分类任务上也超越了人类。AI技术被广泛应用在教育、就业、信用、贷款、保险、广告、医疗、治安、刑事司法程序等领域。同时,AI新的研究热点也在不断涌现,如自动驾驶、人脸识别、智慧医疗、智能语音操作系统,AI网络安全防护以及他们背后所连接的各种场景将逐渐成为AI商业化落地的主战场。

当前,人们对AI的热情空前高涨,但即使是当前最前沿的AI算法在能力上来讲还是有局限的。计算机还不具备抽象思考能力,不懂得用大数据得到的能力,去解决新的问题,距离真正的智慧还很遥远。同时,过去一年里人工智能在理论上大的突破并不多,现在深度学习能做到的仅仅是知其然,而不知其所以然,这就导致了人工智能的脆弱性。因此,AI要到达一个新的高度,要更好地为人类服务,就要更多从人脑的学习机制得到启发。人脑是具有所谓强人工智能的唯一的实例,我们要进一步提升AI的性能并为我所用,研究人脑的工作机制给我们提供了一条捷径,也很有可能是必由之路。比如,现有的很多深度学习算法是提前设计好神经网络的架构,一旦设计好,架构是不变的。而我们人类从婴幼儿成长到青壮年,人脑的神经元是逐渐增加的,架构也是逐渐拓展的。并且,人脑在我们休息的时候,尤其是深度睡眠期间,会对冗余的神经元进行修剪,使人脑的推理过程更加节能和高效。现在一些前沿的神经网络生长和修剪算法已经朝着个方向迈出了一步。大部分机器学习(包括深度学习)算法和推理过程是分开进行的,而我们人脑的学习和推理是互相嵌套,交叉迭代进行的。另外,反向传播算法一直以来是深度学习算法的核心之一。最近,被称为深度学习之父的Geoffrey Hinton教授提出了胶囊网络,并号召大家摒弃反向传播。胶囊网络也是从神经学的研究中得到了启发。其实,现在深度学习里的一些里程碑式的算法都或多或少从神经科学,心理学等学科的研究得到了启发。

给予网络安全问题高度重视

“没有网络安全就没有国家安全”,随着人类社会进入移动互联网时代,网络安全已经成为事关国家安全的重大问题。近两年,伴随着人工智能的高速发展,AI时代的网络安全以及国家安全问题更为突出。据有关数据显示,当前网络犯罪已经成为我国第一大犯罪类型,占比超过三分之一,并且每年30%的速度同比增长。而到2020年,全球联网设备数量将上升到500亿部左右。如果联网设备都不具备基本的安全防护措施,黑客就可以利用漏洞劫持智能终端设备,智能门锁、网络摄像头、智能电视、温控器等等无一能够幸免。

同时,随着全球互联网带宽的不断增加,越来越多的数据流量正通过互联网进行传送,这些都导致不法黑客有机可乘,不断翻新DDoS攻击的规模。2018年2月,Github成为了第一个关注度较高的受害者,遭受了1.35Tbps的DDoS攻击,几天之后,一家未命名的美国服务提供商遭遇了一次单独的攻击,峰值流量高达1.7Tbps。面对层出不穷的安全漏洞,不断增长的物联网设备,未来的DDoS攻击将继续存在下去。而对于企业来说,如何在持续增长的攻击规模下求得安全,摆脱自身基础设施内防护设备的扩展性瓶颈,显然成为了亟待解决的关键问题。2017年以来,Bad Rabbit,WannaCry,Petya,NotPetya在全球大面积爆发,对全世界的互联网安全造成了严重威胁。据统计,2017年第一季度,勒索病毒新变种比去年同期增加了4.3倍;2017年第三季度,垃圾邮件携带勒索病毒的比率增至64%。与此同时,恶意软件和勒索软件也越来越智能化,它们可以一边传播一边学习,利用机器智能可以协调全球网络攻击,借助高级数据分析来定制攻击方式。

可以说,当前网络安全形式严峻,需要对安全问题给予高度的重视。正如阿里巴巴集团秘书长、风险委员会主席邵晓锋表示,在互联网大数据技术即将对社会方方面面产生重大颠覆,包括如何从国家、企业、专业机构甚至全体公民层面形成全面的机制,如何升级安全理念和安全体系等,并要求我们在商业应用迅速拓展的同时,把构建良好网络生态环境当作最重要的能力提升来看待。而应对新的安全挑战,大数据、人工智能等一定要成为我们手中的利器。

AI在安全领域的应用亮点与挑战

AI是一把双刃剑。2018年包括牛津大学、剑桥大学等在内的14家机构联合发布题为《人工智能的恶意用途:预测、预防和缓解》的研究报告。报告指出,随着人工智能越来越强大,越来越普及,预计人工智能系统的广泛应用将导致现有威胁的扩大,还会引发新的威胁,甚至改变典型的威胁特征。的确,由于使用人工智能带来的门槛的下降和成本的降低,与自动攻击、语音合成、图像合成,视频合成,数据中毒有关的网络攻击将会增多。无人机以及全自动和半自动驾驶系统的出现也会构成新的风险。比如在面临撞车时,无人驾驶系统并不能做出全面正确的判断,而很有可能基于尽量降低事故损伤程度而简单选择撞向与事故并无直接原因的周边车辆或行人等。同时,部分黑色产业也在使用AI技术。因此,我们要善用科学技术与一颗保卫互联网安全的初心对抗黑色产业和不法分子,确保手中AI的安全并且可控。

《新一代人工智能发展规划》中明确指出,在大力发展人工智能的同时,必须高度重视可能带来的安全风险挑战,加强前瞻预防与约束引导,最大限度降低风险,确保人工智能安全、可靠、可控发展。目前,我们正在这方面进行努力。比如,阿里巴巴集团安全部以大数据和 AI 的算法为驱动,利用先进的社交图谱分析、图像识别、自然语言处理、知识表达推理等 AI 工具,在注册场景,防止机器注册,人工恶意注册,注册短信被攻击;在登陆防空场景提,防止刷库撞库,暴力破解,可疑登陆;在发帖评论场景,防止批量发帖,垃圾评论;在内容安全场景检查和删除黄赌毒内容等,不断研发新和利用高科技产品对抗黑色产业带来互联网安全的破坏。

中国需要海归 海归更需要中国

大数据和人工智能的未来在中国一定会有丰富的应用场景与最好的舞台,因此我们要注重对海外人才,尤其是海归人才的引进。同时,海归人才们也会有这份归国的热情。以笔者本身为例,回国前在硅谷的多家国际知名公司担任首席科学家和高级总监的职位,在人工智能和安全领域已经耕耘了超过十年,大数据和人工智能在中国发展的前景以及对人才的重视是归国的原因之一,笔者相信归国之后大有可为。

关键字:网络安全技术

本文摘自:光明网

电子周刊
回到顶部

关于我们联系我们版权声明隐私条款广告服务友情链接投稿中心招贤纳士

企业网版权所有 ©2010-2024 京ICP备09108050号-6 京公网安备 11010502049343号

^