当前位置:人工智能行业动态 → 正文

人工智能技术如何将人们从深度伪造的世界中拯救出来

责任编辑:cres 作者:Mike Elgan |来源:企业网D1Net  2020-02-27 09:59:53 原创文章 企业网D1Net

如今,采用深度伪造(Deepfake)生成的视频和音频,人工智能生成的文本、诗歌和歌词,假网站和假新闻进入人们的世界。人们的生活还会真实吗?
 
行业专家Mike Elgan对于人工智能在伪造方面起到的作用进行了阐述。他举例说,“在我小时候,我和弟弟用纸碟、锡纸和大理石制成一个UFO(不明飞行物)。然后,我们将UFO悬挂在鱼线上,并登上楼顶采用家里摄像机拍摄UFO飞来的样子,并获得证明外星人的存在的确凿证据,这种游戏就是一种深度伪造。”
 
伪造和假冒事物一直存在。但是,当这一切都变得数字化时,其创建和分发都变得更加容易、更快以及更加广泛。人工智能(AI)会将其提升到一个全新的水平,使任何人都能创建完美的多媒体(如视频和音频)伪造品。
 
伪造者创建伪造品,然而采用检测器进行检测,从而向伪造者提供有关检测到的信息。伪造者然后调整他们的方法,并创造更好的伪造品。但是在充满伪造的世界中,人们将如何应对?
 
假新闻(或有关伪造的新闻)
 
很多人担心深度伪造(Deepfake)视频会被用于政治。例如近日发生的这样事情,印度人民党主席Manoj Tiwari以不同的语言对其支持者的讲话就是一个Deepfake视频,好在没有用来伪造对手的评论。不过,Deepfake现在已经用于政治领域,这是一个里程碑。
 
另一个采用人工智能伪造的例子是说唱歌手和词曲作者Travis Scott创作的一首新歌,这首歌名为Jack Park Canny Dope Man,采用人工智能生成的音乐和歌词,由Scott本人在一段音乐视频中演唱。
 
OpenAI GPT-2是一种语言创建人工智能技术,几乎可以使用任何样式编写文章。它可以模仿《纽约客》杂志的写作风格,甚至可以写诗。OpenAI是一家由特斯拉首席执行官埃隆•马斯克等创立的非盈利研究机构。
 
很多人担心人工智能创造的伪造品用于犯罪,但这已经发生了。
 
安全厂商赛门铁克公司已经通过模仿首席执行官的声音,验证了三个针对企业员工的Deepfake音频的案例。Deepfake技术可以从YouTube演讲和企业财务收益电话中获取首席执行官声音样本,诈骗者在电话中模拟其声音,欺骗员工给他紧急汇款。
 
人工智能将如何制造完美的Deepfake视频
 
目前有两种创建Deepfake视频的通用方法。第一个是换脸技术,它使用编码器和解码器来逐帧匹配和替换视频中的人脸。
 
第二种方法称为生成对抗网络或GAN。这种方法可用于创建各种令人信服却是伪造的数据,它使用两种人工智能算法。一个算法用来创建虚假数据;另一个算法进行判断,为创建者算法提供反馈。并大规模重复这种做法,两种算法都提高了它们的能力。最终,创建者算法变得如此出色,它可以产生视频、音频、文本、指纹等假数据。
 
伪造视频的制作变得越来越复杂。总部位于香港的一家名为SenseTime的初创公司与南洋理工大学和中国科学院自动化研究所合作,开发了一个名为SenseTIme的框架,该框架可以根据语音自动编辑视频。
 
韩国Hyperconnect公司构建了一个名为MarioNETte的工具,该工具可以实时将某人的脸部动作映射到其他任何人(例如政客或名人)的脸部。
 
与此同时,Deepfake技术变得越来越强大,并且也变得更加民主化,现在出现在消费者应用程序中。任何人都可以创建令人信服的Deepfake视频和音频,而这只是时间问题。
 
这就是为什么必须弄清楚如何检测伪造文件的原因。
 
伪造技术即将上线
 
科技孵化器Jigsaw公司最初是谷歌公司的一个部门,后来转到Alphabet公司的旗下,如今重新回到谷歌公司。Jigsaw公司创建了一个名为Assembler的平台,帮助核查人员核实图像。该工具结合了美国7所大学开发的不同技术和算法,加上Jigsaw公司自己创建的一个算法,通过发现由伪造照片的已知方法生成的证据来处理图像。
 
谷歌公司还利用人工智能技术和人类智慧相合,在Google Maps上查找并删除虚假、不道德或恶意的评论。该公司本月宣称,他们已经删除了超过7500万条违反政策的评论和400万份虚假的业务资料。人工智能会首先审核所有评论和业务概况,并自动删除明确的违规者。然后将难以处理的问题交给工作人员处理。
 
华盛顿大学和艾伦人工智能研究所的研究人员开发了一种名为Grover的算法,该算法可以识别出深度伪造的签名,其准确率高达92%。
 
Facebook公司最近让独立研究人员通过一个名为Social Science One的程序访问有关用户活动的某些信息。
 
哈佛大学和麻省理工学院的IBM Watson人工智能实验室的科学家发布了一个“巨型语言模型测试室”的软件,它是基于网络空间,用于确定给定的文本是否由人工智能编写。
 
由滑铁卢大学的研究人员创建的一家加拿大初创厂商DarwinAI公司开发了他们称之为DarwinAI的技术,该技术使用深度学习来检测虚假新闻。他们的技术将标题与文章内容进行比较。在以后的迭代中,DarwinAI会将文章的文字与其他文章进行比较。
 
采用假新闻推动政治进程的最疯狂的想法之一是,利用大量的著作和演讲资料,通过模拟他们在人工智能中的思维来“复活”美国开国元勋亚当斯、汉密尔顿、杰伊、杰斐逊、麦迪逊和华盛顿。
 
一些人提出将区块链作为验证内容的解决方案,但这可能让人难以接受。正如这些早期的产品、技术和试验所证明的那样,检测伪造事物的未来技术显然是人工智能。
 
人工智能应用在伪造与反伪造之间的竞争
 
有人估计,四分之一的新社交媒体账户将是伪造或欺诈的账户。假账户听起来无害,但它们往往与假新闻、垃圾邮件和网络犯罪密切相关。据报道,目前用于检测假账户的系统功能并不强大。北约的一项调查发现,他们创建的假冒个人资料中有95%在发布调查报告几周后仍然在使用。
 
这是一个惊人的事实,因为Twitter、Facebook和其他社交网站为此已经投资数十亿美元,并且多年来一直致力于开发检测假账户的系统。每次他们在检测方面取得新进展时,伪造者都会丢弃数百万个伪造帐户,这意味着伪造者将始终领先于检测。
 
在某种程度上,伪造者与检测者之间在进行猫捉老鼠的游戏。伪造者创建伪造品,而检测器对其进行检测,从而向伪造者提供有关检测到的信息。然后,伪造者调整他们的方法,并创建更好的伪造品。这种竞争很可能会无限期地继续下去。人类的感知能力将被完全抛在后面,而这种竞争将完全存在于人工智能系统之间。
 
真相就在那里,但是现在需要人工智能的帮助才能获得真相。
 
版权声明:本文为企业网D1Net编译,转载需注明出处为:企业网D1Net,如果不注明出处,企业网D1Net将保留追究其法律责任的权利。

关键字:人工智能

原创文章 企业网D1Net

x 人工智能技术如何将人们从深度伪造的世界中拯救出来 扫一扫
分享本文到朋友圈
当前位置:人工智能行业动态 → 正文

人工智能技术如何将人们从深度伪造的世界中拯救出来

责任编辑:cres 作者:Mike Elgan |来源:企业网D1Net  2020-02-27 09:59:53 原创文章 企业网D1Net

如今,采用深度伪造(Deepfake)生成的视频和音频,人工智能生成的文本、诗歌和歌词,假网站和假新闻进入人们的世界。人们的生活还会真实吗?
 
行业专家Mike Elgan对于人工智能在伪造方面起到的作用进行了阐述。他举例说,“在我小时候,我和弟弟用纸碟、锡纸和大理石制成一个UFO(不明飞行物)。然后,我们将UFO悬挂在鱼线上,并登上楼顶采用家里摄像机拍摄UFO飞来的样子,并获得证明外星人的存在的确凿证据,这种游戏就是一种深度伪造。”
 
伪造和假冒事物一直存在。但是,当这一切都变得数字化时,其创建和分发都变得更加容易、更快以及更加广泛。人工智能(AI)会将其提升到一个全新的水平,使任何人都能创建完美的多媒体(如视频和音频)伪造品。
 
伪造者创建伪造品,然而采用检测器进行检测,从而向伪造者提供有关检测到的信息。伪造者然后调整他们的方法,并创造更好的伪造品。但是在充满伪造的世界中,人们将如何应对?
 
假新闻(或有关伪造的新闻)
 
很多人担心深度伪造(Deepfake)视频会被用于政治。例如近日发生的这样事情,印度人民党主席Manoj Tiwari以不同的语言对其支持者的讲话就是一个Deepfake视频,好在没有用来伪造对手的评论。不过,Deepfake现在已经用于政治领域,这是一个里程碑。
 
另一个采用人工智能伪造的例子是说唱歌手和词曲作者Travis Scott创作的一首新歌,这首歌名为Jack Park Canny Dope Man,采用人工智能生成的音乐和歌词,由Scott本人在一段音乐视频中演唱。
 
OpenAI GPT-2是一种语言创建人工智能技术,几乎可以使用任何样式编写文章。它可以模仿《纽约客》杂志的写作风格,甚至可以写诗。OpenAI是一家由特斯拉首席执行官埃隆•马斯克等创立的非盈利研究机构。
 
很多人担心人工智能创造的伪造品用于犯罪,但这已经发生了。
 
安全厂商赛门铁克公司已经通过模仿首席执行官的声音,验证了三个针对企业员工的Deepfake音频的案例。Deepfake技术可以从YouTube演讲和企业财务收益电话中获取首席执行官声音样本,诈骗者在电话中模拟其声音,欺骗员工给他紧急汇款。
 
人工智能将如何制造完美的Deepfake视频
 
目前有两种创建Deepfake视频的通用方法。第一个是换脸技术,它使用编码器和解码器来逐帧匹配和替换视频中的人脸。
 
第二种方法称为生成对抗网络或GAN。这种方法可用于创建各种令人信服却是伪造的数据,它使用两种人工智能算法。一个算法用来创建虚假数据;另一个算法进行判断,为创建者算法提供反馈。并大规模重复这种做法,两种算法都提高了它们的能力。最终,创建者算法变得如此出色,它可以产生视频、音频、文本、指纹等假数据。
 
伪造视频的制作变得越来越复杂。总部位于香港的一家名为SenseTime的初创公司与南洋理工大学和中国科学院自动化研究所合作,开发了一个名为SenseTIme的框架,该框架可以根据语音自动编辑视频。
 
韩国Hyperconnect公司构建了一个名为MarioNETte的工具,该工具可以实时将某人的脸部动作映射到其他任何人(例如政客或名人)的脸部。
 
与此同时,Deepfake技术变得越来越强大,并且也变得更加民主化,现在出现在消费者应用程序中。任何人都可以创建令人信服的Deepfake视频和音频,而这只是时间问题。
 
这就是为什么必须弄清楚如何检测伪造文件的原因。
 
伪造技术即将上线
 
科技孵化器Jigsaw公司最初是谷歌公司的一个部门,后来转到Alphabet公司的旗下,如今重新回到谷歌公司。Jigsaw公司创建了一个名为Assembler的平台,帮助核查人员核实图像。该工具结合了美国7所大学开发的不同技术和算法,加上Jigsaw公司自己创建的一个算法,通过发现由伪造照片的已知方法生成的证据来处理图像。
 
谷歌公司还利用人工智能技术和人类智慧相合,在Google Maps上查找并删除虚假、不道德或恶意的评论。该公司本月宣称,他们已经删除了超过7500万条违反政策的评论和400万份虚假的业务资料。人工智能会首先审核所有评论和业务概况,并自动删除明确的违规者。然后将难以处理的问题交给工作人员处理。
 
华盛顿大学和艾伦人工智能研究所的研究人员开发了一种名为Grover的算法,该算法可以识别出深度伪造的签名,其准确率高达92%。
 
Facebook公司最近让独立研究人员通过一个名为Social Science One的程序访问有关用户活动的某些信息。
 
哈佛大学和麻省理工学院的IBM Watson人工智能实验室的科学家发布了一个“巨型语言模型测试室”的软件,它是基于网络空间,用于确定给定的文本是否由人工智能编写。
 
由滑铁卢大学的研究人员创建的一家加拿大初创厂商DarwinAI公司开发了他们称之为DarwinAI的技术,该技术使用深度学习来检测虚假新闻。他们的技术将标题与文章内容进行比较。在以后的迭代中,DarwinAI会将文章的文字与其他文章进行比较。
 
采用假新闻推动政治进程的最疯狂的想法之一是,利用大量的著作和演讲资料,通过模拟他们在人工智能中的思维来“复活”美国开国元勋亚当斯、汉密尔顿、杰伊、杰斐逊、麦迪逊和华盛顿。
 
一些人提出将区块链作为验证内容的解决方案,但这可能让人难以接受。正如这些早期的产品、技术和试验所证明的那样,检测伪造事物的未来技术显然是人工智能。
 
人工智能应用在伪造与反伪造之间的竞争
 
有人估计,四分之一的新社交媒体账户将是伪造或欺诈的账户。假账户听起来无害,但它们往往与假新闻、垃圾邮件和网络犯罪密切相关。据报道,目前用于检测假账户的系统功能并不强大。北约的一项调查发现,他们创建的假冒个人资料中有95%在发布调查报告几周后仍然在使用。
 
这是一个惊人的事实,因为Twitter、Facebook和其他社交网站为此已经投资数十亿美元,并且多年来一直致力于开发检测假账户的系统。每次他们在检测方面取得新进展时,伪造者都会丢弃数百万个伪造帐户,这意味着伪造者将始终领先于检测。
 
在某种程度上,伪造者与检测者之间在进行猫捉老鼠的游戏。伪造者创建伪造品,而检测器对其进行检测,从而向伪造者提供有关检测到的信息。然后,伪造者调整他们的方法,并创建更好的伪造品。这种竞争很可能会无限期地继续下去。人类的感知能力将被完全抛在后面,而这种竞争将完全存在于人工智能系统之间。
 
真相就在那里,但是现在需要人工智能的帮助才能获得真相。
 
版权声明:本文为企业网D1Net编译,转载需注明出处为:企业网D1Net,如果不注明出处,企业网D1Net将保留追究其法律责任的权利。

关键字:人工智能

原创文章 企业网D1Net

电子周刊
回到顶部

关于我们联系我们版权声明隐私条款广告服务友情链接投稿中心招贤纳士

企业网版权所有 ©2010-2024 京ICP备09108050号-6 京公网安备 11010502049343号

^