Deepfakes现在指代利用机器学习技术制作的换脸视频。让其名噪一时的神奇女侠扮演者盖尔· 加朵的脸被移植到色情片的事件。Reddit 上一位名为deepfakes 的网友利用开源的TensorFlow 机器学习工具伪造出了很多女性的色情电影,其中包括盖尔· 加朵。此后该开发工具包泄露到网上,被有心者利用制作报复性色情视频。这些民间制作者的技术水平有限,用于机器学习输入的素材量并不大,导致有些画面人脸拼接并不自然,但是经过剪辑,视频内容仍能以假乱真。
更为严重的是,不法分子可以利用该工具制作假新闻。外媒举例说,如果人们打开电视观看到的是美国总统宣示核战争全面开打,将造成不可想象的恐慌。开发人员制作的一个演示视频中就利用美国前总统奥巴马的形象生动讲解了这项技术的危害性。