近期，韩国发生多起利用深度伪造技术（deepfake）制作并传播淫秽影像的案件，去年的时候俄罗斯进攻乌克兰后的第三周，乌克兰官网发布了一段乌克兰总统泽连斯基的视频。在视频中，泽连斯基穿着他标志性的绿色T恤，神情略显僵硬地呼吁乌克兰军队放下武器，向俄罗斯投降。这一视频迅速引发了公众的强烈反应，但很快人们发现，这其实是一个经过篡改的假视频。
事实上，这段视频是黑客利用深度伪造技术制造的虚假内容。深度伪造技术，也称为Deepfake，最早出现在一个名为“Reddit”的社交平台上。在这个平台的一个社区中，用户分享和传播了大量女明星的虚假色情视频。这个社区不仅仅是分享这些虚假视频，还提供了AI换脸软件，能够自动将视频中的人脸替换成另一个人。尽管Reddit后来关闭了这个社区，但这项技术已经广为人知，并逐渐被应用于政治人物和演员的视频中。
那么，什么是深度伪造技术呢？
Deepfake一词由“深度机器学习”（Deep Machine Learning）和“假照片”（Fake Photo）两个词组合而成。它通过人工智能技术中的深度学习模型，将图片或视频叠加到原始内容上。借助神经网络技术，经过对大量数据的学习，将人的声音、面部表情及身体动作合成为非常逼真的虚假内容。深度伪造技术最常见的应用是AI换脸，此外还包括语音模拟、人脸合成和视频生成等技术。
2018年，美国导演兼演员乔丹·皮尔（Jordan Peele）发布了一段视频，在这段视频中，奥巴马的形象和口吻被用来发表一句“特朗普是一个笨蛋”的言论。这类视频的制作需要大量的奥巴马视频或照片数据，这些数据被输入到神经网络的软件系统中，系统会在仿造的形象与奥巴马的真实形象之间建立统计关联。如果你想让仿造的奥巴马说出他从未说过的话，软件需要学习特定单词与奥巴马嘴型之间的关联。同样的，如果需要进行换脸操作，软件还需学习脸部与身体之间的关联。
深度伪造技术的基础是生成式对抗网络（Generative Adversarial Networks，简称GANS）。这种AI技术的核心思想是通过两个神经网络的相互对抗来进行学习和改进。其中一个神经网络称为生成器，用于生成与真实数据相似的虚假数据；另一个神经网络称为判别器，用于区分真实数据和虚假数据。
