深度伪造技术（Deepfake），是指“生成式对抗网络”（GAN）的机器学习模型将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习，将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术。深度伪造最常见方式是AI换脸技术，此外还包括语音模拟、人脸合成、视频生成等。它的出现使得篡改或生成高度逼真且难以甄别的音视频内容成为可能，观察者最终无法通过肉眼明辨真伪。 深度伪造这一概念最早出现在2016年，一开始专指基于深度学习的人像合成技术，后来这一概念扩展到视频伪造、声音伪造、文本伪造和微表情合成等多模态合成技术 。2021年3月18日，国家互联网信息办公室、公安部针对未履行安全评估程序的语音社交软件和涉“深度伪造”技术的应用，指导部分地方网信部门、公安机关依法约谈11家企业。 2024年春节期间，OpenAI发布的文生视频模型Sora横空出世，被认为是“AGI（人工通用智能）的里程碑”，将颠覆视频内容生成方式。有专家称，这类技术可能会导致“深度伪造”视频增多。 [16]2024年3月15日，媒体报道多起利用AI配音、AI换脸骗局。业内表示AI还没有像科幻小说描绘得那样拥有自我意识，犯罪的渊薮依旧指向了操刀的人。 “深度伪造”（Deepfake）是英文“deep learning”（深度学习）和“fake”（伪造）的混合词，即利用深度学习算法，实现音视频的模拟和伪造，也就是通过人工智能技术中的深度学习模型将图片或者视频叠加到原始图片或视频上，借助神经网络技术，对大量数据进行学习后，将人的声音、面部表情及身体动作拼接合成为非常逼真的虚假内容 。其是随着生成对抗网络（GAN）等深度学习技术的发展而出现的。最常见的方式是AI换脸（例如deepfake、face2face等技术），此外还包括语音模拟、人脸合成、视频生成等，统称为深度伪造。 2024年，春节期间，OpenAI发布的文生视频模型Sora横空出世，被认为是“AGI（人工通用智能）的重要里程碑”，将颠覆视频内容生成方式。Sora的出现，振奋科技圈的同时也衍生出了担忧的情绪。有专家称，这类技术可能会导致“深度伪造”视频增多，让人难以识别真伪。OpenAI自己也承认，无法预测人们使用Sora的所有有益方式，也无法预测人们滥用它的所有方式。 3月15日，媒体报道多起利用AI配音、AI换脸骗局。业内表示AI还没有像科幻小说描绘得那样拥有自我意识，犯罪的渊薮依旧指向了操刀的人。