Дипфейк

Это рабочее определение для редакционной практики. Оно опирается на обзор Mirsky и Lee, связывающий дипфейки с правдоподобными материалами, созданными глубокими нейросетями. Нейросеть — обученная на данных вычислительная модель для обработки или создания содержания. ^[6]

Знакомое лицо и узнаваемый голос ещё не отвечают на вопрос, действительно ли человек произнёс показанные слова. В реалистичном ролике можно изменить лицо, движения рта или звуковую дорожку. Поэтому при проверке важно понять и устройство материала, и то, какое событие ему приписывает публикация.

Кратко

Не любой монтаж и не любая картинка, созданная искусственным интеллектом, являются дипфейком в принятом здесь смысле.
Настоящее видео с ложной подписью может вводить в заблуждение без нейросетевой подмены.
Проверка происхождения файла и проверка события отвечают на разные вопросы.
Результат детектора нужно читать вместе с условиями его проверки и возможными ошибками.
Пометка об искусственном интеллекте не заменяет решения о правомерности использования чужого изображения.

Происхождение и история термина

Английское название deepfake соединяет deep learning («глубокое обучение») и fake («подделка»). Нейросеть последовательно обрабатывает данные в нескольких слоях; её параметры настраиваются при обучении. Состав названия и устройство нейросети объясняют Mirsky и Lee. ^[6]

Ранний публичный контекст названия связан с пользователем Reddit под псевдонимом deepfakes. Британский Центр этики данных и инноваций (Centre for Data Ethics and Innovation, CDEI) в докладе 2019 года связывает известность термина с его публикациями в 2017 году: в порнографических видео лица участников заменялись лицами других людей, обычно знаменитостей. ^[7] Mirsky и Lee относят эти публикации к концу 2017 года. ^[6] Так у названия есть конкретный ранний контекст — нейросетевая подмена лиц и имя аккаунта, вокруг которого она стала известна.

Методы изменения лица исследовались ещё до этого эпизода. Например, в работе Face2Face, представленной на конференции по компьютерному зрению и распознаванию образов (CVPR) 2016 года, Thies и соавторы описали перенос мимики актёра, снимаемого веб-камерой, на лицо человека в готовом видео. Это исследование управления выражением лица, а не свидетельство появления слова deepfake. ^[8]

Уже в докладе CDEI 2019 года понятие охватывает не только замену лица: в нём также рассматриваются управление мимикой, создание новых лиц и синтез речи. ^[7] Следовательно, при чтении слова важно уточнять, какой именно материал обсуждается: ранний контекст названия охватывает меньше задач, чем последующее употребление термина.

Документированный этап исследований обнаружения — работа FaceForensics++ 2019 года. Авторы предложили испытательный набор, включавший DeepFakes, Face2Face, FaceSwap и NeuralTextures. Здесь это названия четырёх методов изменения лица, а не четыре обязательных вида любого современного дипфейка. Обнаружение исследовалось при заданных условиях, в том числе разных уровнях сжатия и размерах изображений. ^[4]

В ноябре 2024 года Национальный институт стандартов и технологий США (NIST) выпустил доклад о происхождении, маркировке и обнаружении синтетического содержания. ^[1]

Суть и механизм

Подмена лица не обязательно означает, что весь кадр создан заново. В обзоре Mirsky и Lee описана схема, при которой лицо находят в исходном кадре, описывают его числовыми признаками — например, положением характерных точек лица, — создают изменённое лицо и совмещают результат с кадром. При замене переносится узнаваемая внешность другого человека; при управлении мимикой может сохраняться личность изображённого, но меняться выражение лица или движение рта. ^[6]

В докладе NIST различаются озвучивание текста заданным голосом и преобразование исходной речи под другого говорящего. ^[1]

Для проверки это ставит отдельный вопрос: что подтверждает участие человека, кроме знакомого тембра?

Представим учебный пример. Актёр произносит фразу о закрытии музея. В готовом ролике его лицо заменено лицом директора, а голос преобразован так, чтобы напоминать голос этого директора. Запись актёрского выступления существовала, но директор в нём не участвовал. Наличие реального фона и естественных движений тела не превращает сцену в документальное свидетельство слов директора.

Другой вымышленный вариант обходится без изменения лица: к подлинному видео директора добавлена синтетическая речь, а движения рта изменены под новый текст. Проверять только отдельный кадр было бы недостаточно для поставленного вопроса. Нужно выяснить, что известно о звуке, изображении и их соединении в одном ролике.

Виды и границы понятия

Ниже — редакционное деление по предмету проверки. Оно помогает организовать разбор и не выдаётся за единую классификацию технологий.

Что могло измениться	Вопрос проверки
Лицо или узнаваемая внешность	Тот ли человек действительно находился перед камерой?
Мимика и движения рта	Соответствуют ли показанные движения исходному выступлению?
Голос и слова	Произносил ли человек эту фразу, есть ли самостоятельная запись?
Вся сцена	Происходило ли изображённое событие в заявленном месте и времени?
Соединение частей	Относятся ли звук, кадры и подпись к одному эпизоду?

Синтетическое содержание у NIST — существенно изменённые или созданные алгоритмами изображения, видео, аудио и текст. ^[1]

Принятое в этой статье рабочее определение имеет более узкий смысл: это реалистичная имитация в изображении или звуке; условная анимация не включается в него лишь потому, что её сделал искусственный интеллект.

Важно также отличать технологию от способа использования. В учебном примере автор может прямо обозначить ролик как художественную реконструкцию. Другой человек способен убрать пояснение и представить ту же сцену как новость. Техническое происхождение файла от этого не изменится, зато утверждение перед аудиторией станет другим. Вывод о сознательном обмане требует собственных оснований и не следует только из слова «дипфейк».

Как применяется на практике

Официальная справка YouTube требует раскрывать использование реалистичного созданного или изменённого искусственным интеллектом содержания. Среди примеров — приписанные реальному человеку действия или слова и реалистичная сцена, которой не было. Нереалистичные материалы и незначительные эстетические изменения рассматриваются отдельно. ^[3] Это правило конкретной платформы, а не общее определение правонарушения.

Теперь разберём учебную ситуацию российской городской редакции. В чате появился короткий ролик с директором музея и подписью «Музей закрывают навсегда». Случай полностью вымышлен: название учреждения и конкретный человек не подразумеваются. Задача редактора — проверить сообщение, не выбирая заранее между версиями «настоящая запись» и «дипфейк».

Сначала редактор сохраняет адрес публикации, подпись и доступный файл. Затем отделяет утверждения: директор произнёс эти слова; речь относится к этому музею; заявление сделано сейчас; закрытие окончательное. Даже подлинная запись могла бы не подтверждать все четыре тезиса. Например, слово «закрываемся» в полной фразе могло относиться к завершению рабочего дня.

После этого ищут полный вариант выступления и независимо проверяют заявленное событие. Предположим, музей предоставил полную запись: директор обсуждает ремонт одного зала, а не прекращение работы. Если редакция проверила происхождение этой записи и сопоставила конкретный фрагмент, появляется основание точно описать расхождение. Одно лишь отрицание со стороны музея следовало бы сообщить как его позицию, не выдавая за законченное техническое исследование.

Техническую проверку ведут параллельно. Можно исследовать признаки изменения лица, сравнить звук и выяснить, доступны ли сведения о происхождении файла. Однако фраза «инструмент отметил подозрительный участок» имеет более узкий смысл, чем утверждение «директор никогда такого не говорил». Редакционная запись должна сохранять вопрос, на который действительно отвечала каждая проверка.

Предположим далее, что автор предоставил исходный проект с синтетической дорожкой и объяснил, как собрал ролик. Сначала нужно убедиться, что проект относится именно к опубликованному файлу, а сообщение действительно принадлежит автору. Лишь после этого он становится дополнительным основанием для вывода о подмене. Это пример проверки происхождения свидетельства, а не универсальный список достаточных доказательств.

Итог можно изложить по частям: «В полной записи речь идёт о ремонте зала; распространённая версия содержит другую звуковую дорожку». Если связь исходного проекта с роликом не установлена, этот пробел нужно назвать. Вывод о закрытии музея и вывод о генерации звука не обязаны иметь одинаковую степень определённости.

Происхождение, маркировка и детектор

Content Credentials — сведения о происхождении файла: например, о его создании, применённых изменениях и устройстве съёмки. Правила их записи и проверки задаёт объединение по происхождению и подлинности цифрового содержания (Coalition for Content Provenance and Authenticity, C2PA). Здесь используется спецификация 2.5, опубликованная в октябре 2026 года. ^[2]

Представим сведения о файле как отдельную запись: кто её подписал, какие изменения описаны и к какой версии материала она относится. Цифровая подпись позволяет обнаружить изменение подписанной записи. Связь с файлом проверяют отдельно: программа вычисляет по охваченным данным контрольные значения и сопоставляет их с записанными. Целостность здесь означает, что защищённая запись и проверяемые части файла сохранились без изменения после фиксации. Доверие к подписавшей стороне — ещё один вопрос, для которого спецификация задаёт отдельные правила. ^[2]

Вернёмся к учебному примеру с музеем. Автор подписал сведения о художественной сцене. Успешная техническая проверка показывает, что запись связана с этой версией ролика и не обнаружено предусмотренных проверкой изменений. Она не делает директора участником съёмки и не подтверждает закрытие музея. Нужно прочитать сами сведения: они могут честно сообщать о генерации. В спецификации проверка происхождения не является решением об истинности изображённого. ^[2]

Водяной знак — добавленная в материал видимая или машинно считываемая отметка. NIST отмечает возможность ложных срабатываний и пропусков при обнаружении скрытых знаков. ^[1]

В нашем учебном случае отсутствие найденной отметки поэтому оставило бы вопрос о подлинности открытым.

Детектор ищет признаки синтетического материала. По докладу NIST его результат зависит от способа генерации, испытательного набора и последующей обработки, включая сжатие и изменение размера. ^[1]

Для редакционной схемы отсюда следует узкий предел: проверку одного варианта ролика нельзя без обоснования считать проверкой всех его версий.

Как измерить или проверить

Для редакционного разбора полезна карточка с раздельными полями: проверяемое утверждение, происхождение файла, доступные версии, технический результат, подтверждение события и оставшиеся неизвестными обстоятельства. Это форма, предлагаемая редакцией, а не сертификационная методика NIST или C2PA.

Свойства детектора можно оценить на наборе с заранее известным статусом материалов. Учебный расчёт: в наборе двадцать изменённых файлов и двадцать подлинных. Инструмент отметил восемнадцать изменённых, пропустил два и ошибочно отметил два подлинных. Все числа вымышлены; реальный сервис не испытывался.

Чувствительность — доля обнаруженных подмен среди всех подмен в наборе. ^[1] В нашем примере:

18 / 20 × 100% = 90%.

Доля ложных срабатываний — доля подлинных файлов, ошибочно названных изменёнными. ^[1] В нашем примере:

2 / 20 × 100% = 10%.

Знаменатели здесь относятся к разным группам, хотя обе содержат по двадцать файлов. Эти 90% не являются вероятностью подделки любого следующего ролика. Чтобы показать разницу арифметически, рассмотрим ещё одно учебное допущение: те же доли сохраняются в сотне файлов, где только десять подмен и девяносто подлинных. Тогда инструмент отметит девять подмен и девять подлинных файлов. Среди восемнадцати отмеченных подменами окажется половина. Это иллюстрация зависимости результата от состава набора, а не прогноз работы детектора.

В учебном наборе можно дополнительно проверить баланс: из двадцати подмен восемнадцать обнаружены, две пропущены; из двадцати подлинных две ошибочно отмечены, восемнадцать не отмечены. Получаются все сорок файлов, без исчезнувших наблюдений. Если в наборе вообще нет подлинных файлов, доля ложных срабатываний по нему не определена: её знаменатель равен нулю. Это не нулевая частота ошибок.

В описании испытания поэтому нужны состав и происхождение файлов, версия инструмента и правило, по которому сигнал считается срабатыванием. NIST называет такое правило порогом: числовой результат сравнивают с выбранной границей, чтобы отнести материал к одной из двух групп. ^[1] Если сервис выдаёт только число без объяснения шкалы, редактору нельзя произвольно приписать ему смысл вероятности. Важно также сохранить вариант файла, который исследовался: вывод о нём не следует незаметно переносить на другую копию.

Ошибки, ограничения и спорные вопросы

Первая ошибка — считать отсутствие подтверждения доказательством генерации. В учебной ситуации редакция могла не найти полную запись из-за ограниченного доступа. Это объясняло бы статус «подлинность не установлена», но не давало бы основания написать «ролик создан нейросетью». Между этими выводами требуется дополнительное свидетельство.

Вторая ошибка — начинать с единственного визуального дефекта. Размытый край лица в короткой копии можно описать как наблюдаемую деталь и исследовать дальше. Называть её достаточным доказательством означало бы пропустить проверку других объяснений. В предлагаемой карточке отдельно записываются наблюдение, результат инструмента и редакционный вывод.

Третья ошибка — терять контекст при опровержении. Если сюжет показывает только самую убедительную часть вымышленного ролика, пояснение о подмене может оказаться недостаточным для понимания. В учебном редакционном решении рядом с фрагментом следует показать установленное расхождение: какие слова заменены и что есть в проверенной полной записи. Это приём объяснения, а не обещание определённого поведения всей аудитории.

Наконец, прозрачность технического происхождения и правомерность использования образа — самостоятельные вопросы. Зритель может знать, что перед ним синтетическая сцена, но это ещё не объясняет, на каком основании использовано изображение конкретного человека. И наоборот, обсуждение прав на образ не заменяет проверки новости, которой сопровождается файл.

Правовой аспект

В России пункт 1 статьи 152.1 ГК РФ устанавливает общий режим согласия на обнародование и дальнейшее использование изображения гражданина. Он также предусматривает исключения: государственные, общественные или иные публичные интересы; съёмку в доступном месте или на публичном мероприятии, если изображение человека не является основным объектом использования; позирование за плату. После смерти гражданина требуется согласие детей и пережившего супруга, а при их отсутствии — родителей. Проверена редакция части первой ГК РФ от 10 июня 2026 года с изменениями от 22 октября 2026 года. ^[5]

Пункт 3 той же статьи позволяет требовать удаления из Интернета изображения, полученного или используемого с нарушением пункта 1, а также пресечения или запрещения дальнейшего распространения. ^[5] Этот пункт введён законом №142-ФЗ от 2 июля 2013 года и действует с 1 октября 2013 года. ^[5] Наличие похожего лица не даёт готового ответа о применении этих положений к конкретной синтетической сцене: нужны обстоятельства создания и использования, предмет изображения и юридическая оценка.

Эта справка не переносит автоматически норму об изображении на любую имитацию голоса и не квалифицирует конкретное нарушение. Платформенная отметка об искусственном интеллекте также не заменяет анализ оснований использования изображения. До публикационного решения статья должна пройти отдельную проверку юриста.

Частые вопросы

Любой созданный искусственным интеллектом ролик — дипфейк?

В рабочем определении статьи существенна правдоподобная имитация человека или события. Условная анимация и реалистичная подмена свидетельства требуют разного описания; общий признак использования нейросети их не уравнивает.

Отсутствие Content Credentials доказывает подделку?

Нет. Спецификация описывает проверяемую историю материала, а не обязательное наличие такой записи у каждого подлинного файла. ^[2] В учебной проверке отсутствие сведений фиксируют как ограничение.

Что делать с высоким баллом детектора?

Сначала установить, что означает шкала и на каких материалах инструмент проверялся. В редакционной схеме сигнал сохраняют вместе с условиями, а вывод о конкретном событии обосновывают отдельно.

Пометка об искусственном интеллекте разрешает использовать чужое лицо?

Нет автоматического вывода. Правило раскрытия на платформе и основания использования изображения относятся к разным вопросам; для российского случая требуется оценка применимых норм и обстоятельств. ^{[3, 5]}

Связанные термины

Источники

Chandra, B., Dunietz, J., Roberts, K., Lee, Y., Fontana, P., & Awad, G. (2024, November 20). Reducing risks posed by synthetic content: An overview of technical approaches to digital content transparency (NIST AI 100-4). Использованы Summary, начало § 3.1.1, §§ 3.2.2.1–3.2.2.3 и Appendix E.1. https://tsapps.nist.gov/publication/get_pdf.cfm?pub_id=959123 (дата обращения: 02.11.2026). ↑ а б в г д е ж з
Coalition for Content Provenance and Authenticity. (2026, October). Content credentials: C2PA technical specification (Version 2.5). Использованы §§ 1.1–1.3, 12.2.1–12.2.2.1, 13.1–13.3.5; дата версии — Appendix F.1. https://spec.c2pa.org/specifications/specifications/2.5/specs/C2PA_Specification.html (дата обращения: 02.11.2026). ↑ а б в г
Google. (n.d.). Disclosing use of GenAI content. YouTube Help. Использованы определение области раскрытия и примеры реалистичных и незначительных изменений. https://support.google.com/youtube/answer/14328491?hl=en (дата обращения: 02.11.2026). ↑ а б
Rössler, A., Cozzolino, D., Verdoliva, L., Riess, C., Thies, J., & Nießner, M. (2019). FaceForensics++: Learning to detect manipulated facial images (arXiv:1901.08971v3). Использованы аннотация и введение тела v3; дата версии сверена с записью arXiv. https://arxiv.org/html/1901.08971v3 (дата обращения: 02.11.2026). ↑
Российская Федерация. Гражданский кодекс Российской Федерации (часть первая) от 30.11.1994 № 51-ФЗ (ред. от 10.06.2026, с изм. от 22.10.2026). Статья 152.1, пункты 1, 3 // КонсультантПлюс. URL: https://www.consultant.ru/document/cons_doc_LAW_5142/14c6c3902cffa17ab26d330b2fd4fae28e5cd059/ (дата обращения: 02.11.2026). Введение пункта 3: Федеральный закон от 02.07.2013 №142-ФЗ, ст.1, п.13; ст.3, п.1–2. URL: https://www.consultant.ru/document/cons_doc_LAW_148454/3d0cac60971a511280cbba229d9b6329c07731f7/ ; https://www.consultant.ru/document/cons_doc_LAW_148454/30b3f8c55f65557c253227a65b908cc075ce114a/ (дата обращения: 02.11.2026). ↑ а б в г
Mirsky, Y., & Lee, W. (2020). The creation and detection of deepfakes: A survey (arXiv:2004.11138v3). Использованы введение, фрагменты §§ 2.1–2.2, начало §3.1, §3.4 и начало §3.5 открытой авторской версии от 13 сентября 2020 года. https://arxiv.org/html/2004.11138v3 (дата обращения: 02.11.2026). ↑ а б в г
Centre for Data Ethics and Innovation. (2019, September 12). Snapshot paper — Deepfakes and audiovisual disinformation. Summary и §3; исторический контекст 2017 года и охват понятия в 2019 году. https://www.gov.uk/government/publications/cdei-publishes-its-first-series-of-three-snapshot-papers-ethical-issues-in-ai/snapshot-paper-deepfakes-and-audiovisual-disinformation (дата обращения: 02.11.2026). ↑ а б
Thies, J., Zollhöfer, M., Stamminger, M., Theobalt, C., & Nießner, M. (2016). Face2Face: Real-time face capture and reenactment of RGB videos. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR). Авторский PDF: https://vcai.mpi-inf.mpg.de/projects/MZ/Papers/CVPR2016_FF/paper.pdf ; сведения о конференции: https://vcai.mpi-inf.mpg.de/projects/MZ/Papers/CVPR2016_FF/page.html (дата обращения: 02.11.2026). Использованы аннотация и введение, страницы PDF 1–2. ↑