Система RealorRender от Института Фраунгофера определяет дипфейки с точностью 91%, пытаясь заново сгенерировать изображение. Технология объясняет каждое решение, показывая подозрительные области в виде тепловых карт.
Немецкая нейросеть RealorRender ловит дипфейки, создавая их заново
Немецкий Институт оптроники, системных технологий и обработки изображений Фраунгофера (Fraunhofer IOSB) представил систему RealorRender для обнаружения дипфейков. Её подход необычен: сначала нейросеть пытается заново сгенерировать проверяемое изображение с помощью ИИ, а затем оценивает, насколько успешно это удалось. Если модель способна точно воспроизвести исходную картинку, это становится признаком того, что она сама была создана другой генеративной системой. Точность RealorRender достигает 91%.
Как работает RealorRender
Система сочетает два метода анализа. Первый основан на классификации изображения с помощью глубокого обучения. Второй — на оценке ошибки реконструкции, то есть различий между исходным изображением и его версией, созданной генеративной моделью. На основе этих данных рассчитывается вероятность того, что изображение является дипфейком. Базовая точность начинается с 85%, а в отдельных случаях превышает 91%.
Важной особенностью разработки является объяснение своих решений. Для этого применяется алгоритм на базе «объяснимого искусственного интеллекта» (XAI). Он показывает, какие области изображения повлияли на итоговый вывод. RealorRender выделяет подозрительные участки в виде тепловых карт и сегментов, позволяя увидеть характерные артефакты и текстуры, присущие генеративным моделям.
Почему это важно
Разработка появилась на фоне стремительного роста числа дипфейков. По данным британского правительства, в 2023 году на одном из специализированных сайтов было выявлено более 276 тыс. откровенных дипфейков, причём 96% из них были посвящены женщинам. Сайты, предлагающие сервисы «раздевания» с помощью ИИ, в сентябре 2023 года привлекли 24 млн посещений. На этом фоне власти Великобритании объявили о планах усилить защиту детей от подобных материалов.
Дипфейки всё чаще используются для мошенничества, шантажа и сексуальной эксплуатации. Традиционные методы обнаружения часто не справляются с постоянно улучшающимися генеративными моделями. RealorRender предлагает принципиально новый подход, который сложнее обойти.
Преимущества подхода
Ключевое преимущество — возможность объяснить решение. В отличие от «чёрных ящиков», RealorRender показывает, какие именно фрагменты кадра выдали подделку. Это повышает доверие к системе и позволяет специалистам лучше понимать природу фальшивок. Кроме того, метод устойчив к новым типам дипфейков, поскольку он не полагается на заранее известные шаблоны.
- Точность обнаружения — до 91%;
- Объяснение каждого решения через тепловые карты;
- Подход основан на реконструкции, а не на статических признаках;
- Может использоваться для борьбы с мошенничеством и дезинформацией.
Авторы проекта рассчитывают, что RealorRender станет надёжным инструментом для борьбы с дипфейками. В будущем система может быть интегрирована в социальные сети, новостные платформы и системы верификации контента.
Об авторе
