Немецкая нейросеть RealorRender ловит дипфейки, создавая их заново

Немецкий Институт оптроники, системных технологий и обработки изображений Фраунгофера (Fraunhofer IOSB) представил систему RealorRender для обнаружения дипфейков. Её подход необычен: сначала нейросеть пытается заново сгенерировать проверяемое изображение с помощью ИИ, а затем оценивает, насколько успешно это удалось. Если модель способна точно воспроизвести исходную картинку, это становится признаком того, что она сама была создана другой генеративной системой. Точность RealorRender достигает 91%, что делает её одной из самых эффективных систем обнаружения.

Система сочетает два метода анализа. Первый основан на классификации изображения с помощью глубокого обучения. Второй — на оценке ошибки реконструкции, то есть различий между исходным изображением и его версией, созданной генеративной моделью. На основе этих данных рассчитывается вероятность того, что изображение является дипфейком. Базовая точность начинается с 85%, а в отдельных случаях превышает 91%. Это важно, потому что даже небольшой процент ошибок может иметь серьёзные последствия в судебных или журналистских расследованиях.

Важной особенностью разработки является объяснение своих решений. Для этого применяется алгоритм на базе «объяснимого искусственного интеллекта» (XAI). Он показывает, какие области изображения повлияли на итоговый вывод. RealorRender выделяет подозрительные участки в виде тепловых карт и сегментов, позволяя увидеть характерные артефакты и текстуры, присущие генеративным моделям. Это помогает не только детектировать дипфейки, но и понять, как именно они были созданы.

Разработка появилась на фоне стремительного роста числа дипфейков. По данным британского правительства, в 2023 году на одном из специализированных сайтов было выявлено более 276 тыс. откровенных дипфейков, причём 96% из них были посвящены женщинам. Сайты, предлагающие сервисы «раздевания» с помощью ИИ, в сентябре 2023 года привлекли 24 млн посещений. На этом фоне власти Великобритании объявили о планах по борьбе с дипфейками, но технических инструментов для массового обнаружения пока недостаточно.

RealorRender — это важный инструмент в борьбе за достоверность в цифровом мире. В отличие от многих других систем, он не просто выдаёт результат, но и объясняет его, что критически важно для судебных и правоохранительных органов. Однако точность 91% означает, что 9% дипфейков останутся незамеченными. Поэтому система требует дальнейшего совершенствования. Тем не менее, сам подход — «создай заново, чтобы понять» — обещает быть эффективным в долгосрочной перспективе, особенно по мере улучшения генеративных моделей.

Читайте также: