Оригинал или фальшивка: нейронную сеть научили определять поддельные снимки

Система обращала внимание на пиксели вдоль границ объектов, которые часто выдают манипуляции.

Сеть концентрировалась на пикселях вдоль границ объектов — на поддельных снимках они более гладкие, чем на оригинальных кадрах. Эти различия не всегда может обнаружить человек, но компьютерное зрение делает это практически безошибочно.

Затем маркированный набор загрузили в глубокую нейронную сеть, которая представляет собой набор алгоритмов, смоделированных по образцу человеческого мозга и предназначенных для распознавания закономерностей в исходных данных. Используя изображения, эта сеть научилась определять основные границы цифровых изображений. Когда впоследствии ей показали фотографии, не вошедшие в набор данных, она смогла определить какие из них — фальшивые.

Пока система работает только с фотографиями, но в будущем сможет анализировать и видеокадры. При этом точность технологии никогда не будет 100-процентной. Скорее всего, она будет использоваться для того, чтобы отмечать подозрительные фотографии, которые потом будут анализировать люди.

"Если вы хотите проверить достоверность всего, что есть в интернете, особенно с появлением deepfake-видео, то вы не справитесь с этим. Автоматизированная система же, вероятно, справится с этим более надежно. Так что это должна быть совместная работа человека и машины", — отметили исследователи.