Найдет все: создан инструмент, который определяет deepfakе почти в 100% случаев

Есть вероятность, что инструмент внедрят на Facebook, где он будет помечать материалы как "некачественные".

В сентябре 2019 года Facebook запустила Deepfake Detection Challenge (DFDC) — конкурс на разработку автономных алгоритмических систем для обнаружения deepfakе-видео. Теперь платформа рассказала о самых удачных наработках — к примеру, модель победителя конкурса смогла определить поддельные материалы в рекордных 82% случаев.

Facebook потратила на конкурс около 10 млн долларов и наняла более 3,5 тыс. актеров для создания тысяч видеороликов. Исследователи специально делали видео плохого качества, но с лицами известных людей. Другая часть выборки полностью состояла из deepfake-видео, которые они взяли из YouTube и других платформ.

Затем компания передала эти наборы данных исследователям. Часть из них не была deepfake-видео — они лишь скорректировали частоту кадров и качество, добавили накладки на изображения. Набор также включал в себя «неглубокие поддельные видео», которые алгоритм мог упустить.

В социальной сети добавили, что в конкурсе приняли участие 2 тыс. участников, которые представили 35 тыс. моделей. Самые неудачные из них имели точность лишь 50% (инженеры Facebook объяснили, что «это чуть лучше, чем совсем бесполезно»). Остальные модели же достигали точности в 80%, причем их обучали лишь несколько месяцев.

"Честно говоря, я был очень разочарован тем, сколько времени и энергии умные исследователи вкладывают в создание подделок. Они могут нанести вред без соразмерных инвестиций в методы обнаружения и борьбы с их плохим использованием, — заявил технический директор Facebook Майк Шроепфер. — Мы попытались сделать акцент на инструменты и технологии, которые помогут нам бороться с ними не только на нашей платформе".