Замена модераторам: Facebook учит ИИ искать в соцсети фейки и оскорбления

Специально для удаления оскорблений и ложных новостей исследователи представили SimSearchNet. Это сверточная нейронная сеть, которая находит почти идентичные изображения или тексты, поэтому автоматизирует проверки, за которые обычно отвечают живые модераторы.

Например, как только сотрудник социальной сети заметит, что пост содержит ложные утверждения о коронавирусе, эта информация отправится SimSearchNet — ИИ будет искать дубликаты или схожие изображения. Этот метод увеличит охват модераторов, которые смогут одним решением удалять тысячу или даже миллионы публикаций.

Согласно записи в блоге Facebook, на предварительных тестах ИИ научился правильно обнаруживать 88,8% публикаций, которые "призывают к ненависти". Таким образом, модераторам социальной сети не пришлось вручную удалять около 9,6 млн постов.

Исследователи отмечают, что ИИ только начал учиться. Некоторые публикации могут содержать в себе отсылки и нюансы, которые способен определить только человек или нестандартно мыслящее устройство. Кроме того, сети придется учитывать то, кто пишет публикацию, кому она адресована и какое еще содержимое прикреплено к посту — например, изображение, аудио или видео.

Кроме этого, Facebook будет продолжать эксперименты по совершенствованию обработки естественного языка. ИИ сможет переводить текст примерно на 100 разговорных языков и определять, какие публикации, предположительно, нарушают правила площадки.