Без участия модераторов: ИИ самостоятельно удаляет оскорбительные твиты

Соучредитель Twitter Джек Дорси заявил, что теперь половина всех оскорбительных твитов на платформе удаляется автоматически, с помощью ИИ, при этом пользователям даже не нужно жаловаться на публикации. Он связал это событие с успехами компании в области машинного обучения.

Дорси добавил, что из-за роста количества пользователей они не могли полагаться только на жалобы от пользователей и живых модераторов. Поэтому для автоматизации большей части процесса в компании прибегли к помощи ИИ.

"Мы продолжаем добиваться прогресса в области модерации, улучшая нашу способность активно выявлять и удалять оскорбительный контент, — отметил Дорси. — При этом более 50% твитов за последний год удалил именно ИИ. Ему не помогали сотрудники компании или наши модераторы".

По данным компании, показатель автоматически удаленных твитов за год вырос на 43%. По их мнению, это связано с «совершенствованием моделей машинного обучения» для выявления потенциальных нарушений правил платформы.

"Мы продолжим активную работу по снижению уровня оскорбительных публикаций в Twitter, пользователи будут всё меньше вынуждены вручную жаловаться на контент, который им кажется неуместным. Мы уверены, что в этом процессе ИИ будет участвовать всё более активно", — говорится в письме Дорси акционерам компании.