Эксперты бьют тревогу из-за новой "опасной" способности ИИ

OpenAI опубликовала свою модель для генерации текста. Эксперты предупреждают, что она слишком реалистичная.

Исследовательская лаборатория OpenAI выпустила полную версию модели для генерации текста с помощью ИИ. Эксперты предупреждают, что система генерирует тексты очень реалистично, а мошенники могут использовать ее для публикации фейк-новостей.

Первоначально исследователи анонсировали систему GPT-2 в феврале 2019 года, но отказались публиковать полную версию программы. Они опасались, что ее будут использовать для распространения фальшивых новостей, спама и дезинформации.

Теперь в блоге компании OpenAI отмечается, что они не нашли "никаких убедительных доказательств неправомерного использования", поэтому выпустили модель полностью.

GPT-2 является частью нового поколения систем генерации текста, которые произвели впечатление на экспертов своей способностью генерировать текст из минимальных подсказок. Эту систему подготовили на основе 8 млн текстовых документов. К примеру, используя несколько заголовков СМИ, она может написать целую новость или, используя строчку из стихотворения, создать целый стих.

Однако эксперты, с которыми поговорило издание The Verge, отмечают, что легкий доступ к новейшим исследованиям в области генерации текста может позволить злоумышленникам пользоваться ими. Они отмечают, что OpenAI должна была ограничить публикацию своей модели по этим причинам.

Ранее журналисты "Би-би-си", которые проверили работоспособность модели, отметили, что теперь она может генерировать истории так же хорошо, как и живые авторы. Ранее генератор текста от исследовательской фирмы OpenAI отказались публиковать в свободный доступ, так как считают его "слишком опасным" из-за потенциальных злоупотреблений.