Эксперты бьют тревогу из-за новой "опасной" способности ИИ

Эксперты бьют тревогу из-за новой "опасной" способности ИИ
02:15 Пт, 8 Ноябрь 2019 Телеграф hightech.fm

Новости технологии:OpenAI опубликовала свою модель для генерации текста. Эксперты предупреждают, что она слишком реалистичная.

Исследовательская лаборатория OpenAI выпустила полную версию модели для генерации текста с помощью ИИ. Эксперты предупреждают, что система генерирует тексты очень реалистично, а мошенники могут использовать ее для публикации фейк-новостей.

Первоначально исследователи анонсировали систему GPT-2 в феврале 2019 года, но отказались публиковать полную версию программы. Они опасались, что ее будут использовать для распространения фальшивых новостей, спама и дезинформации.

Теперь в блоге компании OpenAI отмечается, что они не нашли "никаких убедительных доказательств неправомерного использования", поэтому выпустили модель полностью.

Без участия модераторов: ИИ самостоятельно удаляет оскорбительные твиты

GPT-2 является частью нового поколения систем генерации текста, которые произвели впечатление на экспертов своей способностью генерировать текст из минимальных подсказок. Эту систему подготовили на основе 8 млн текстовых документов. К примеру, используя несколько заголовков СМИ, она может написать целую новость или, используя строчку из стихотворения, создать целый стих.

Однако эксперты, с которыми поговорило издание The Verge, отмечают, что легкий доступ к новейшим исследованиям в области генерации текста может позволить злоумышленникам пользоваться ими. Они отмечают, что OpenAI должна была ограничить публикацию своей модели по этим причинам.

Прямо как в "Гарри Поттере": шахматная доска с ИИ сама передвигает фигуры

Ранее журналисты "Би-би-си", которые проверили работоспособность модели, отметили, что теперь она может генерировать истории так же хорошо, как и живые авторы. Ранее генератор текста от исследовательской фирмы OpenAI отказались публиковать в свободный доступ, так как считают его "слишком опасным" из-за потенциальных злоупотреблений.

Добавить комментарий
Перед написанием комментария ознакомьтесь с правилами.
Вверх
×
Продолжая просматривать telegraf.com.ua, Вы подтверждаете, что ознакомились с Правилами пользования сайтом, и соглашаетесь c Политикой конфиденциальности
Закрыть Соглашаюсь