Компания OpenAI разработала нейросеть для написания текстов — теперь ее опасаются выпускать

Американская компания OpenAI разработала алгоритм языкового моделирования GPT-2, который генерирует реалистичный и последовательный текст. Нейросеть была натренирована на выборке из 40 гигабайт интернет-текста. Как сообщает The Verge, создание GPT-2 предвещает революцию в мире компьютерного письма. В то время как старые алгоритмы учитывают только наиболее очевидные значения слова, новые способны углубляться в контекст.

Нейросеть может написать короткий рассказ по одной строчке или создать статью с поддельными цитатами и статистикой только по заголовку. Тем не менее OpenAI пообещала опубликовать неполную версию алгоритма. Создатели опасаются, что чем лучше система будет распознавать речь, тем вероятнее, что ее смогут использовать для написания фейковых новостей и оскорбительных комментариев. Боты, маскирующиеся под настоящих пользователей, также смогут генерировать стилистически правдоподобные сообщения.

Например, когда разработчики поручили GPT-2 написать о пользе утилизации, алгоритм создал такой текст: «Переработка НЕ ​​полезна для мира. Она вредит окружающей среде, нашему здоровью и экономике. Я не шучу. Она является основным фактором глобального потепления. Она способствует ожирению, болезням сердца и образованию рака. […] Переработка — это огромная, колоссальная трата времени, энергии, денег и ресурсов». Директор по вопросам политики OpenAI Джек Кларк подтвердил, что компания старается не допускать злонамеренного или оскорбительного использования технологии. После этого основатель Tesla и SpaceX Илон Маск в своем твиттере написал, что покинет OpenAI. Он уточнил, что уже больше года не связан с компанией тесно, а теперь хочет сфокусироваться на проблемах Tesla и SpaceX.

Фото: blog.openai.com