OpenAI обновила «опасную» нейросеть, которая пишет тексты
Американская компания OpenAI выпустила обновленную версию алгоритма языкового моделирования GPT-2, который генерирует реалистичный и последовательный текст. Нейросеть может написать короткий рассказ по одной строчке или создать статью с поддельными цитатами и статистикой только по заголовку. Первая версия вышла в феврале, однако тогда ее создатели опасались, что в интернете программу будут использовать для написания фейковых новостей и оскорбительных комментариев.
Но в августе два выпускника Брауновского университета создали программу на основе нейросети от OpenAI. Аарон Гокаслан и Ваня Коэн рассказали The Wired, что не верят в опасность своей программы. По их словам, они просто хотели продемонстрировать, что работать с такими алгоритмами могут даже энтузиасты. Разработчики уверены, что их программу можно использовать во благо. «Это позволит поднять важный разговор о безопасности», — сказал Коэн. Он и Гокаслан обучали программу по ссылкам, которыми делились пользователи на Reddit. Выпускники попытались связаться с компанией OpenAI, чтобы сообщить о своей работе, но не получили ответа.
На сайте Talk to Transformer можно самому написать фрагмент текста, а алгоритм его дополнит. Или просто задать тему: попросить создать текст по мотивам «Властелина колец», кулинарный рецепт, речь говорящих единорогов и даже html-код. И если с рецептом омлета программа справляется без ошибок, то более сложные тексты выглядят неоднозначно.
Зимой, когда разработчики OpenAI поручили GPT-2 написать о пользе утилизации, алгоритм создал такой текст: «Переработка НЕ полезна для мира. Она вредит окружающей среде, нашему здоровью и экономике. Я не шучу. Она является основным фактором глобального потепления. Она способствует ожирению, болезням сердца и образованию рака. […] Переработка — это огромная, колоссальная трата времени, энергии, денег и ресурсов».
Если сейчас на сайте Talk to Transformer написать, что Украина — прекрасная страна, то нейросеть сгенерирует следующий текст: «Украина — прекрасная страна, хорошо бы она еще не была такой политически нестабильной. В каком-то смысле это позор. Но есть и положительные стороны. […] Важно также, что после войны в Украине появилось новое поколение, которое так же без ума от своей страны и правительства, как и люди, которые пришли до них. Новое поколение хочет снова сделать свою страну сильной и свободной и однажды построить еще одну Россию».
Если написать первую строку одного из сонетов Уильяма Шекспира When forty winters shall beseige thy brow («Когда твое чело избороздят глубокими следами сорок зим…»), то нейросеть допишет еще одну строку, имитирующую стиль автора. Далее в тексте указано, что это отрывок из стихотворения финского поэта Ньоки, который якобы родился в 1870 году и умер в 1935-м.
Фото: Riccardo Milani / HANS LUCAS
