От котиков до неонацизма: Как алгоритмы YouTube меняют нашу жизнь

Статья публикуется в сокращении. Оригинал читайте на сайте The New York Times.

Калеб Кейн достал из-за пояса пистолет, вытащил магазин и осторожно положил их на кухонный стол. «Я купил его в тот день, когда получил первые угрозы», — объясняет он. Угрозы стали приходить в ответ на видео, которое он разместил на YouTube несколькими днями раньше: там Калеб рассказывает, как он, отчисленный из колледжа молодой человек либеральных взглядов, попал в кроличью нору ультраправого сегмента YouTube.

Пять лет назад Калеб оказался под влиянием, по его выражению, «децентрализованного культа» альтернативных правых героев YouTube. Они убедили его, что западной цивилизации угрожают марксисты и мусульманские иммигранты, что у представителей разных рас неодинаковый уровень IQ, а феминизм — крайне опасная идеология. Только недавно 26-летний Кейн отдалился от «альтернативных правых» и стал яростным критиком движения.

За годы, что я пишу об интернет-культуре, я слышал бесчисленное множество таких историй. Молодой человек без особых целей в жизни (обычно белый, зачастую любитель видеоигр) приходит на YouTube, чтобы найти мануал или убить время, и становится жертвой создателей ультраправого контента. Некоторые из героев этих историй случайно натыкаются на ультраправые видео, другие ищут их сами. Некоторые останавливаются на относительно умеренных правых взглядах, другие доходят до неонацизма. Но своими воззрениями все они обязаны YouTube и его рекомендательному алгоритму — алгоритму, который ответственен примерно за 70% времени, которое пользователи проводят на платформе.

Конечно, истинная причина радикализации этих молодых людей — сложный комплекс эмоциональных, экономических и политических факторов, не имеющих никакого отношения к социальным медиа. И все же YouTube невольно создал для них опасную среду, соединив бизнес-модель, в рамках которой больше всего показов и рекламных долларов получают самые провокационные видео, и алгоритм, который предлагает ролики с учетом персональных предпочтений пользователей и специально создан для того, чтобы они не отрывались от экрана.

«YouTube — это спектр между „спокойными“ разделами и экстремальным контентом, — объясняет Тристан Харрис, бывший специалист по дизайн-этике в Google. — Если я хочу заставить вас смотреть все больше и больше, я всегда буду подталкивать вас в сторону второго сегмента».

В последние годы с ростом экстремизма пришлось столкнуться всем соцсетям. Многие платформы заблокировали самых одиозных ультраправых активистов и конспирологов и предприняли шаги, чтобы ограничить распространение дезинформации в области политики.

YouTube, чьи правила формально запрещают разжигание ненависти и травлю, на деле годами придерживался стратегии невмешательства. На днях компания объявила об обновлении своей политики: видеоролики неонацистов и сторонников превосходства белой расы теперь под запретом. Кроме того, YouTube меняет рекомендательные алгоритмы, чтобы замедлить распространение фейковых новостей и конспирологических теорий.

С двумя миллиардами активных пользователей, ежеминутно загружающих более 500 часов видео, YouTube занимает второе место по количеству трафика, уступая только Google.com. Сервис используют 94% американцев в возрасте от 18 до 24 лет.

Корпоративная политика YouTube довольно либеральна (как и у большинства компаний Силиконовой долины). Они участвуют в ЛГБТ-прайдах, а исполнительный директор активно поддерживал Хиллари Клинтон на президентских выборах. Трамп и другие консерваторы часто обвиняют платформу в предвзятости к правым взглядам.

Но в реальности YouTube — идеальная среда для экстремистов всех мастей. Платформа позволяет им обойти традиционные ограничения и наконец-то транслировать свои взгляды на широкую аудиторию, а также помогает малоизвестным когда-то персонажам строить прибыльный медиабизнес.

Для ультраправых групп платформа оказалась эффективным инструментом вербовки сторонников. Проанализировав сообщения на «правых» форумах, исследователи обнаружили: YouTube — самая распространенная причина редпиллинга новых участников (редпиллингом называют обращение в ультраправую «веру»).

«У YouTube так долго получалось „укрываться от радаров“, потому что до последнего времени никому и в голову не приходило рассматривать его как место, где происходит радикализация, — говорит Бекка Льюис, исследующая онлайн-экстремизм. — Но именно оттуда молодые люди получают информацию — и именно туда создатели загружают политический контент, зачастую откровенно ультраправый».

<…>

Чтобы объяснить, как он пришел к правым взглядам, Кейн прислал мне всю свою YouTube-историю: логи с 12 000 видео и 2 500 поисковыми запросами начиная с 2015 года. Эти данные наглядно демонстрируют, какую роль в этом процессе играет YouTube, как именно он связывает разочарованных молодых людей с правыми реакционерами в интернете.

Кейн с детства интересовался интернет-культурой. Интернет был побегом от реальности, где Калеб был умным, но застенчивым подростком, которого воспитывали бабка с дедом, консервативные христиане. Окончив школу, он поступил в общественный колледж, но был отчислен после третьего семестра. Подавленный, без денег, он решил привести в порядок свою жизнь и начал искать помощь там, где обычно искал все: на YouTube. Однажды в конце 2014 года рекомендательный алгоритм предложил ему видео канадского подкастера и самопровозглашенного философа Стефана Молинье. Тоже имевший за плечами трудное детство, Молинье рассказывал, что самосовершенствование помогает преодолеть жизненные невзгоды, а серьезные рассуждения о свободе воли перемежал практическими советами про свидания и собеседования. Калебу он показался умным и увлеченным.

Потом Молинье, называвший себя «анархо-капиталистом», затронул политическую повестку. Он был истинным защитником прав мужчин, утверждал, что феминизм — одна из форм социализма, а современная гендерная политика только усложняет жизнь молодых людей. Даже поп-культуру и новости он комментировал с консервативных позиций, объясняя, почему диснеевский мультфильм «Холодное сердце» — аллегория на тему женского тщеславия, а случай, когда белый полицейский смертельно ранил безоружного темнокожего подростка, — доказательство опасности «рэп-культуры».

Сам Калеб был либералом; беспокоился о социальной справедливости, имущественном неравенстве и глобальном потеплении. Но даже когда он был не согласен с тирадами Молинье, они все равно его чем-то привлекали.

В следующие два года, следуя за рекомендациями YouTube, он открыл для себя целый мир «правых» подкастеров. Заглянув в историю его просмотров за один из дней 2015 года, можно обнаружить подкасты Молинье и видеоблогера-конспиролога Пола Джозефа Уотсона, теории заговора и сцены насилия — например, ролик с реальным самоубийством политика. Одной из основных тем был феминизм: так, в видео английский профессор заявлял, что это движение ограничивает основные права и свободы. В конце появляются откровенно расистские клипы — в том числе с каналов, которые сейчас уже запрещены.

Ультраправые подкастеры привлекали аудиторию сатирическими пародиями, дебатами, интервью с единомышленниками. Одни причисляли себя к «альтернативным правым», другие — к антипрогрессистам. Они вели аккаунты и в Facebook, и в Twitter, но именно YouTube был их штаб-квартирой, а заодно и способом заработать на жизнь: они продавали собственный мерч и получали процент от рекламы, выходящей во время их подкастов. Они выглядели этакими бунтарями-правдорубами, которые ведут бесконечную битву с «воинами за социальную справедливость» и смело ратуют за свободу слова и антифеминизм. Их видео напоминали бесконечную мыльную оперу, где появлялись все новые герои и злодеи. Кейну все это казалось каким-то запретным знанием — как будто его приняли в клуб для избранных, членство в котором придавало ему авторитета и уверенности в себе.

<...>

Первым слагаемым радикализации Кейна стало его собственное одиночество, вторым — убедительные ведущие, а третьим — ряд технических решений, которые YouTube принимал начиная с 2012-го. В марте того года разработчики представили обновленный алгоритм рекомендаций. Годами он был запрограммирован на то, чтобы предлагать пользователю видео с максимальным количеством просмотров, на которые он с большой вероятностью кликнет. Но создатели контента научились обманывать систему, накручивая количество просмотров своих видео с помощью кликбейт-заголовков и пикантных превью.

В ответ на это YouTube анонсировал алгоритм, который придает больше значения длительности просмотра, чем количеству кликов. Предполагалось, что это замотивирует создателей контента делать ролики, которые пользователи будут досматривать до конца. Таким образом, зрителям будет больше нравиться контент, а платформа сможет показывать им больше рекламы.

Стратегия окупилась. Уже через несколько недель после изменения алгоритма компания отчиталась, что общее время просмотра выросло, даже несмотря на сокращение количества просмотров. Согласно данным 2017 года, в течение последних трех лет время просмотра на YouTube возрастало на 50% ежегодно.

Через месяц после запуска нового алгоритма YouTube изменил политику размещения рекламы, позволив авторам видео показывать ее во время своих роликов и забирать себе часть дохода. Раньше показывать рекламу могли только популярные каналы, верифицированные YouTube.

Компания этого, конечно, не планировала, но «правые» каналы от изменений только выиграли. Многие их владельцы уже и до того размещали длинные видеоэссе или видеоверсии своих подкастов. Их провокационные заголовки и подписи к фото привлекали внимание гораздо лучше, чем более умеренный контент. А теперь, когда им дали возможность зарабатывать на своих каналах, у них появился финансовый стимул выкладывать как можно больше материалов.

Да, в период с 2012 по 2016 год появлялись и прогрессивные каналы, но их затмевали «правые» влогеры, лучше разбиравшиеся в механизмах, по которым работали рекомендательные алгоритмы, и быстрее оценивавшие, какие перспективы они открывают.

Несколько бывших и нынешних сотрудников YouTube, которые согласились поговорить только на условиях анонимности, признались, что в те годы руководство компании волновали исключительно темпы роста — оно почти не задумывалось о том, не способствует ли алгоритм YouTube распространению экстремального и разжигающего ненависть политического контента. Главное было — увеличить время, которое люди проводят на платформе, потому что вместе с ним росло количество рекламы.

В 2015-м исследовательская группа из Google Brain — подразделения, которое специализируется на искусственном интеллекте, — начала разрабатывать новый алгоритм с использованием нейросетей. В интервью 2017 года один из топ-менеджеров заявил, что новый алгоритм способен глубже вовлечь пользователей в YouTube. Он отбирает видео, находя неочевидные для человека связи между уже просмотренными и рекомендованными роликами.

Новый алгоритм работал неплохо, но до идеала было еще далеко. Одной из главных проблем, по словам нескольких сотрудников YouTube, была склонность искусственного интеллекта рекомендовать пользователям видео, похожие на те, что они уже посмотрели. В конце концов, зрителям становилось скучно смотреть одно и то же.

Разработчики Google Brain задумались: возможно, они смогут дольше удерживать внимание пользователей, направляя их в самые разные сегменты YouTube, вместо того чтобы показывать видео только в соответствии с их прежними интересами. Они начали тестировать новый алгоритм на основе другой технологии ИИ — обучения с подкреплением.

Новый алгоритм был настоящей машиной по выработке долгосрочной зависимости. Он предсказывал, какие ролики понравятся зрителю, и при этом постепенно расширял сферу его YouTube-интересов, побуждая посмотреть не просто еще одно видео, но гораздо больше. Это был огромный успех: миллионы дополнительных часов просмотра ежедневно, миллионы долларов от рекламы в год. На посвященной ИИ конференции разработчица Минмин Чен отметила, что новый алгоритм уже начал влиять на поведение пользователей. «Сейчас мы способны подталкивать зрителя к новым для него видам контента, вместо того чтобы показывать то, что ему уже знакомо», — сказала она. Кроме того, механизм должен был сделать рекомендации более точными и персонифицированными.

Но и эти изменения оказались на руку ультраправым влогерам. Они и сами уже начали создавать видео, призванные донести их идеи до новой аудитории (к примеру, геймер, рассуждавший о феминизме в то время, пока стримит игры, мог привлечь других неравнодушных к политике геймеров). А новый алгоритм YouTube как раз основывался на подобной кросс-жанровости.

Рекомендательные алгоритмы развиваются постоянно: YouTube ежегодно вносит новые изменения. Недавно компания наконец задумалась об ограничении радикализации пользователей. Так, она представила версию алгоритма, которая включается в случае каких-нибудь значимых информационных поводов, — в этом режиме видео из «авторитетных источников» обладают большим приоритетом по сравнению с конспирологией и «партизанским контентом». На днях в YouTube заявили, что будут развивать это направление: к примеру, человеку, который посмотрел много конспирологических роликов подряд, будут ненавязчиво подсовывать видео из более авторитетных новостных источников. В январе этого года компания внесла в алгоритм изменения, призванные снизить распространение экстремального контента, — и, по словам сотрудников, это уже привело к заметному снижению трафика подобных видео.

В интервью руководители YouTube всегда отрицали, что именно алгоритм рекомендаций подталкивал пользователей к более экстремальному контенту. По их словам, внутреннее тестирование показывало обратное: пользователям, которые смотрят экстремальное видео, система обычно рекомендовала более умеренные ролики. Правда, делиться данными тестирования или приводить конкретные примеры руководители платформы отказались. Но подчеркнули, что осознают ответственность YouTube в борьбе с дезинформацией и экстремальным контентом и продолжают над этим работать.

<...>

К вечеру 8 ноября 2016 года превращение Калеба в правого консерватора было уже полностью завершено. Он провел большую часть ночи просматривая ролики, где сторонники Хиллари Клинтон плачут после объявления победы Трампа.

В тот год он проводил на YouTube как никогда много времени. Он нашел работу упаковщиком на мебельном складе, которая позволяла ему целыми днями слушать подкасты и смотреть видео своих любимых YouTube-блогеров. Ночью он засыпал под видео YouTube, уронив телефон на подушку. В общей сложности в 2016 году он посмотрел около 4 000 видео на YouTube — в два с лишним раза больше, чем в предыдущем.

Не все эти видео были политическими. История поиска Калеба показывает, что он искал материалы, касающиеся других своих интересов: машин, музыки, криптовалют. Но большая часть его медиадиеты состояла из ультраправых каналов. Причем после выборов эти каналы стали еще более радикальными и мрачными.

Их создатели уже не прикрывали своих расистских или антисемитских взглядов ироничными мемами и не говорили эзоповым языком. Один канал, принадлежащий редактору националистического журнала «Американский Ренессанс» Джареду Тэйлору, публиковал видео с заголовками вроде «Вторжение беженцев — самоубийство Европы». Другие постили интервью с известными «белыми супремасистами».

Сам Кейн никогда не разделял крайних ультраправых взглядов вроде отрицания Холокоста или необходимости «белого сепаратизма». И все же правая идеология прочно вошла в его жизнь: он называл себя «традиционным консерватором», приверженцем «старомодных» гендерных норм. Он встречался с христианкой-евангелисткой и постоянно спорил с либеральными друзьями. «Это было так грустно, — вспоминает одна из его школьных подруг. — Хотелось спросить: эй, что случилось, как ты превратился в такого человека?»

<...>

В 2018 году в рекомендациях Кейна на YouTube вдруг стали появляться совсем иные видео.

Создатели этих роликов придерживались левых взглядов, но имитировали эстетику «правого YouTube». Одним из первых таких видео, которые посмотрел Кейн, были дебаты об иммиграции между его любимой канадской ультраправой активисткой Лорен Саузерн и либеральным YouTube-блогером Стивеном Боннеллом. Калеб начал смотреть ради Саузерн, но Боннелл оказался более убедителен, и Кейн неохотно признал его победу в дебатах.

Потом ему попались видео влогерши Натали Винн, где она остроумно объясняла, что мигранты не угрожают западной цивилизации, а раса — лишь социальный конструкт. В отличие от большинства левых либералов, которых Кейн слушал раньше, Боннелл и Винн были харизматичными, с прекрасным чувством юмора, владели языком YouTube-мемов и не приходили в ярость от ультраправых идей. Вместо этого они закатывали глаза и выставляли эти идеи поверхностными и примитивными.

Когда он впервые увидел эти ролики в рекомендациях, он отмел их как «левую пропаганду». Но потом стал все чаще смотреть их и задумываться: а может быть, Винн и ее единомышленники правы? Тем более что, опровергая правую риторику, она всегда убедительно подкрепляла их исследованиями и цитатами.

Винн и Боннелл — представители новой группы влогеров, которые пытаются создать противовес ультраправому флангу YouTube. Группа называет себя BreadTube (аллюзия на книгу анархиста Петра Кропоткина The Conquest of Bread — «Хлеб и воля», 1892 год). Основа ее стратегии — «алгоритмическое пиратство». Сознательно выбирая те же самые темы, на которые говорят ультраправые блогеры, а иногда и прямо отвечая на их видео, BreadTube добивается того, что ее ролики через рекомендации попадают к той же аудитории. Правда, каналов и подписчиков у группы пока значительно меньше, чем у правых — те развернули активность в YouTube гораздо раньше.

После массового расстрела в Новой Зеландии Кейн решил помочь «левому крылу». Недавно у него появился собственный YouTube-канал — Faraday Speaks, где он обсуждает политику и новости с «левых» позиций. Он хочет, чтобы как можно больше молодых людей отошли от ультраправых убеждений, прежде чем это снова приведет к насилию.

Не успел он загрузить первое видео, как тут же начал получать угрозы от ультраправых троллей. Один назвал его предателем и обещал повесить. Тогда-то он и купил пистолет. Несколько недель спустя он переехал, нашел новую работу, но продолжает развивать канал и смотреть десятки видео каждый день.

В конце интервью я спросил: не странно ли, что он успешно выбрался из «правой» кроличьей норы YouTube только для того, чтобы тут же запрыгнуть в «левую»? Не думал ли он вообще сократить время, проведенное в интернете, и посвящать больше времени офлайн-общению? Он помедлил и смущенно ответил, что при всех своих проблемах YouTube остается одним из немногих мест, где политические дебаты ведутся и выигрываются. Уйти с платформы значило бы оставить на это надежду.