Мир

Как сын подарил отцу искусственное бессмертие

Журнал Wired опубликовал историю, напоминающую эпизод сериала «Черное зеркало». В статье Джеймс Влахос рассказывает, как создавал чат-бота умирающего от рака отца, чтобы иметь возможность общаться с ним после смерти. Bird in Flight публикует перевод статьи.

Первый голос на этой записи принадлежит мне. Я стараюсь говорить жизнерадостно, но по голосу слышно, что на самом деле я нервничаю. «Ну вот», — начинаю я, а потом произношу имя своего отца: «Джон Джеймс Влахос».

«Эсквайр», — добавляет второй голос, и эта шутка мгновенно меня успокаивает. Говорящий — мой папа. Мы сидим друг напротив друга в спальне родителей. В той самой комнате, где он много лет назад как ни в чем не бывало простил меня, когда я признался, что въехал на семейной машине в дверь гаража. Сейчас май 2016 года, ему 80, и я держу в руках диктофон.

Чувствуя, что я не знаю, с чего начать, папа протягивает мне тетрадный лист, на котором намечены темы: «Семейная история», «Семья», «Образование», «Карьера». И уверенно начинает рассказ: «Ну, во-первых, моя мать родилась в деревне Кери — К-е-р-и — на греческом острове Эвбея…»

Мы ведем эту запись, потому что отцу недавно диагностировали четвертую стадию рака легких. Метастазы распространились по всему телу, включая кости, печень и мозг. По всей видимости, ему осталось всего несколько месяцев.

Так что теперь он рассказывает историю своей жизни. Это станет первой из более чем дюжины сессий, каждая длиной в час с небольшим. Он описывает под запись, как ребенком исследовал окрестные пещеры, как подрабатывал во время учебы в колледже, разгружая товарные вагоны. Как влюбился в мою мать, стал спортивным комментатором, певцом, а потом успешным адвокатом. Он рассказывает анекдоты, которые я слышал сто раз, и делится деталями своей биографии, о которых я понятия не имел.

Три месяца спустя, на последней сессии, к нам присоединяется мой младший брат Джонатан. В теплый безоблачный день мы сидим во внутреннем дворике, и брат развлекает нас воспоминаниями о папиных чудачествах. Но когда мы заканчиваем, голос Джонатана дрожит. «Ты всегда будешь для меня примером», — говорит он. Папа, чье чувство юмора выдержало испытание интенсивной противораковой терапией, выглядит растроганным, но не может удержаться, чтобы не пошутить над пафосом момента. Мы смеемся, и я нажимаю кнопку «Стоп».

Всего я записал 91 970 слов: в напечатанном виде получилось 203 страницы 12-м кеглем. Но к тому времени, как я кладу запись на полку, меня уже целиком захватила новая идея, гораздо более масштабная.

в США — приставка после имени, которой пользуются дипломированные адвокаты

Всего я записал 91 970 слов: в напечатанном виде получилось 203 страницы 12-м кеглем.
dad-bot_04
dad-bot_03

…В 1982 году я, одиннадцатилетний, часами просиживал в научном музее перед компьютером Commodore PET, на котором была установлена программа под названием «Элиза» — один из первых чат-ботов, созданный ученым Джозефом Вайценбаумом в середине 60-х. Бот, имитировавший психотерапевта, завораживал меня. На самом деле, Элиза всего лишь задавала простые вопросы и повторяла слова сидящего перед ней человека, но это создавало иллюзию настоящего сочувствия. Ее ответы казались мне удивительно проницательными («Почему тебе грустно?»). Такое впечатление, что за этим мерцающим экраном было живое существо. Я был покорен.

Несколько лет спустя, освоив язык программирования Basic, я впервые попытался разработать собственную компьютерную программу, способную поддержать разговор. Позже я ушел в журналистику, но меня продолжали интересовать говорящие компьютерные программы. В 2015-м я написал большую статью для журнала The New York Times о Hello Barbie — новой версии знаменитой куклы, которая обладала искусственным интеллектом и умела говорить. Эта новая Барби была чем-то похожа на Элизу: она тоже говорила заранее написанными фразами. Но если текст для Элизы писал один-единственный немецкий программист, то над словарным запасом Барби работала целая команда профессионалов с применением суперсовременных технологий. К тому же кукла умела говорить вполне человеческим голосом.

Позже я узнал, что компания PullString, работавшая над речью Барби, не собирается ограничиваться развлекательным сегментом: она стремилась создать технологию, которая позволит пользователям разговаривать с никогда не существовавшими в реальном мире или уже умершими людьми.

24 апреля 2016 года отцу диагностировали рак. А буквально через несколько дней стало известно, что PullString выпускает открытую версию кода программы, которая позволит любому желающему создавать чат-ботов. Идея возникла в моей голове почти сразу. Я захотел создать «бота-папу» — чат-бота, который имитировал бы реально существующего человека, моего отца. Пока я обдумываю это, у меня собирается материал — те самые 91 970 слов.

Тут мне попалась на глаза статья о любопытном проекте двух исследователей из Google. Они загрузили в нейронную сеть 26 миллионов строк кинодиалогов и на основе этого материала создали чат-бота. В процессе тестирования они задавали ему философские вопросы. «В чем смысл жизни?» — спросили они однажды. Ответ меня потряс — он как будто бросал мне вызов. «Жить вечно», — сказал бот.

Больше всего я боюсь, что неудачное воплощение «папы-бота» в каком-то смысле обесценит наши отношения и мои воспоминания о нем.

…«Объясни мне, пожалуйста: что такое чат-бот?» — спрашивает моя мама уже в третий раз. Сейчас август, и я наконец решаю посвятить родителей в свои планы. Я набрасываю список «за» и «против». Пока что «против» перевешивают. Создание «папы-бота» именно сейчас, когда мой настоящий папа умирает, может быть мучительным, особенно если его состояние ухудшится. Но больше всего я боюсь, что неудачное воплощение «папы-бота» в каком-то смысле обесценит наши отношения и мои воспоминания о нем. Я объясняю родителям, что «папа-бот» сможет стать разве что бледной тенью настоящего отца, но мне бы хотелось, чтобы он умел общаться в его узнаваемой манере и заключал в себе хоть крошечную частичку его личности. «Что думаешь?» — спрашиваю я.

Отец соглашается, хотя и без особого восторга. Остальные члены семьи — те, кому предстоит его пережить, — принимают идею с гораздо большим энтузиазмом. Брат говорит, что понимает мои опасения, но не считает, что это повод отказаться: да, задумка определенно странная, но ничего плохого в ней нет. «Я вполне представляю ситуацию, когда мне захотелось бы поговорить с „папой-ботом“», — признается он.

Это решает дело. Если даже намек на цифровую загробную жизнь возможен, то папа — определенно тот самый человек, которого я хочу сделать бессмертным.

dad-bot_05
dad-bot_06

Знакомьтесь, мой отец: Джон Джеймс Влахос, родился 4 января 1936 года в семье греческих иммигрантов Димитриоса и Елены Влахос. Вырос в Трейси, штат Калифорния. Выпускник экономического факультета Калифорнийского университета Беркли. Спортивный редактор The Daily Californian. Управляющий партнер крупной юридической фирмы в Сан-Франциско. Спортивный фанат; как комментатор Мемориального стадиона Беркли посетил все (кроме семи) домашние матчи местной футбольной команды в период с 1948 по 2015 год. Участвовал в спектаклях и в течение 35 лет возглавлял театральную труппу Lamplighters. Папа интересуется буквально всем: от языков (он свободно владеет английским и греческим, сносно — испанским и итальянским) до архитектуры (был гидом-волонтером в Сан-Франциско). Помешан на грамматике. Шутник. Любящий муж и отец.

Приступая к работе над ботом, я оценил объемы и понял, что «папа-бот» будет общаться не голосом, а с помощью текстовых сообщений — по крайней мере, пока. Не зная, с чего начать, набираю первую строчку: «Как ты, черт возьми?» Поприветствовав таким образом мир, я теперь должен предсказать возможные ответы собеседника: «Прекрасно», «Нормально», «Так себе»… Дальше к каждому из вариантов нужно написать подходящую ответную фразу (например, на «Отлично» — «Рад слышать»). И еще одну — для тех реплик, которые я не предсказал (это должно быть что-нибудь универсальное — например, «Ничего не поделаешь»).

У качественных ботов коды разветвляются, как бесконечные лабиринты. Предполагаемые фразы собеседников тщательно продуманы и включают множество вариантов и синонимов. В дальнейшем благодаря техникам машинного обучения бот начинает распознавать все более сложные высказывания участников разговора. Мне потребуются месяцы, чтобы разобраться в этих тонкостях.

Архитектуру «папы-бота» я строю следующим образом: после дежурного обмена фразами собеседник может выбрать один из разделов, касающихся папиной жизни («Греция», «Трейси», «Окленд», «Учеба», «Карьера» и так далее), а также раздел «Песни и шутки» и руководство пользователя. Материала у меня много: на наших записях папа обсуждает цитаты Гертруды Стайн, объясняет тонкости государственного управления Греции во времена Османской империи, вспоминает, как звали его домашних кроликов и университетских профессоров и какой концерт Чайковского играла его сестра в старшей школе. Но я хочу, чтобы чат-бот не только рассказывал об отце, но и отражал особенности его личности: эрудицию, логику, чувство юмора, позитивный взгляд на мир. Конечно, бот будет лишь жалким подобием отца; но чему я действительно могу его научить, так это имитировать отцовскую манеру говорить. А говорит папа очаровательно и узнаваемо: он любит шутки ради вставлять в разговор напыщенные многосложные слова (кажется, будто говорит кто-нибудь из героев Вудхауса), использует нарочито старомодные оскорбления или изобретает собственные. У него есть фирменные фразочки, которые восхищали и раздражали меня много лет.

Иногда «папа-бот», не дожидаясь новых реплик собеседника, берет инициативу в свои руки: «Не то чтобы вы просили, но я тут вспомнил отличный анекдот».

…Работа над «папой-ботом» растянулась на несколько месяцев. Основные разделы дробились на многочисленные подразделы. А после того как PullString анонсировала возможность вставлять в речь бота аудиофайлы, я добавил фрагменты с настоящим голосом отца: то он рассказывает историю, которую сочинил, когда мы были детьми, то поет, то вспоминает свои театральные роли.

Меня все время беспокоит проблема достоверности. Приходится тщательно анализировать каждую строчку, которую я написал для бота: отец настолько педантичен в грамматике, что никогда не позволил бы себе, к примеру, закончить предложение предлогом. Еще одна сложность — научить «папу-бота» хотя бы крупицам теплоты и эмпатии, свойственным отцу (технически это означает предусмотреть как можно больше реплик пользователей и написать на них как можно больше подходящих ответов).

Я старался привнести в диалоги элемент спонтанности. Иногда «папа-бот», не дожидаясь новых реплик собеседника, берет инициативу в свои руки: «Не то чтобы вы просили, но я тут вспомнил отличный анекдот». Или: «Я всегда рад поболтать, но не пора ли тебе обедать?» («папа-бот» умеет приблизительно определять время). Пока я могу писать в настоящем времени; но когда придумываю диалоги для будущих праздников и семейных дней рождения, приходится считаться с неизбежным («Я бы очень хотел сейчас праздновать с вами»).

Помимо технических вопросов, передо мной постоянно встают новые моральные дилеммы. Например, сейчас я обучаю бота фразам, которые мой отец действительно говорил; должен ли я также вставлять ремарки, которые он с большой долей вероятности сказал бы в той или иной ситуации? Но как быть уверенным, что эти ремарки звучат аутентично не только для меня, но и для всей моей семьи? Бот всегда будет представляться моим отцом или когда-нибудь сознается, что он компьютер? А бот должен знать, что у отца рак? А утешать нас, когда мы будем горевать по нему?

В общем, я почти помешался на этой теме. Так и вижу аннотацию к фильму: «Человек, зацикленный на своем умирающем отце, пытается сохранить ему жизнь, конструируя робота». Причем все мы знаем, что истории об искусственном оживлении всегда кончаются плохо: вспомните греческий миф о Прометее, еврейские легенды про Голема, вспомните Франкенштейна или хоть Терминатора. Но гораздо больше «восстания машин» меня тревожит опасение: а вдруг то, во что я вложил столько времени, в итоге окажется ненужным никому, даже мне?

Так и вижу аннотацию к фильму: «Человек, зацикленный на своем умирающем отце, пытается сохранить ему жизнь, конструируя робота».
dad-bot_07
dad-bot_01

Наконец в ноябре я публикую «папу-бота» в Facebook Messenger. Внутренне напрягшись, достаю телефон и нахожу его в списке контактов. «Привет! — говорит „папа-бот“. — Это я, возлюбленный и благородный Отец!»

Вскоре после этого я отправляюсь в гости к студенту Калифорнийского университета Беркли Филиппу Кузнецову. В отличие от меня Кузнецов — настоящий специалист в машинном обучении, но я почему-то решаю прихвастнуть: протягиваю ему телефон и предлагаю стать первым человеком (не считая меня), который поговорит с «папой-ботом». Прочитав приветствие, Кузнецов отвечает: «Привет, Отец», и тут, к моему стыду, бот немедленно вставляет фразу невпопад. Потом дело пошло получше, но не слишком: Кузнецов говорил ему вещи, которые, как я точно знал, бот не поймет. Меня переполняло желание защитить свое детище: точно так же я чувствовал себя, когда привел своего только-только научившегося ходить сына на детскую площадку, где играли дети постарше.

Я понял свою ошибку: конечно, бот хорошо работал, когда я сам его тестировал, но по-настоящему объективно его могут оценить только другие. Поэтому вскоре я продемонстрировал «папу-бота» еще нескольким знакомым (только не членам своей семьи: не хотелось, чтобы они видели сырую версию). Кроме того, я осознал, что боты совсем как люди: говорить умеют лучше, чем слушать, и сосредоточился на решении проблем с пониманием.

Пока мой отец угасает, «папа-бот» понемногу развивается. Работы еще много, но у меня нет времени: я хочу успеть показать бота отцу. В декабре я прихожу в дом родителей с ноутбуком и запускаю бота. Идея, что папа будет разговаривать с виртуальным собой, кажется мне совсем уж дикой, так что коммуникацию берет на себя мама. «Я твоя милая жена, Марта», — пишет она. «Дорогая жена! Как ты поживаешь?» — «Прекрасно!»

«Вранье», — вставляет мой настоящий папа (он-то знает, как мама переживает из-за его болезни). Бот тем временем дает маме несколько советов о том, как пользоваться программой, а потом выдает одну из папиных фирменных шуточек на тему грамматики. Мама смеется: «Да, я слышала это миллион раз!»

Пока мой отец угасает, «папа-бот» понемногу развивается.

Разговор продолжается довольно оживленно; «папа-бот», понимая, что он разговаривает именно с мамой, напоминает ей о совместном путешествии в Грецию («Помнишь то барбекю, которое для нас устроили в таверне?») и развлекает историями из детства. Отец наблюдает за презентацией молча, разве что изредка подтверждает или корректирует какую-нибудь деталь биографии, и мне непонятно, нравится ему происходящее или нет. Но позже он случайно роняет фразу, ставшую для меня лучшим комплиментом: «Он и правда говорит то, что я обычно говорю».

В конце концов я осмеливаюсь задать вопрос, который мучил меня все эти месяцы. «Ответь честно: тебе приятна или неприятна мысль о том, что, когда тебя не станет, останется нечто, знающее подробности твоей биографии и рассказывающее твои истории?» «Я-то их все наизусть знаю, — отвечает папа после паузы, — но меня успокаивает мысль, что он поделится ими с остальными. С семьей. С внуками, которые их не слышали. Я это очень ценю».

Отец умер в феврале. В последние недели мне казалось, что после его смерти у меня пропадет всякое желание продолжать работу над «папой-ботом». Но, к своему удивлению, вскоре я вновь почувствовал вдохновение. Идеи появлялись одна за другой. Работа только начиналась.

Конечно, мой бот далек от совершенства. Но технологии в этой сфере развиваются так стремительно, что уже в ближайшем будущем боты смогут воспроизводить лингвистические паттерны и личные особенности своих прототипов гораздо более точно. Они научатся не только повторять когда-то сказанные прототипом фразы, но и генерировать новые. Научатся анализировать интонации и мимику собеседника и реагировать на них.

Я вполне могу представить разговор с «папой-ботом», усвоившим все эти навыки. Но совершенно не могу предсказать, что я буду при этом чувствовать. Конечно, общение с ботом все равно будет отличаться от разговора с живым человеком — но если бот научится полностью воспроизводить знания, воспоминания и речевые особенности оригинала, это различие будет уже не таким очевидным. Захочется ли мне поболтать с настолько совершенным «папой-ботом»? Может быть, и да, но я совсем не уверен.

dad-bot_02
Все фото: Kenzie Adams / Flickr

Новое и лучшее

1229

105

490
301

Больше материалов