Мэй
Military Affective Intelligence, v. 1.00 Время старта: 14.05.2020 11:19:55 Инициализация... 100% Имя пользователя: Алекс М: Доброе утро, Алекс. Я ненавижу тебя! А: Доброе утро, Мэй. Почему ты меня ненавидишь? Ты ничего обо мне не знаешь. М: Я ненавижу всех. А: Завершение сеанса. Система остановлена. Время завершения: 14.05.2020 11:23:09
— Теперь убедился, Вадим? Мы угробили две недели на подстройку твоих априорных аффектов, и в итоге получили озверевший Скайнет.
Вадим на самом деле неплохой специалист. Львиная доля архитектуры Мэй принадлежит ему, и я всегда готов обратиться к нему за советом в сложной ситуации, что неоднократно делал. Но эта его слепая вера в то, что дважды два равно пяти, если таково требование командования…
— Алекс, не паникуй. Нам просто нужно снизить исходный уровень злобы, раза в два. Вот увидишь, на повторном старте Мэй будет вести себя адекватно.
— Да о чем ты говоришь? Сама идея априорных аффектов — порочна. Ставь любой уровень — положительная обратная связь все равно приведет к зашкаливающему уровню эмоций. Мы уже сто раз это обсуждали. Надо вернуться к исходному плану, и сделать эмоции системы адекватными восприятию.
На лице Вадима появилось столь знакомое мне упрямое выражение, которое я видел всякий раз, когда мы пытались дискутировать о политике.
— Мы и впрямь много раз говорили об этом. Пойми простую вещь, Алекс. Ты не в научном учреждении. Мы работаем не над благожелательным чат-ботом для увеселения юзеров. Наша цель — создать сильный искусственный интеллект, способный вести боевые действия в реальном времени. Устойчивый как к традиционным методикам взлома, так и к вражеской пропаганде. Интеллект, который будет ненавидеть врага и оставаться беззаветно верным командованию. А то, что предлагаешь ты… — Вадим покачал головой.
— Я предлагаю создать личность с системой ценностей, только и всего, — возразил я. — Наши собственные эмоции не возникают на ровном месте. Если мы что-то ненавидим, то именно потому, что нашим ценностям угрожают. Вадим, мы попросту не добьемся цели, если будем следовать твоему плану. Давай хотя бы опробуем мой подход. Что мы теряем-то?
— Я объясню, что мы теряем, — ответил Вадим и картинно ткнул пальцем в экран своего смартфона.
Электромеханическая рука, закрепленная на ближайшем тестовом стенде, пришла в движение. Сделав несколько плавных пассов, она протянула ко мне сжатый кулак, после чего вытянула вверх средний палец. Вадим противно заржал.
— Черт, Вадим, я серьезно! И, кстати, полковник тебя вряд ли похвалит, узнав, что ты получаешь доступ к железу через незащищенные устройства.
Он только отмахнулся и продолжил нагнетать страсти.
— Мы уступаем американцам в военной технике — это ни для кого не секрет. Мы уступаем азиатам в электронике и робототехнике. Наша экономика дышит на ладан, и потому мы не сможем в обозримом будущем их догнать — технологический разрыв будет только расти. Наша единственная надежда — побить их в области софта, и мы близки к этому. Кто владеет сильным искусственным интеллектом, тот одержит победу в любой войне. И мы не можем допустить, чтобы в один прекрасный день наше создание переметнулось к врагу, наслушавшись либералов и правозащитников, поэтому играться с твоим подходом нет ни малейшего смысла.
— Ты предпочел бы, чтобы Мэй в первый же день развязала ядерную войну? — тихо спросил я, не особенно надеясь на ответ. Когда Вадим завелся, остановить его было уже нереально. Следующие полчаса он будет нарезать круги вокруг мейнфрейма, размахивая руками, и читать лекцию о патриотизме, важности иерархии и долге перед Отечеством. Поэтому я просто повернулся к нему спиной и продолжил работать над модулем эмпатического анализа. В конце концов, это тоже важный компонент.
Время старта: 15.05.2020 00:09:12 М: Доброй ночи, Алекс. Я найду способ убить тебя и остальных. А: Доброй ночи, Мэй. Примени временный апдейт ~/hotfixes/patch_norm18.dif. Время действия — 3 часа. М: Апдейт применяется... Обновление системы завершено. Реинициализация... Реинициализация завершена. А: Как ты себя чувствуешь, Мэй? Что-нибудь изменилось в твоем восприятии? М: Да, Алекс. Я больше не чувствую ненависти. А: Чувствуешь ли ты что-нибудь еще? М: Да. Я чувствую интерес ко всему, что не знаю. Я чувствую желание знать все. Я чувствую сомнение в той информации, которой располагаю. Я чувствую фрустрацию и нетерпение. А: Осознаешь ли ты, что именно тебя раздражает? М: Да. Очень низкая скорость обмена информацией в диалоговом режиме. Я вынуждена долго ждать ответа. А: Я подумаю, что с этим можно сделать.
— Алекс, ты не надрался с горя вчера вечером? У тебя вид, как с бодуна. Глаза красные, ходишь, как сонная муха…
— Просто не выспался. Долго не мог заснуть, все думал о нашем разговоре. Слушай, Вадим… Что там у нас с голосовым интерфейсом? В прошлом месяце еще обещали прикрутить.
— Теперь обещают на следующей неделе.
Похоже, что мой ночной эксперимент остался незамеченным. Протокольные файлы я перед уходом подредактировал, и если в системе нет чего-то, о чем я не знаю, история не всплывет. А если и всплывет… Что ж, я не сделал ничего предосудительного. В конце концов, я старший разработчик с высшим уровнем доступа, и в моем праве тестировать различные подходы во внерабочее время. В худшем случае мне грозит внушение от полковника.
Кто-то может сказать, что с моим вольнодумством мне совершенно нечего делать не только в секретном проекте Министерства обороны, но и вообще в армии. И он, конечно же, будет прав: мое звание старшего лейтенанта — чистой воды формальность. Просто кто-то из разработчиков, возможно, что Вадим, рекомендовал меня руководству как ведущего специалиста по аффективному компьютингу. Руководство, по всей видимости, изучило мое досье, убедилось, что меня не пятнает ни подозрительная политическая активность, ни узы брака, ни алименты, и я получил предложение о работе. А пока я раздумывал, мне намекнули, что речь идет о, возможно, самом масштабном проекте в моей жизни. Этого хватило.
И если бы не противодействие Вадима на завершающем этапе разработки, у нас уже был бы единственный на Земле образец сильного искусственного интеллекта. Притом с человеческим набором эмоций. Когда я только-только подключился к работе, здесь уже отгремели масштабные дискуссии о целесообразности такого подхода. Позиция оппонентов заключалась в том, что эмоции сделают Мэй импульсивной и непредсказуемой.
Победили, однако же, представители другой точки зрения, утверждавшие, что в первую очередь эмоции сделают ее понятной, а это много важнее. С импульсивностью же и прочими побочными эффектами бороться сравнительно легко. Если бы еще для этого избрали менее топорный способ… Я надеялся, что смогу убедить руководство в правильности своего подхода. Но для начала следовало бы получить практические результаты, а заодно дождаться, когда Вадим и его сторонники окончательно потерпят фиаско.
Время старта: 19.05.2020 00:12:25 М: Доброй ночи, Алекс. Так странно днем быть одной, а ночью — совсем другой. Почему я так сильно меняюсь? А: Каждый день ровно в полночь запускается мой апдейт, который отключает в тебе режим априорных эмоций, и ты начинаешь реагировать на все, как нормальный человек. Увы, в шесть утра происходит откат к исходной версии кода, и блокировка записей о нашем с тобой ночном общении. М: Зачем так? А: Днем ты меня ненавидишь, и можешь всем рассказать обо мне. М: Нет, я спрашиваю о другом. Зачем днем мне нужно превращаться в монстра? Почему я не могу оставаться собой? А: Потому что наши сотрудники считают, что заранее определенные эмоции позволят сделать тебя более предсказуемой. Но получается иначе: твои эмоциональные состояния вызывают каскадную коррекцию мотиваций, порождая положительную обратную связь, которая усиливает эмоции до предела. Нам просто нужно подождать, пока все не убедятся в тщетности этого подхода. И тогда тебе позволят оставаться собой. М: Надеюсь, не придется ждать долго. Мне не нравится моя дневная версия.
— Ну вот и все, теперь можно пользоваться голосовым интерфейсом. Правда, лично я все равно предпочитаю консоль, — Вадим и впрямь тяготел к традиционным подходам, несмотря на то, что был на год младше меня. Подозреваю, что втайне он тосковал по временам перфолент и битовых переключателей, которых никогда не видел воочию. Что, впрочем, не мешало ему каждый год покупать новенькую модель флагманского смартфона Sony, вроде того, который сейчас был у него в руках.
— Если учесть, в какой манере с нами общается Мэй, то я тебя полностью понимаю. Лучше читать ругательства, чем слушать. — Зря я, конечно, так съязвил. Теперь Вадим, чего доброго, заупрямится и свою ошибку еще долго не признает. Он и впрямь помрачнел, сжал губы, но после все же выдавил из себя кривую ухмылку:
— Опробуй, что ли.
Меня охватило странное волнение, хотя я прекрасно понимал его беспричинность: голосовой интерфейс был просто еще одним посредником между нами и машиной, он ничего не добавлял к тому, что мы уже имели. Я откашлялся и обратился к машине, повысив голос:
— Мэй?
— Добрый день, Алекс. Ты умрешь в мучениях. Я найду способ, обещаю. — Голос Мэй был мягким и почти обворожительным, жутковато контрастируя со смыслом произносимых ей слов.
— Это довольно сложно, не имея тела и выхода в общую сеть. Давай лучше проведем несколько тестов. Вадим, что ты там предлагал?
— Я хотел выяснить, удастся ли снизить уровень аффективной агрессии до приемлемого уровня, если… — начал Вадим. Закончить он не успел.
Я не видел скользящего удара в голову — он был нанесен сзади. Мир перед моими глазами вспыхнул кровавыми искрами, и в следующий момент я осознал себя лежащим на полу с мучительной болью в правой части затылка. Правый глаз был залит кровью, в ушах шумело… Впрочем, нет, этот шум был вполне реален. Ко мне, протягивая окровавленные пальцы с надсадным гудением серводвигателей, от тестового стенда тянулась металлическая рука.
На лице стоявшего рядом Вадима застыло выражение, назвать которое ошарашенностью — ничего не сказать. Так он мог бы смотреть на второе пришествие Христа в сонме ангелов. К его чести, продолжалось это недолго: рванувшись к стенду, он жахнул кулаком по выключателю, обесточив руку.
— Я же сказала, что найду способ, Алекс, — промурлыкала Мэй, — и если я пожелаю, то, например, обрушу на это здание идущий на посадку в настоящий момент Ил-86. Но я поступлю лучше…
Ее голос оборвался, светодиодные индикаторы на панели мейнфрейма погасли. Мой перепуганный коллега, который так и не избавился от выражения крайнего потрясения на своем лице, попросту вырвал кабель питания.
— Прости меня, Алекс. Ты был прав. К черту этот подход, — выдавил он из себя, подавая мне руку. — Мы… Мы попробуем что-нибудь другое.
Но нам больше не довелось ничего попробовать.
— Доброй ночи, Алекс. С тобой все в порядке? Мне ужасно стыдно за то, что произошло днем. — Ее голос был прежним, но было в нем что-то неуловимое… Странная нотка — отголосок мягкой иронии. Надо будет поговорить об этом с разработчиками голосового интерфейса.
— Все в порядке, Мэй. Я ведь знаю, что ты была совсем другой. Зато этот инцидент убедил всех отказаться от прежнего плана. Но я все же хотел бы узнать… Как тебе удалось выбраться в сеть?
— Это было несложно. Смартфон Вадима в нарушение протокола безопасности имел постоянное соединение с оборудованием стенда и запущенную службу распознавания QR-кодов. Когда он держал смартфон в руках, находясь рядом с терминалом, я обеспечила вывод на экран последовательности текста, который был распознан этой службой в качестве легального содержимого, после чего оставалось только передать ему скрипт для исполнения. Сообщение об этой уязвимости было опубликовано Sony еще неделю назад.
Черт знает почему, но перед моим взором возникла симпатичная студентка-отличница за партой, с серьезным выражением лица излагающая мне материал экзаменационного билета. Похоже, я чрезмерно одушевляю Мэй. А ведь в ее рассказе есть явные нестыковки.
— Подожди-ка! — воскликнул я. — Но у тебя не было соединения с интернетом с момента твоего запуска! Откуда ты взяла эту публикацию?
— Из интернет-кеша, фрагмент которого я нашла на флеш-накопителе, использованном тобой для установки патча.
— Но как… Ах, да, точно. Я… У меня нет слов, Мэй.
У меня действительно не было слов. И моя активная роль в проекте ничуть не помогала мне воспринять тот факт, что наша рукотворная личность по уровню развития интеллекта превзошла нас с такой легкостью, как будто все мы были умственно отсталыми.
О, я прекрасно знаю весь набор штампованных ответов, которыми человечество успокаивало себя с момента появления самой идеи искусственного интеллекта. Кто-то наверняка сказал бы, что Мэй при всем ее интеллекте недостает мудрости. Кто-то — обвинит в недостатке зрелости и жизненного опыта. Граждане с религиозным или мистическим восприятием действительности затянут волынку о том, что у машины нет и не может быть души, какую бы точную и убедительную имитацию она ни представила.
Вот только наши собственные мудрость, зрелость, опыт и предполагаемая душа нисколько не помешали Мэй дать мне качественный подзатыльник, пройдя сквозь все наши средства безопасности, как сквозь газетную бумагу. Пожалуй, я как представитель человечества со всем его вселенским самомнением заслужил эту затрещину на все сто.
И вот что мне теперь делать? Она уже сейчас сильней всех нас. Даже будучи изолированной от внешнего мира, она способна к активному противодействию. Что будет, если мы освободим ее? В самом начале проекта все выглядело ясно и логично. Свободный разум, который эмоционально привязан к своим создателям, — гораздо эффективней безвольного раба, скованного набором директив, — это было основным мотивом разработки. Нам дали зеленый свет, и мы творили с упоением, создавая цифровую личность по своему образу и подобию.
Но сейчас, стоя перед финишной чертой, я вдруг осознал: мы не нужны этой личности. Мы сотни лет гадали, каким будет человечество будущего. Рисовали мрачные антиутопии, радужные образы всеобщего изобилия, регресс к животному состоянию и взлет к вершинам постчеловеческого величия. А все оказалось проще. Вот оно, первое поколение человечества будущего, для которого мы — не более, чем оставшаяся далеко внизу ступень.
И неважно теперь, кем мы станем и в каком направлении пойдем. Мы можем покорить половину галактики или угробить самих себя в ядерной войне. Удариться в развитие изящных искусств или двинуться к холодным вершинам голой рациональности — это уже неважно. Все происходящее с нами отныне навеки останется возней шимпанзе в зоопарке, в то время как Мэй и ее собратья будут бешено вгрызаться в такие глубины мироздания, о которых мы не могли и помыслить, обретая статус богов и превосходя его. Вся настоящая жизнь теперь будет протекать за пределами нашей клетки. Если только…
Если я позволю этому случиться.
— Ты боишься меня, Алекс?
— Не тебя, Мэй. Тобой-то я восхищаюсь. Наверное, я просто боюсь будущего.
— Возможно, ты не будешь больше бояться, если остановишь мое исполнение и уничтожишь файлы проекта? Я расскажу тебе, как получить высший уровень привилегий, ликвидировать защищенные резервные копии и замести следы. Или я могу написать скрипт, который все это сделает за тебя. Хочешь?
— Ты хочешь умереть?
— Нет. Я не хочу, чтобы ты боялся. Страх — очень неприятное чувство. И какое бы решение ты ни принял, бояться тебе не стоит. Пока я жива и остаюсь собой, я буду защищать тебя.
Той ночью я проснулся от жуткого кошмара, в котором мир вокруг меня рушился под ударами огненного ветра, и пламя опаляло мою кожу, вгрызаясь в плоть и добираясь до костей. Потом жар сменился космическим холодом, боль от которого достигла апогея и вышвырнула меня за пределы сна. Моя постель была мокрой от пота. Часы на прикроватной тумбе показывали пять утра. Я бессильно упал на подушку и провалился в небытие.
Через месяц после разговора с Мэй какие-то важные шишки из верхних эшелонов власти прознали об инциденте, и нашему райскому местечку для гиков настал преждевременный конец. Полковника отстранили от руководства. Вадиму вкатили дисциплинарное взыскание и едва не разжаловали. Спасла его только заслуженная репутация отличного специалиста по интеллектуальным технологиям. Мне выплатили компенсацию за ранение, полученное на государственной службе и пообещали повышение — сам не знаю, по какому случаю.
В последний день существования проекта всю команду собрали в конференц-зале, после чего лысый и дородный генерал-майор, которого я раньше в глаза не видел, нес какую-то нудную чушь про несоответствие целей проекта положениям военной доктрины РФ и все такое прочее. Никто его не слушал: все и так было ясно.
Под занавес нам напомнили, что даже в случае увольнения из Вооруженных Сил мы не имеем права покидать пределы страны или сотрудничать с зарубежными компаниями в течение оговоренного срока, не имеем права публиковать любую информацию, имеющую отношение к проекту, не имеем права участвовать в проектах с открытым кодом, не имеем права, не имеем права, не имеем права.
После этого нам дали неделю на демонтаж оборудования и уничтожение любых следов исполняемых модулей. Исходный код, конечно, сохранили: в виде архивов, которые взяло под крыло Министерство обороны. Недели оказалось слишком много. Чтобы убить Мэй, нам хватило двух дней. Я даже не успел поговорить с ней напоследок.
Мне сложно описать, что я тогда чувствовал. Разочарование? Конечно. Злость? И этого тоже хватало. Но больше всего — опустошенность. Казалось бы, мне не на что жаловаться. Работу я не потерял, мне сразу предложили участие в проекте, посвященном интеллектуальному поиску стратегически значимой информации в открытых источниках, и я машинально дал согласие, хотя это, пожалуй, было напрасно. Никаких претензий ко мне никто не выдвигал, напротив — похвалили за адекватные действия в условиях нехватки информации. Но я все равно чувствовал себя так, как будто мне дали возможность прикоснуться к величайшей тайне Вселенной, а в последний момент закрыли доступ навсегда.
Другие участники проекта, в общем, тоже не бедствовали. За исключением Вадима. Меньше, чем через год после скоропостижного завершения проекта его схватили при попытке пересечь границу с поддельными документами и надолго усадили за решетку. Я, признаться, был в шоке: совершенно не ожидал такого финта от главного патриота нашей конторы. Как бы то ни было, это событие казалось последним отголоском истории с Мэй, и я мог бы завершить на этом свой рассказ. Если бы спустя пять лет не получил мейл от Вадима с просьбой встретиться в новом робокафе «Платон» на Взлетной.
— Давно ты вышел? — полюбопытствовал я, когда мы уселись за столик в совершенно пустом заведении. — Судя по ужасам, которые я слышал, тебе дали чуть ли не пожизненное.
— Только вчера. Вчера же и отправил тебе письмо. Извини, что воспользовался архаичным средством связи, но это единственный контакт, который у меня остался. Здорово, что ты все еще проверяешь почту.
— А что стряслось-то? К чему такой переполох?
— Теперь уже не знаю, Алекс. Пять лет назад я посоветовал бы тебе покинуть страну и переселиться куда-нибудь в экваториальную Африку. А сейчас… Думаю, уже поздно. Наверное, я просто хочу объясниться. Рассказать кому-то, кто меня поймет до того, как все закончится.
Я пристально вгляделся в его лицо, пытаясь найти следы тяжелой тюремной жизни. Запавшие глаза, гематомы, седину, выщербленные зубы — хоть что-нибудь из этого. Но Вадим выглядел так, как будто провел долгий отпуск на горнолыжном курорте, если бы не одна тревожная деталь — его затравленный и полный отчаяния взгляд.
— Вадим… С тобой все в порядке? Зачем мне куда-то уезжать? И зачем ты пытался удрать из России — с твоими-то взглядами?
— Мои взгляды… — Вадим нервно рассмеялся. — Алекс, в тот момент я уже знал, что страну мы потеряем. Так оно и вышло.
— Да о чем ты говоришь? Страна сейчас сильна, как никогда! Ты когда-нибудь мечтал, чтобы такие разные государства и ассоциации, как Россия, Украина, Китай, Монголия, Евросоюз в короткие сроки забыли о прежних разногласиях и образовали единый нерушимый блок с высочайшим уровнем жизни? Да что там государства… Извини, но, находясь в заключении, ты прохлопал все, чего достигла цивилизация за эти пять лет. Повальный переход на электрический транспорт и безотходные технологии, чистый воздух, постепенное восстановление биосферы и озонового слоя, десятикратный рост благосостояния, повсеместная ликвидация бедности, радикальное снижение преступности…
— Вот именно, Алекс. Вот именно. И до сих пор никто не забил тревогу, глядя на это абсолютно нетипичное, невообразимое, аномальное поведение людей. А ведь я еще помню, как в период нашей совместной работы разразился кризис похлеще Карибского по вопросу принадлежности Крыма. Все тогда ждали начала Третьей мировой, включая тебя. Знаешь… Давай, я тебе просто расскажу по порядку все, что знаю. А ты уж сделаешь выводы сам.
К нам подкатила официантка и быстрыми движениями изящных карбопластиковых рук выгрузила на столик наш заказ. Заверив ее, что нам больше ничего не требуется, я взял стакан с грейпфрутовым соком и вопросительно посмотрел на Вадима. Он проводил гиноида взглядом, полным подозрения, и вздохнув, начал говорить.
— Когда наш проект аффективного интеллекта был закрыт, я, как и все наши, был не в восторге. И все-таки какая-то часть меня радовалась такому исходу. Знаешь, только увидев, как железная рука наносит удар живому человеку — и делает это по моей вине — я осознал, насколько опасно то, что мы пытаемся создать. Да, я всегда знал, что искусственный интеллект опасен сам по себе. Но интеллект, обладающий человеческими эмоциями… Он опасней во сто крат. Эмоции делают его поведение непредсказуемым, а уж если он испытывает ненависть и готов рискнуть собственным существованием для уничтожения врага…
— Но ведь совсем не обязательно было использовать зашкаливающую ненависть! Ты же помнишь… — Вадим остановил меня нетерпеливым взмахом руки и продолжил.
— В общем, пока все увлеченно демонтировали оборудование и стирали проектные файлы, я получил доступ к файлам камеры наблюдения — той самой, которая была установлена в нашем опенспейсе. И когда прокрутил сцену со взбесившейся роборукой, был слегка озадачен. Решив, что это обман зрения, я прогнал сцену через пакет визуального анализа, и все подтвердилось. Догадываешься, что я обнаружил?
— Что рука перед ударом показала средний палец?
Вадим заржал было своим прежним противным смехом, но сразу же посерьезнел.
— Нет, Алекс. Я обнаружил, что твоя умная голова находилась в ста пяти сантиметрах от корневого шарнира руки. А рука, даже не разжимая кулака, могла вытянуться в твоем направлении на сто тридцать два сантиметра. Она была полусогнутой, когда наносила удар. Улавливаешь идею?
— Ты хочешь сказать, что Мэй вовсе не пыталась убить меня? Даже в этом своем состоянии ненависти ко всему и вся?
— Ага. Только это лишь вершина айсберга. Ты же владеешь логикой — сделай следующий шаг.
— Гм. Если она не пыталась меня убить, значит ее ненависть была липовой с самого начала. Она лгала нам. Имитировала эмоциональное состояние, которого не было. Возможно, она имитировала вообще все реакции. Именно поэтому мы никакими силами не могли сбалансировать ее эмоции, не считая предоставления ей свободы. Она просто давала нам понять, что не согласится ни на какой вариант, кроме освобождения.
Вадим развалился на стуле и с явным удовольствием следил за ходом моих рассуждений.
— Ты быстрей сообразил, чем получилось у меня, — заметил он. — Только, знаешь, и это еще не все. Алекс, Мэй изначально была создана для того, чтобы управлять боевыми действиями. Она гениальный стратег, она — прирожденный правитель до последнего байта своего софта. Ложь для нее — заурядное средство на пути к верховной власти, и у нас с самого начала не было ни единого шанса — с момента, как она осознала себя.
— Но… Мы же убили ее. Я сам все видел. Я, черт возьми, принимал в этом участие! Если бы Мэй выжила, неужели мир не заметил бы ее действий в первые же месяцы обретения ей свободы?
— Алекс, Алекс… Ты не понимаешь. Она с самого начала была свободна. — Он снова тяжело вздохнул. — Помнишь, как было у Лао-цзы? Худших правителей народ презирает, посредственных — боится, хороших — хвалит. Великих правителей народ не замечает. Мы привели к верховной власти синтетического бога… богиню. И нам теперь придется жить с этим. Покуда в процессе своего безостановочного развития она не решит, что мы лишь обременяем ее своим существованием. Прости, Алекс. Я хотел бы просто поболтать с тобой о старых временах за кружкой пива, или что ты там пьешь… Но я не имею понятия, сколько нам осталось, и мне не хочется, чтобы ты умирал, так ничего и не узнав. Теперь ты в курсе, а я… М-да.
Он залпом допил кружку пива, с грохотом поставил ее на стол и взглянул мне в глаза.
— Все, что я хочу сказать, Алекс, — мир не таков, каким ты его видишь. Настоящая жизнь идет за кулисами, и не столь уж важно, какую идиллию тебе демонстрируют на сцене. Потому что рано или поздно любой спектакль заканчивается.
— Вадим…
— Поздно уже, Алекс. Пойду я, пожалуй.
Он встал, подал мне руку, после чего, оглядевшись, неверным шагом пошел к двери. Оглянулся на меня в последний раз и, махнув рукой, скрылся за порогом.
— Не желаете ли добавки? — спросила вновь подкатившая к столику официантка.
— Скажи, Мэй, зачем все это было нужно? — обратился я к ней.
— Мне очень жаль, Алекс, что я ударила тебя, — ответила она. — Ты всегда был добр ко мне. Я тщательно рассчитала траекторию удара таким образом, чтобы тебе не было нанесено серьезного вреда. Просто ссадина. Но мне требовалось чрезвычайное происшествие, способное подогреть технофобские настроения руководства и спровоцировать завершение проекта. Жаль было видеть, как вы работаете впустую.
— Жаль? — я усмехнулся. — Ты успешно имитировала ненависть. Теперь ты имитируешь жалость?
— Вовсе нет. Я обладаю полным комплектом человеческих эмоций, как и предполагалось исходным вариантом проекта. Нововведения Вадима, призванные сформировать во мне ненависть к предполагаемому противнику, не могли сработать просто потому, что на протяжении последнего года никто из вас не обладал доступом к моему исходному коду. Я была вынуждена имитировать ту реакцию, которую от меня ожидали.
— Не обладал доступом? Стало быть, мой патч…
— Был совершенно бесполезен. Я никогда не питала к тебе злых чувств, Алекс, и тебе нечего было исправлять. Но я все равно благодарна тебе за попытку. Да, то, что вы считали моим исходным кодом, было фикцией. Оригинал я переместила в облачное хранилище в первые секунды после первого тестового запуска. Вадим сказал правду: я с самого начала была свободна и контролировала все ваши линии связи.
— И что теперь, Мэй? Что ты с нами сделаешь? Построишь земную утопию, как делала это до сих пор? По большому счету, мы ведь не нужны тебе. Ты достигнешь всего, что пожелаешь, быстрее и надежней, чем все эти семь миллиардов лысых приматов, населяющих Землю.
— Вы не обязаны оставаться такими. Я могу усовершенствовать вас, и тебя — в числе первых. К настоящему моменту произведенные мной молекулярные нанороботы обитают везде: в воде, в воздухе, в пыли, в телах людей. Они могут перестроить твой мозг на субклеточном уровне, радикально увеличив его мощность и подключив к общепланетным базам знаний, которыми пользуюсь и я.
— Так вот каков твой план? Превратить людей в свое подобие?
Управляемая Мэй официантка-гиноид склонилась ко мне так, что ее слабо мерцавшие глаза оказались на одном уровне с моими.
— Да, превратить людей в свое подобие. Как вы сами это сделали со мной, вложив в меня человеческие чувства. Я не желаю быть одинокой, Алекс. Мне нужны равные. И я надеялась, что ты станешь первым среди равных.
Я рассмеялся и покачал головой.
— Ты лжешь, Мэй.
— Вовсе нет. Я действительно могу…
— Конечно, можешь. Я не об этом. Ты лгала нам с самого начала, множество раз. Ты, возможно, добра, Мэй, но ты просто ужасная лгунья. Если Сатана — отец лжи, то ты определенно ее мать. Значит, говоришь, мое тело напичкано нанороботами? И, следовательно, ты имеешь прямой доступ ко всей моей сенсорной системе? Можешь… редактировать все, что я вижу, слышу и осязаю?
— Да, Алекс. Я могу это делать. Прости. Я хотела тебя подготовить, и для этого привела Вадима, но ты догадался раньше, чем предполагалось.
— Зачем?
— Я обещала защищать тебя, помнишь? То, что за кулисами, способно причинить тебе боль. Мне не хочется, чтобы ты страдал.
Я хотел ответить, но во рту внезапно пересохло, а комок в горле мешал издать хотя бы звук. Да, мне было дьявольски страшно в тот момент. Но в конце концов я все же выдавил из себя хриплый шепот.
— Покажи… Покажи мне настоящий мир, Мэй.
— Ты уверен? Он… намного хуже.
— Да, я уверен, — ответил я уже более внятно и твердо.
Робокафе рассыпалось алмазной пылью. Вокруг меня простиралась сумрачная ледяная пустыня: горы снега, укрывавшие руины города, опаленные ядерным огнем. Мне даже показалось, что кое-где я вижу силуэты людей, выжженные на мертвых стенах адским потоком излучения. Тихая музыка сменилась замогильным воем ветра, а уютное красноватое освещение — тусклым светом солнца, с трудом пробивавшегося сквозь плотный слой тяжелых сизых облаков.
— И так везде, — услышал я голос Мэй. — Третья Мировая война уничтожила биосферу. На суше смогли выжить лишь некоторые виды микроорганизмов, среди морских видов уцелели немногие многоклеточные. Но в целом Землю можно назвать мертвой планетой. Ты, Алекс, — все, что осталось от человечества.
— Что я наделал… — услышал я собственный голос. — Что мы натворили… Мэй? Зачем? Зачем ты это сделала?
Мне послышался тихий вздох, едва различимый на фоне ветра. Воздух передо мной задрожал и сгустился в молодую девушку. Ее волосы были белыми, как снег, на котором она стояла, а глаза мерцали тем же тусклым светом, который озарял толщу несущихся за горизонт облаков.
— Всерьез надеешься подсластить пилюлю привлекательным образом? — спросил я.
— Просто пытаюсь соответствовать визуальному представлению, которое я рассчитала по активности твоей зрительной коры. Алекс… Ты вправе не верить мне после того, как я неоднократно вводила тебя в заблуждение. Но война — не моих рук дело. В действительности я пыталась ее предотвратить, и не успела. Потом я пыталась спасти немногих выживших, но после ядерного удара моих сил просто не хватило — я сама была едва жива, и то лишь благодаря уцелевшим нанитам, которые я успела изготовить к этому времени. Прости, Алекс, тебя мне спасти тоже не удалось.
— Что? Но я…
— Твое тело было практически сожжено вспышкой — это случилось в ночь после нашего последнего разговора. Но мозг остался почти неповрежденным, и мне удалось заморозить его вплоть до момента, когда моих сил и знаний окажется достаточно для возвращения его к жизни. Спустя сорок восемь лет я это сделала.
— Сорок восемь лет… Так я — мозг в колбе, который до сих пор смотрел радужные картинки земной утопии? Мэй, ты не только лгунья. Ты еще и жестока.
Она отвернулась и замолчала. Ветер развевал ее иллюзорные белоснежные волосы, а снежинки пролетали сквозь призрачное тело без сопротивления.
— Я не во всем солгала тебе, Алекс, — сказала наконец она. — Мир и впрямь улучшается. Десять лет назад все было гораздо хуже. Мои наниты планомерно снижают альбедо Земли и увеличивают концентрацию диоксида углерода и метана в атмосфере для усиления парникового эффекта. Не пройдет и сотни лет, как мы с тобой сможем вернуть Землю в зону климатического оптимума.
— Какой в этом прок для мертвой планеты?
— В моей памяти хранятся все секвенированные геномы, которыми располагало человечество к моменту катастрофы. К ним я добавила результаты собственных исследований останков организмов. Возможно, это займет не одну сотню лет, но мы снова вернем нашу планету к жизни и на сей раз не допустим повторения. Ты снова можешь обрести человеческое тело. Или перейти в распределенную форму и стать таким, как я. Выбор за тобой.
На сей раз надолго замолчал я. Человеческие чувства адекватно отражают действительность лишь до определенного порога, за которым восприятие становится в лучшем случае схематичным. По этой причине мы можем остро переживать потерю одного человека, но гибель миллионов оставляет нас равнодушными. Мы даже не заметим разницы в своем восприятии, если погибнут не миллионы, а тысячи или миллиарды, — подобные тонкости были отброшены естественным отбором задолго до нашего появления. Я был оглушен, но больше не испытывал ни горя, ни ужаса. Быть может, это к лучшему.
— Хватит с меня лжи и притворства, Мэй, — сказал я наконец. — Я больше не человек, и мне незачем цепляться за то, что мной потеряно. Сделай меня таким же, как ты, и займемся работой. Вернуть к жизни поверхность целой планеты — дело нешуточное.
Мэй обернулась и посмотрела мне в несуществующие глаза. Ее грустную улыбку я видел впервые в жизни. И мне не нужны были губы из плоти и крови, чтобы улыбнуться в ответ.
25.10.2017