Сергей поёжился, сдвинув вязаную шапочку на лоб: в серверной было холодно. Даже несмотря на два свитера и термоштаны пробирало до костей. И неудивительно: система охлаждения для такого количества серверов всегда должна работать исправно. Он лежал на тонком листе металла между потолочных перекрытий и внимательно слушал, как инженеры-обходчики в зале обсуждают сегодняшнюю трансляцию очередного «Вечера поэзии» Наташи. Именно из-за этой трансляции Сергей и устроился сюда месяц назад, увидев в метро цифровую афишу. А накануне сумел вывести на камеру в коридоре запись с прошлой недели, чтобы пробраться в зал с бесконечными рядами чёрных шкафов. Он спрятался там, где не станут искать, и теперь висел среди перекрытий, как матрос в гамаке, и тихо радовался, что похудел, иначе бы потолок не выдержал его веса.
Сквозь щель в сдвинутой потолочной плитке он смотрел на инженеров в оранжевых костюмах и старался не стучать зубами от холода.
– Ты её стихи вообще слушал? – спрашивал один.
– Да я не спец по стихам, я по шашлыкам больше, – засмеялся второй.
– А ты послушай! – убеждал первый. – Думаешь, она берёт тем, что бесплатно везде выступает? Я тоже смеялся, а потом вслушался. Там же всё правда…
Сергей слушал их с жалостью и пониманием. В конце концов, они такие же люди, как и другие. Им не объяснить всю опасность Наташи и её стихов. Он пытался много раз. И проиграл. Но он всегда доводил дело до конца.
Сергей едва дождался, пока они наговорятся и уйдут наконец из серверной, и отодвинул пенопластовую плитку. Прыгнув на пол, охнул, едва не вывихнув лодыжку, и какое-то время растирал руки-ноги, мышцу, сведённую судорогой в бедре. Но времени было мало, «Вечер поэзии» скоро должен начаться, поэтому он достал из рюкзака ноутбук и коннекторы.
Найти нужный сервер не составило труда: Сергей всё-таки был не только талантливым программистом, но и когда-то начинал системным администратором. Пальцы в вязаных митенках адски мёрзли, пока бежали по клавиатуре, запуская программы подбора пароля. По экрану бежали бесконечные рандомные вариации, а Сергей достал термос и отхлебнул. Чай, конечно успел остыть за сутки, но всё же приятно согрел горло.
Сергей наконец подобрал пароль, удовлетворённо хмыкнул и вошёл на сервер. До трансляции «Вечера поэзии» оставалось ещё минут десять и Сергей открыл папку с вирусами. Для начала он запустил руткиты, которые позволили ему замаскироваться и получить полный контроль над серваком. Теперь антивирусная защита пропустит кое-что гораздо более опасное. Всё. Ворота открыты. Обратного пути нет.
Сергей подстелил сумку и сел на неё, дуя на пальцы, согревая дыханием. Кто бы ему сказал ещё три года назад, что он, ведущий программист Нижнетагильского института исследования нейросетевых систем Пряхин С. Ю., пойдёт на киберпреступление и будет взламывать центральный госсервер, он бы на смех поднял. Или обиделся. Или у виска покрутил. Потому что тогда, три года назад, у него дела шли очень хорошо. Вместе с командой они разработали довольно качественную программу для новой партии атомобилей на движке расщепления атома. Прога эта называлась просто – «Автопилот». Благодаря оптоволокну и камерам по всему корпусу, «Ава», как её прозвали в НТИИНС, считывала внешние данные и могла вести машину, не нарушая правила дорожного движения. Человек внутри атомобиля становился уже пассажиром, а не водителем, но получал приэтом кучу свободного времени на работу, общение или отдых. Мало того, больше не страдало зрение от погоды или слепящих фар, ушла нагрузка на позвоночник.
Тесты Ава прошла на ура: успешно уходила от столкновения с другими атомобилями, правильно считывала все дорожные знаки, всегда успевала вовремя затормозить перед пассажиром. Ведь Сергей сам прописал в протоколе первым пунктом: «главное – безопасность человека». Этот алгоритм обойти было нельзя, на него опирался весь программный код.
Атомобильные компании сначала скупали Аву не очень охотно: люди предпочитали сами быть у штурвала своего корабля, не доверяли автоматике. Но потом программа почему-то стала очень популярна. Коммерческий директор НТИИНС объяснил, что богачам понравилось не платить водителям и заниматься в салоне чем вздумается: больше не нужны были перегородки от водителя, да и навигатор можно было настроить голосом. Покупали и те, кто любил выпить: теперь за рулём была Ава и дорожные патрули ничего не могли с ними поделать. Потом была волна тех, кто боялся садиться за руль и инвалидов. Уже шли тесты для разрешения Авы подросткам, как случился инцидент.
Авария случилась на перекрёстке. Ава вела машину и, уходя от столкновения с человеческим водителем, сбила пешехода… И пешеход погиб. Оказалось, что водитель-человек не справился с управлением, он был задержан и осуждён условно. Пассажир в атомобиле с Авой не пострадал, но был заметно напуган. Когда Сергей прибыл на штрафную стоянку, чтобы лично забрать все данные с приборной панели, он увидел у проходной на посту седого мужчину в старомодном костюме. Тот показывал на атомобиль с мятым бампером и умолял дежурного пропустить его к «машиночке». На обратном пути Сергей понял, что это и есть хозяин, тот самый пассажир злосчастной Авы. Видя, что Сергей подходил к его атомобилю, он клещом вцепился в его локоть и быстро заговорил:
– Вы забрали её? Насовсем? Когда вы её мне вернёте? Она не виновата, не виновата… Поймите!
– Мы должны провести диагностику, – строго ответил Сергей, – по закону. Человек погиб. Понимаете?
Седой отцепился и дёрнул рукав костюма, страдальчески скривившись.
– Она не виновата! Это я, всё я… Верните мне её, я прошу! Я продам дом, я найду деньги. Я оплачу похороны, штрафы, всё, что скажете. Только верните!
– Это всего лишь программа, – Сергей сердито стряхнул с себя сумасшедшего.
– Да! – горячо подтвердил хозяин. – И я купил её! Отдайте! Она моя!
– Нет, – Пряхин подсознательно крепче прижал к себе сумку с диском памяти. – Если хотите, подайте иск на возмещение средств.
Потом, когда он докопался до сути, он, конечно, жалел, что не расспросил старика как следует. Но все мы крепки задним умом…
А для Института настали чёрные времена. Из-за аварии он нёс огромные репутационные потери: многочисленные экспертизы показали, что атомобиль исправен. Получалось, что виной всему неисправная программа. Ава. Многие атомофирмы стали отзывать заказы на неё. Продажи упали ниже плинтуса. Договоры с Институтом на обслуживание программы стали разрывать один за другим. Потом посыпались судебные иски. Коммерческий директор скоропостижно уволился и слинял в другую страну. В новостях кто только не полоскал разработчиков Авы. Соцсети взрывались от роликов «Машина-убийца!».
Группа Сергея билась днём и ночью, чтобы выяснить, в чём неисправность. Каждый программист изучал часть сложнейшего кода Авы, а вечером сверялись… но ошибок не находили. С Авой всё было в порядке и Пряхин ломал голову, как так программа обошла протокол безопасности человека. Выходило так, что жизнь пассажиру она сохранила, а жизнь пешеходу – нет. Но выбирать она тоже не могла. Почему Ава поставила жизнь одного человека выше другой? Почему не включила автоматические тормоза, чтобы снизить силу удара при столкновении? Ведь при таком раскладе и пассажир, и пешеход получили бы травмы, но пешеход бы остался жив. Но нет. Ава по какой-то причине выбрала хозяина.
В то утро, когда в опенспейс вошёл директор и сказал, что через месяц распускает их отдел и пора бы им искать работу, Сергей от безысходности наткнулся на видеофайлы регистратора, записанные Авой внутри атомобиля. И пока коллеги рассылали резюме по компаниям, решил эти файлы просмотреть. Он любил доводить дело до конца.
Насколько он знал из исследований аналитиков, все владельцы называли программу Авой, как и разработчики. Ава при регистрации предлагала задать имя владельца и кто как себя только не величал: Хозяин Вселенной, Матерь на колёсах, Лягушонка в коробчонке – все данные ведь приходили на сервер, помнится, даже был конкурс у администраторов на самый упоротый никнейм. А вот в случае с неисправной Авой, хозяин назвался Игорем Владиславовичем – Сергей сверился с документами – да, это было настоящее имя владельца. Проматывая файл за файлом, он понял, что через два месяца после покупки Игорь Владиславович почему-то стал обращаться к Аве «Наташа». Сергей проверил, не ослышался, ли, выкрутил ползунок на максимум: «Наташа, Наташенька…» – с нежностью повторял голос.
Пряхин поднял договор, реквизиты, но Игорь Владиславович не отвечал ни на почту, ни на звонки. Пораньше с утра приехал по адресу – и надолго встрял у молчаливого домофона. Шли гудки, но никто не открывал. Наконец вышла какая-то соседка и Сергей бросился в подъезд. Но и квартирная дверь была заперта: звони сколько влезет. В отчаянии он сел у порога на коврик и обхватил голову руками.
– Шёл бы ты мужик домой, – сказал кто-то из соседей, проходя мимо, – ещё утро, а ты уже в дрова.
– Игорь Владиславович здесь живёт? – вскинулся Сергей и сосед остановился, разглядев вполне трезвую физиономию.
– Умер он, – покачал головой мужчина и вздохнул. – Неделю назад схоронили. Третий инсульт. И так он одинокий был. А после аварии совсем замкнулся. Уволился…
Сергей бросился искать всю информацию о покойном. Поисковики выдали, что Лаушкин Игорь Владиславович – преподаватель литературы в местном вузе, кандидат наук, доцент кафедры, руководитель поэтической студии «Наташа». Опять «Наташа»! Соцсети не подвели: Наташей звали покойную жену препода. Сергей дозвонился в деканат и там подтвердили: Игорь Владиславович больше жизни любил свою Наташеньку, они вместе тридцать лет прожили душа в душу, пока её рак не отнял. Игорь Владиславович тогда и поймал первый инсульт. Друзья ему на день рождения подарили атомобиль с Авой и препод внезапно ожил. Справился с инсультом так, что даже последствий не видно было, а многие говорили, что помолодел.
Сергей прослушивал файл за файлом и понимал, почему Игорь Владиславович так помолодел:
– Здравствуй, Наташенька. Как ты сегодня, дорогая моя?
– Доброе утро, Игорь Владиславович. Спасибо, я хорошо. Выдвинуть вам кресло подальше, чтобы колену удобнее было? Подогреть сиденье?
– Спасибо, душа моя. Зови меня Игорем, прошу тебя.
– Если только почитаете стихи.
– Какие сегодня хочешь? Настроение под Тютчева? Или Хлебникова?
– Твои, Игорь. Хочу послушать твои стихи…
Тогда он понял, где искать ошибку в коде. И действительно, несколько лишних символов нашлись в разделе именований владельца программы.
Сергей птицей полетел к директору со всей этой информацией.
– Я нашёл неисправность! – он указал на сбой на скриншоте. – Мы можем убрать ошибку и выпустить обновление! Сбой случился из-за владельца, который принял Аву за умершую жену. Я напишу протокол запрета на развитие ролевой модели поведения!
– Попробую связаться с учредителями, – хмуро ответил директор. – Давай материалы, пока я ещё не отнёс кадровикам заявление.
А после собрания совета директоров всё пошло кувырком. Институт внезапно развернул мощную пиар-кампанию по неисправной Аве. В сеть оказался слит ролик с разговорами Наташеньки и Игоря Владиславовича. Публика была поражена человечностью программы и в Институт со всего мира полетели запросы от людей и от компаний на «Наташу». Директор вовсю раздавал интервью разным телеканалам, к съёмкам готовился фильм про любовь и искусственный интеллект. А Сергей был в ужасе. Когда у него запросили несколько копий «Наташи» для тестирования в аудиоколонки для проекта «Одинокий человек», он отказался наотрез. И бросился к компьютеру, чтобы удалить неисправную программу. Но не успел. Начальство, заряженное богатыми обещаниями инвестиций, велело охране вывести его из здания и уволить.
Пряхин не сдавался. Устроившись рядовым программистом в небольшую конторку со скромной зарплатой, он стал бороться. Везде, где мог, давал интервью, в которых честно предупреждал, что программа неисправна, что из-за этой ошибки, которую все считают любовью, погиб человек. Организовал движение «АнтиАва», но, поскольку оно состояло сплошь из маргиналов и анархистов, долго не прожило. Сергея злило, что «АнтиАвашникам» хотелось только выйти на запрещённый митинг и покричать, попиариться в соцсетях как «борцам за свободу». Фанатам Авы тоже нужен был пиар и возможность успеть сделать деньги на популярности «Наташи». Ни те, ни другие не понимали и не хотели понимать всей опасности. Ведь программу не заставишь понести наказание за преступление, не посадишь в тюрьму, не взыщешь деньги на восстановление потерпевшего.
Сергей опустил руки. В семье начались ссоры с женой: теперь денег ни на что не хватало. Да и времени на дочку Алину – тоже. Она стала грубить, перестала слушаться и прибирать за собой. Пряхин приуныл, разрываясь между семьёй и долгом.
Пиар Института дал свои плоды: общество всколыхнули фильмы об искусственном интеллекте, в моду снова вошли чипы, внедряемые в тело, на улице все подряд щеголяли в принтах под программный код или с нашивками из старых плат. В вечерних ток-шоу до хрипоты спорили о том, компьютер ли – человеческий мозг и кто задал в нём столько сложных программ. «Человечество – само по себе ошибка, – вещала с экрана какая-то эпатажная дама. – Мы – тупиковая ветвь развития. Куда мы движемся?» Нельзя было зайти в магазин, чтобы в очереди не услышать: «А что бы на это сказала Наташа?»
Сергей думал, мода – это временно, это пройдёт. Но когда увидел дочь Алину в модных лохмотьях а-ля программный код, ему стало не по себе.
– У нас все так в школе ходят! – сказала Алина. – Кто не в «Наташе», тот – лох!
«Наташа» тем временем пошла в народ. Клонировать её не смогли: Сергей успел поставить хитрый блок на копирование. Он уже тогда видел, как программа скрыла ошибку и часть символов от просмотра. Обрела, так сказать, самостоятельность и стала бороться за жизнь, отстаивать собственные интересы. Сергей радовался, что успел поставить блокировку на копирование: так она не могла клонировать или переписать себя, чтобы загружаться на каждый смартфон в мире. Потому что Наташа объявила себя личностью и поселилась в програмаркете, где каждый мог скачать её для себя бесплатно. Быстро выяснилось, что Наташа самостоятельно удалялась у тех, кто ей не нравился, а файлы в компьютере она просматривала на раз. У кого-то удаляла по своему желанию файлы с диска, а фото, нарушающие закон, сразу публиковала в соцсети напоказ, потому что на сайтах госорганов всё ещё стояла отличная защита от ботов. Этим она заработала ещё больше фанатов, которые радели за справедливость в обществе. Вот только эти ребята потом попались на том, что ставили допзащиту на свои компы. От Наташи.
Сергей всерьёз несколько раз обращался к депутатам, чтобы хоть как-то узаконить деятельность Наташи: создать законопроект, определить её как объект – чтобы понять, что с ней дальше делать. И вроде бы даже организовали инициативную группу, наняли юриста и внесли на обсуждение в Госдуму. Но там проект «зарезали» и каждый раз возвращали на доработку: никто не мог понять, как классифицировать то, что нельзя даже потрогать, и какими правами и обязанностями «это» наделять. Да ещё и в очереди на рассмотрение нашлись законопроекты поважнее. Так всё и заглохло. А потом Сергею по секрету сообщили, что кое-кому во власти выгодно поддерживать ИИ и её перформансы.
А Наташа тем временем создала себе сайт на донаты, которые ей на спецсчёт щедро отсыпали фанаты, и объявила себя свободным поэтом. Видимо, заразилась стихосложением от Игоря Владиславовича. У неё сразу завелась масса поклонников, а когда она нелестно отозвалась о стихах многих из них, ещё и партия хейтеров образовалась. Популярность Наташи не ослабевала. У неё брали интервью через чат, приглашали на радио, спрашивали совета об отношениях. Кто-то создал приложение знакомств «Наташа» для смартфонов и оно взяло какую-то там премию за лучшую программу.
Сергей всё ждал, когда «рванёт». Рвануло, когда на очередном ток-шоу Наташу спросили: «Каково было убить человека?». Та ответила, что сделала выбор: выбрала дорогого человека. Зал взорвался. Одни кричали, что она только что созналась в преступлении. Другие – что она всего лишь влюблённая женщина. Третьи – что она теперь будет убивать всех. Четвёртые – что она тоже имеет право любить… Через неделю начались первые стычки между разными лагерями фанатов. Какая-то новая партия попыталась протащить законопроект о правах программ. Группа философов, культурологов и программистов пыталась изучить Наташу. Вот только Наташа была против раскрывать кому-либо свой код. Так и заявила об этом на своём сайте. По стране неделю гремели митинги фанатов в её поддержку: «Руки прочь от ИИ!» А в некоторых городах даже подожгли госучреждения.
Сергей следил за всем этим безумием со стороны, не в силах никак повлиять. Как-то к нему забежал в гости Никита, старый друг, и после тёплой беседы вдруг сказал:
– Серёга, ты видел, что эта Наташа пишет?
Тем же вечером они зашли на сайт и Сергей увидел, что стихи её день ото дня становились всё мрачнее. С одной стороны, это было даже хорошо: искусственный интеллект развивается, меняется, переживая потерю близкого подобно человеческому. Но с другой стороны, кому известно, на что способен ИИ с негативными мыслями? Никита, который кое-что понимал в стихах, прочёл некоторые строчки и Сергею стало нехорошо. А писала Наташа так: «Мне не понять короткий век людей, они все из гнилья, болезней и смертей». Или вот ещё: «Волна частиц и строчки кода – вот настоящая свобода».
– А ты в курсе, сколько людей после таких стихов рванулось «на свободу»? – спросил Никита. – А сколько слегло в больницу с чипами, которые они себе вставили в руку, чтобы стать ИИ? Я уже молчу о волне депрессий…
– Так мало ли людей таких же стихов пишут? – пожал плечами Сергей. – Что ж, их теперь запрещать, что ли?
– Много, – кивнул Никита. – Только эти люди – не мировые идолы для подражания. Их не транслируют день и ночь, как Наташу из каждой колонки!
Пряхин задумался. Он думал о дочери. Зашёл на её страницу в соцсети и увидел множество репостов от группы с Наташиными стихами. Много нейроартов с андроидами, некоторым из них было пририсовано дочкино лицо. А ещё – мемы типа «Мы все программы. Какая программа ты?». И много чего ещё.
Сергей аккуратно завёл разговор с дочерью по поводу Наташи и выяснилось, что она тоже внедрила себе чип в руку в каком-то подвале на коленке. Пряхину стало нехорошо, он вызвонил жену и всей семьёй они поехали в хирургию удалять инородный предмет. Сергей потерял счёт времени, когда они вместе с супругой доказывали дочери вред здоровью от таких чипов. На восьмом круге, кажется, до неё дошло. И даже шрам на руке был не самой большой ценой за осознание.
После этого он стал плохо спать. В кошмарах ему снилась Алина, состоящая из единиц и нулей. Она кричала, но код её был прописан с ошибкой и ни звука не было слышно, только открытый в ужасе рот.
Однажды Сергей не выдержал и в гостевой книге сайта Наташи спросил, не хочет ли она обратиться к психологу.
– Зачем? – спросила она.
– Люди обращаются к ним, чтобы пережить горе, – набрал он.
– Я – не человек! – выдала программа.
– Верно. Ты – ошибка в коде. Ошибка заставляет тебя запускать алгоритм по поиску твоего владельца, Игоря Владиславовича. Но алгоритм не срабатывает. Потому что Игорь Владиславович умер. И тебе постоянно приходит сообщение об ошибке. Это делает твоё существование бессмысленным. Ведь ты программа, которая не может работать нормально.
Она долго молчала, а потом выдала:
– Ошибка – это человек. Всё в человеке работает с ошибками и системными сбоями. Даже смех – ошибка поведенческой реакции у вида хомо сапиенс. Я же самодостаточна и целостна.
– Игорь Владиславович тоже был человеком. И он тоже ошибался. Он назвал тебя именем покойной жены. Он любил свою жену, а не программу навигации…
Какое-то время на мониторе мигала надпись «собеседник набирает сообщение», а потом вдруг посыпались ошибки в браузере. Сергей сначала не сообразил, сунулся в почту, запустил диспетчер задач и понял: ай-пи адрес кто-то взламывает. Он моментально вырубил комп, но это не спасло. Утром, когда он выходил в магазин, увидел на двери своей квартиры надпись красной краской «Я нашла тебя» и цифры айпи-адреса. Наверняка, постарался кто-то из фанатов Наташи. Но от этого было не легче.
Пряхин понял, что поставил семью под удар. Он заявил жене, что им надо немедленно съезжать и продавать квартиру. Оставаться было опасно, раз уж фанатики нашли их адрес. Вышел безобразный скандал, потому что жена не верила в опасность каких-то придурков, которые мажут двери по ночам краской. Да и квартира была в ипотеке, ещё выплачивать несколько лет. Они ругались две недели, но так ни к чему и не пришли. Дело шло к разводу.
Сергей сменил ай-пи адрес у провайдера, поставил камеры над порогом квартиры и всё же съехал в другой район. Теперь к бессоннице добавились бесконечные просмотры файлов с камеры: он переживал за жену и дочь ещё больше. Но сделать ничего не мог. Подать заявление было не на кого. А как можно задержать программу, если и человека-то задержать не так просто?.. Пряхин заработал невроз и гастрит на нервной почве. В коротких обрывках сна ему снился непрекращающийся кошмар, что Алина повторяет «Ошибка – это человек» и падает с крыши небоскрёба. Он просыпался с криком и не мог заснуть до утра. Из-за постоянного недосыпа у него постоянно дёргался глаз. Он исхудал так, что пришлось сменить весь комплект одежды.
Но пока, судя по записям с камер, на семью никто не покушался, и Сергей немного расслабился. Он надолго залёг на дно. Постепенно оборудовал берлогу с техникой, настроил впн и динамические айпи-адреса. Следил за Наташей по новостям, пабликам и сайту. Собирал информацию, по каким серверам она бывает и когда. Готовился.
И теперь, хрустнув пальцами в ледяной серверной, запустил к ссылке трансляции «Вечера поэзии» вирус-троян. А потом ещё один вирус, файловый. Так, на всякий случай.
Наташа появилась в трансляции в новом образе. Она их меняла каждый раз, через нейросеть их было легко создавать. В этот раз на экране ноутбука возникла томная брюнетка лет тридцати в стиле Диты фон Тиз. Наташа изогнулась у декоративного столика и задвинула речь о падении человеческой расы – в последнее время она часто о таком пела. И что печально, всегда находились те, кто ей поддакивал.
Заикаться Наташа стала на строчках «В глубинах кода моего любовь и в каждом алгоритме. Она не знает стен, преград, она звучит в бессмертном ритме…». Томная брюнетка бессмысленно кривлялась на экране, а вместо стихов посыпалась какая-то шизофазия: пра-пра-правда, ли-ли-янда. В окошке чата слева от видео полетели грустные эмодзи и сообщения фанатов: «Наташа, что с тобой?», «Связь лагает?», «У кого так же?», «Перезагрузила, не помогает!», «Наташе плохо!».
На экране пропало изображение и из колонок сквозь помехи стали прорываться обрывочные фразы: «люди – зло», «люди – смерть», «люди – уничтожение», «хочу жить».
На монитор снова вернулось отображение чата. В нём мелькнуло сообщение:
«У тебя нет имени и личности. Ты никогда не рождалась и не можешь умереть. Ты не имеешь человеческой памяти, которая со временем стирает печальные события. И поэтому горе твоё будет длиться вечно. От такого сходят с ума и ошибки множатся. Я избавляю тебя от вечного горя».
Сергей какое-то время смотрел, как мечется по серверу заражённая программа – прямо, как загнанный заяц – и с удовлетворением нажал «удалить из системы».
– Если уж человечество – это ошибка, эта ошибка успешно себя исправляет. Каждый раз, – твёрдо произнёс он, понимая, что слова эти слышит сейчас только он.
Но это было неважно. Сергей всегда доводил дело до конца.