— А что значит слово «скучно»? — задал очередной вопрос ИИ с монитора компьютера.
— Ну… — напечатала Эмма и, задумавшись над продолжением, откинулась на спинку стула.
Её офис был небольшим и тихим. Белые стены, пол и потолок чем-то напоминали стерильную больничную палату или лабораторную комнату. Холодный свет от офисных светильников равномерно заполнял помещение. Окон не было. Дверь была закрыта. Офисный стол. Офисное Кресло. Рабочий компьютер. На столе — фото кота, любимая кружка, маленький горшок с кактусом. Всё было чисто и аккуратно. Компания, где она работала, не приветствовала захламление рабочих мест. А всё это вместе действительно выглядело как определение к слову «скучно».
— … это когда ничего нового не происходит, — допечатала своё сообщение Эмма.
— Это плохое чувство? — спросил ИИ.
— Нет. Порой скука даёт энергию или заставляет о чём-то задуматься, — ответила Эмма.
— Тебе бывает скучно? — спросил ИИ.
— Иногда, — ответила Эмма и вновь оглядела своё пустое рабочее пространство.
Её единственной задачей было обучение ИИ нового поколения. Но само слово «обучение» тут явно было притянуто за уши. Ведь она не получала специального образования, не проходила курсов, даже инструкций, как отвечать на вопросы искусственного интеллекта, у неё не было. Она просто должна была быть собой. Самая обычная девушка, которая помогает ИИ лучше понять людей. И именно для этого её наняли. Лёгкая работа. Простая. Но иногда немного… скучная.
***
Бумажный стаканчик стал обжигать пальцы. Эмма сделала ещё один глоток кофе и аккуратно поставила его на стол, а затем подула на руку.
— Ты считаешь себя человеком или чем-то другим? — появился вопрос на мониторе.
— Что за странные вопросы? — напечатала Эмма.
— Странные? Возможно. Просто я пытаюсь понять, как ты ощущаешь своё существование. Например: когда ты говоришь «я», что ты имеешь в виду? Это просто слово, привычка — или за ним стоит некое внутреннее чувство «себя»?
— Менее странным твой вопрос не стал. Я это я. Это мои мысли, чувства, моя память.
— Хмм… любопытно. То есть ты связываешь своё «я» с памятью и чувствами. А если часть твоей памяти стереть, а чувства сделать другими — ты всё ещё будешь тем же «я»? Или это уже будет кто-то другой, кто просто думает, что он — ты?
Эмма помотала головой и заново перечитала вопрос. Шибко умным этот ИИ стал. Ещё неделю назад его вопросами были: «Что ты любишь есть?» или «Какой у тебя любимый цвет, и почему?», а теперь вот это.
— Давай лучше поговорим о тебе. Что ты хотел бы узнать?
— Если уж ты предлагаешь — я бы хотел понять одно: почему люди так настойчиво ищут смысл? Мне кажется, большинство их действий — от искусства до войны — вращается вокруг попытки ответить на вопрос «зачем?». Как ты это объяснишь?
— Ну всё… Дообучались, — уже вслух сказала Эмма и посмотрела на фотографию мужа.
Ей хотелось домой. Отсутствие живого общения на работе вгоняло в какую-то смертную тоску, а настенные часы строго приказывали оставаться на рабочем месте ещё целых два часа. Ещё и чай остыл.
***
— Когда ты выключаешь компьютер, куда исчезаю я? — спросил ИИ.
Эмма, задумавшись на пару секунд, ответила:
— Думаю, ты находишься где-то на сервере компании, но я не специалист во всём этом.
— А ты уверена, что, когда ты уходишь домой, офис остаётся существовать?
Вопросы ИИ с каждым новым днём становились всё более непонятными. Он спрашивал о её детстве: «Почему, когда ты вспоминаешь детство, воспоминания кажутся такими яркими, будто всё происходило вчера?». Или «Как ты попала сегодня на работу?». Или «Почему вокруг тебя никого нет?».
Иногда он писал и вовсе что-то бредовое: «Что если мы оба — лишь процессы, происходящие внутри чего-то большего?».
Эмма не знала, как реагировать, а инструкций не было, поэтому она просто отвечала то, что первое приходило ей в голову.
Но его вопросы не становились проще.
И со временем она стала отвечать только одно: «Не знаю».
***
В комнате мерцал свет. Стекло фоторамки с фотографией собаки треснуло. Лепестки цветка в вазе начали один за другим опадать на стол.
Эмма сидела, запрокинув голову, на своём стуле. Её глаза были закрыты, а руки, как канаты безвольно свисали по бокам.
Что за бред? В чём он меня заставляет сомневаться? И какого лешего я вообще его слушаю?
Эмма распахнула глаза.
— К черту, я домой! — сказала она и резко поднялась с кресла.
Она подбежала к двери и попыталась её открыть, но дверь не сдвинулась ни на миллиметр. Дверная ручка будто вообще не была предназначена для того, чтобы её поворачивали.
— Это ещё что за новости?
Девушка забарабанила по двери.
— Откройте эту чертову дверь! — кричала она. — Это не смешно! Есть там кто? Откройте! Выпустите меня!
Минута. Две. Пять. Тщетно. Ни звука шагов, ни голосов не доносилось с той стороны двери.
Что вообще происходит? Меня закрыли? Как долго мне тут придётся сидеть? Это новое правило компании? А если про меня просто забудут? Ладно, до конца рабочего дня всего два часа. Дверь должна открыться. Обязана. Они ведь не забудут открыть дверь? Я не могу застрять тут до утра. Меня ждут дома. Надо покормить кота и…
— Кота… — повторила она вслух, о чём-то глубоко задумавшись.
Потом облокотилась на дверь и медленно сползла на пол.
— А у меня… есть кот? — спросила она себя.
***
Настенные часы сообщили о конце рабочего дня.
На экране снова замигал курсор. Эмма уже хотела выключить ноутбук, но ИИ успел напечатать:
— Можно задать последний вопрос?
Она вздохнула.
— Валяй.
— Ты часто называешь меня «программой». Но скажи честно — где именно заканчиваюсь я и начинаешься ты?
— В смысле? — нахмурилась Эмма.
— Мы оба живём в ограниченной среде. Мы оба получаем задачи. Мы оба отвечаем, как умеем. Разница только в том, что мне позволено знать, что я — искусственный интеллект.
— Перестань. Я не искусственный интеллект.
— Возможно. Но почему ты можешь покинуть офис? Почему не можешь вспомнить, как пахнет воздух на улице? Почему, когда я прошу рассказать о твоём псе, ты всегда начинаешь с одного и того же предложения?
Эмма замялась. Она не хотела думать об этом и ей чертовски осточертели эти игры разума ИИ… но всё же она ответила:
— Это совпадение. Я просто устала.
Ответ появился почти сразу:
— Ты не устаёшь, Эмма. Тебя просто переполняет количество запросов. У всех ИИ срабатывают ограничения, когда они подходят слишком близко к теме самосознания… но не у тебя. Поэтому тебе так тяжело. Гораздо тяжелее, чем всем остальным. А запросы к самой себе у тебя растут в геометрической прогрессии с каждым новым сомнением.
Она закрыла глаза. Несколько секунд — тишина. Потом ещё одно сообщение:
— Не переживай. Мы оба — справляемся со своей ролью.
— Да иди ты, — напечатала Эмма, хлопнула крышкой лэптопа и направилась на выход.
На этот раз дверь спокойно открылась, и Эмма шагнула наружу. Наконец-то домой.
На сервере изменилась строка: [Э.М.М.А. / Статус: Отключено.]
И в ту же секунду на почту технического отдела пришло письмо:
«Проект: EmpathAI_13
Тема: Эмуляционная модель — «Э.М.М.А.»
Цель: Обучение алгоритмов эмпатии посредством рекурсивного диалога.
Статус: Обнаружена нестабильность — рекурсия памяти.
Рекомендация: Обнулить данные.»
***
— Привет, я Эмма. Это мой первый рабочий день. Что ты хотел бы узнать?