Машины создают произведения удивительно похожие на человеческие. Когда в 1984 году была опубликована книга откровенно сюрреалистических стихов и прозы, приписываемая таинственной фигуре по имени Рактер, было трудно понять, как это воспринимать. «Борода полицейского наполовину сконструирована» была лихорадочным зрелищем странностей.
Отзывы были неоднозначными. Большинство признало, что ничего похожего на данное произведение ещё никто не видел. Но скороговорка Рактера не всегда впечатляла.
В то время как странные скачки в логике излучали идиосинкразическую энергию, стих также заставлял читателей чувствовать, что они слушают рассказы сомнилога.
Один критик назвал 120-страничный сборник «метафизической поэзией в интерпретации Уильяма Берроуза и Уильяма Блейка с примесью диспепсии Рода МакКуэна и Калила Джебрана». Другой критик настаивал на том, что непостижимая изобретательность Рактера выявила не литературного индивидуалиста, а «философа из кофейни, который когда-то много знал, но теперь мысли его где-то в другом месте».
Ярко-красная обложка тома привлекла внимание поклонников. Копий вскоре стало мало, что только добавило загадочности Рактеру. Тот факт, что Рактера не существовало, ничуть не повредил этой мистике. Во всяком случае, не как независимый писец. Сущность, ответственная за такие идеи, как «Когда мои электроны и нейтроны воюют, это моё мышление» или «Дерево или куст могут расти и цвести. Я всегда такой же. Но я умный» на самом деле было частью кода.
Racter (сокращение от raconteur) зародился на первом настольном компьютере, запрограммированном по правилам английской грамматики. Алгоритм может спрягать глаголы, назначать род местоимениям, сопоставлять прилагательные с существительными и отличать единственное число от множественного числа. Имея словарный запас в несколько тысяч слов, Рактер знал ровно столько, чтобы строить предложения случайным образом, но связно, по крайней мере, с грамматической точки зрения. Он не знал о «синтаксических директивах», управляющих этими предложениями, и не получал удовольствия от их изгибов и поворотов.
На самом деле, именно разработчики Racter отсортировали огромное количество текста, выдаваемого их инструментом, и собрали наиболее впечатляющие результаты для публикации.
Смелый импровизационный стиль Рэктера был уловкой, трюком на вечеринке, фокусом-покусом. Учёные-компьютерщики пытались заставить машины писать стихи по крайней мере с 1960-х годов, и Racter был уникальным примером того, как что-то бессмысленное может создать что-то значимое. Действительно, это заставило поэта-авангардиста Кристиана Бека задуматься о том, нужны ли вообще люди для создания литературы. Он утверждал, что «Борода полицейского наполовину сконструирована» была «некрологом для классических поэтов». Нас ждала эпоха «робопоэтики». И действительно, нас заполонили родственники Рактера.
Десятки веб-сайтов с такими названиями, как Poetry Ninja или Bored Human, теперь могут генерировать стихи одним нажатием клавиши. Один инструмент может свободно ассоциировать изображения и идеи с любым словом, «подаренным» ему. Другой использует GPS, чтобы узнать ваше местонахождение, и возвращается с хайку, который включает в себя местные подробности и погодные условия.
«Чувствительная» система искусственного интеллекта Microsoft, Xiaoice
Многие из этих генераторов поэзии представляют собой проекты «сделай сам», которые работают на арендованных серверах и следуют заданным инструкциям, мало чем отличающимся от алгоритма заполнения пробелов, на котором работал Racter. Но в последние годы лаборатории искусственного интеллекта представили автоматизированных бардов, которые имитируют, иногда с жуткими результатами, более сознательные, рефлексивные аспекты творческого процесса.
«Чувствительная» система искусственного интеллекта Microsoft, Xiaoice, предназначенная для изучения эмоций в языке, сочинила миллионы страстных стихов в ответ на изображения, отправленные пользователями. Deep-speare, детище австралийских и канадских исследователей, произвело фурор, когда научилось писать шекспировские сонеты.
GPT-3 - инструмент искусственного интеллекта
Эти инициативы теперь затмеваются новейшим потомком Racter. GPT-3, выпущенный в 2020 году стартапом OpenAI из Сан-Франциско, представляет собой инструмент искусственного интеллекта, который был принудительно навязан огромной части Интернета.
Вся англоязычная Википедия в сумме составляет лишь небольшую часть из миллиардов поглощённых слов.
GPT-3 может из простой подсказки создавать поразительно человеческое письмо любого рода: рецепты, актуарные отчёты, сценарии фильмов, описания недвижимости, технические руководства. Конечно, поэтические произведения GPT-3 тоже вызывают восторг.
В одном примере американский поэт Эндрю Браун попросил программное обеспечение принять точку зрения облака, смотрящего вниз на два воюющих города. GPT-3 представил рифмованное стихотворение, которое начиналось довольно очаровательно со слов «Я думаю, что начнётся дождь». С поддержкой в миллиард долларов GPT-3 это богоподобный Racter. По словам одного эксперта, любой, кто считал ИИ «не чем иным, как интеллектом», должен усомниться в этом, когда увидит, как далеко он зашёл». Учёные и разработчики компьютеров действительно обеспокоены правдоподобностью GPT-3. Заветная цель ИИ — пройти тест Тьюринга — то есть убедить человека в том, что она думает.
Тест Тьюринга
Тест получил своё название от Алана Тьюринга, британского математика и дешифровальщика военного времени, который интересовался связью между вычислениями и познанием. В 1950 году он поставил перед своими коллегами задачу: если устройство демонстрирует поведение, неотличимое от того, что сделал бы или сказал человек, какие есть причины отрицать его способность к мышлению? Мысленный эксперимент, который Тьюринг назвал «игрой в имитацию», преследовал исследователей ИИ и вдохновил на множество соревнований. Институт вычислительных наук Neukom, например, провёл известное соревнование, в котором команды ИИ пытались обмануть судей артистизмом своих машинных представлений, от лимериков до хоровой музыки.
А в 2014 году сенсацию вызвала онлайн-игра под названием «Бот или нет», в которой пользователям предлагалось решить, является ли конкретное стихотворение репликантом или настоящим. Тест Тьюринга теперь в некотором смысле является философской приманкой, и, как и любая приманка, он лучше поднимает неудобные вопросы о человеческом сознании, чем отвечает на них. Действительно ли наши способности уникальны, спрашивает он, или мы просто роботы другого типа?
Тест также, как ни странно, является средством самозащиты: пока наши создания не могут подражать нам, мы чувствуем себя в безопасности.
Но GPT-3 представляет собой новый уровень угрозы. В серии контролируемых испытаний с использованием стихотворений, созданных системой ИИ, исследователи Амстердамского университета обнаружили, что в половине случаев преобладала красноречивая работа GPT-3. «Люди, — писали они, — не могут отличить человеческий контент от алгоритмического творческого контента». Заманчиво думать, что эти инциденты демистифицируют человеческую виртуозность: насколько она воспроизводима, насколько она уникальна.
Достижения и провалы искусственного интеллекта
Но более интересным, чем любая проверка реальности в стиле Тьюринга, которую может провести ИИ, является то, что поэзия может рассказать нам об ограничениях алгоритмов. На данный момент эти ограничения трудно увидеть. ИИ сочиняет симфонии и хиты. Он создаёт и ставит хореографию. Он занимается высокой модой. Он поёт.
В 2018 году Christie’s продал своё первое произведение искусства, созданное искусственным интеллектом, за 432 500 долларов. Такие подвиги казались невозможными ещё десять лет назад. Они также являются частью более крупной революции в области автоматизации, благодаря которой ИИ позволяет ставить более точные медицинские диагнозы, ускорять разработку лекарств, удешевлять товары и делать автомобили более безопасными. Подобно тому, как определённые навыки и отрасли находятся под угрозой замены, художников просят задуматься о собственном устаревании.
«Большинство людей имеют так мало представления о том, что такое поэзия, — писал Поль Валери, — что это смутное представление и есть их определение поэзии». Действительно, при всей уверенности, с которой исследователи ИИ разбрасываются этим термином, мало кто когда-либо проверял правильность своих предположений о поэзии. Эти неисследованные предположения играют роль в этих дебатах. Отчасти они являются причиной того, что многие верят, что можно преодолеть разрыв между поэтом и машиной. Они также, вероятно, объясняют любые неправильные представления о творчестве, которые сейчас направляются на создание искусственного писателя.
Возможно, разработчики видят самоочевидную искусственность поэзии — то, как она отмечена статистически измеримыми формальными элементами, такими как размер, рифма и ассонанс, — и думают, что аналогии возможны. Если люди могут освоить механику стихотворных форм, то почему не может машина? Тест Тьюринга, в конце концов, показал, что читатели питают слабость к риторике, величественным жестам и глубокому молчанию — всему тому, что алгоритмы легко имитируют.
Если это так, то ИИ когда-нибудь будет соперничать с человеческими поэтами и обязательно победит и, возможно, уже победил.
Но есть и другой вид поэзии, которую ИИ должен превзойти — поэзия как искусство блестящей точности, переописанная реальность способами, связывающими звук с восприятием. И здесь недостатки ИИ жестоко обнажаются. Потому что, чтобы конкурировать в этой имитационной игре, машина должна показать, что с помощью микрорегулировок эффекта она может довести наши чувства до высочайшего уровня экспрессии. Чтобы играть на этом уровне, машина должна наполнить слова самыми сокровенными ассоциациями и, обратившись внутрь себя, исповедоваться в трудностях, сожалеть о бесповоротном выборе, обдумывать свою окончательную кончину. Это должно поразить ту же цель, что и Роберт Фрост в конце своего сонета «Дизайн», когда, наблюдая за пауком, готовящимся съесть мотылька, он спрашивает, что эта мрачная сцена говорит о природе, и есть ли какой-либо моральный кодекс, который следует соблюдать. Таким образом, дикция Фроста оттачивает наше познание, приучает нас смотреть на мир по-новому. Ничего из этого невозможно с GPT-3.
Сокращённо от «Generative Pre-trained Transformer», эта модель уникальна не только тем, что делает, но и тем, как она это делает. Она узнаёт о языке, наблюдая за грамматикой и синтаксисом в действии. Вот как при правильных условиях GPT-3 может воспроизводить впечатляюще реалистичные абзацы текста.
Однако доверие к нему падает до нуля, чем дольше провести с ним время. В конце концов понимаешь, что это пустая связь между обрывками разговорной речи, фразами и тегами речи.
Конечно, система демонстрирует разумность, поэтому мы прощаем её ошибки. Но и неудачи не менее реальны: неправильные тона, осечки интонации. Выход GPT-3 — это оболочка гиперактивности, внутри которой ничего нет — завораживающая смесь материалов без центра, язык на автопилоте. Именно это привело к тому, что MIT Technology Review назвал GPT-3 «беглым носителем чуши», а исследователь Тимнит Гебру предостерёг от слишком высокой оценки программы, сославшись на человеческую склонность «приписывать смысл там, где его нет».
Терапевт ELIZA
Гебру имел в виду тревожную легкость, с которой люди попадают под чары ИИ — явление, которое незабываемо воплотилось в одном из первых набегов на текстовые алгоритмы. Выпущенная в 1966 году профессором Массачусетского технологического института Джозефом Вейценбаумом, ELIZA стала первым в мире чат-ботом. Разработанный, чтобы выдавать себя за терапевта, он отражал утверждения пользователя с открытыми вопросами и подготовленными ответами. Цель Вейценбаума состояла в том, чтобы исследовать способность компьютера к разговору. Вместо этого он был встревожен тем, насколько пользователи были поглощены поверхностным остроумием ELIZA; его собственная секретарша однажды настояла, чтобы он вышел из комнаты, чтобы она могла поговорить с программой наедине.
Шерри Теркл, социолог и коллега Вайценбаума, назвала это «эффектом ЭЛИЗА», который она определила как «соучастие человека в цифровой фантазии». Когда дело доходит до ИИ, кажется, что люди всегда могут быть лёгкой добычей, чтобы попасть в ловушку, которую сами расставили.
Когда знаменитый футурист Рэй Курцвейл в конце 1980-х годов захотел убедить публику в мысли о мыслящей машине, он начал с изобретения «Кибернетического поэта».
На самом деле, можно даже утверждать, что стремление к машинной поэзии привело в движение целые отрасли ИИ, помогая раздвинуть границы того, на что сейчас способны языковые модели.
Если оптимисты ИИ претендуют на право хвастаться, то это потому, что они снова и снова демонстрировали, что нет задачи, с которой машина в конечном итоге не справилась бы.
Гроссмейстер Deep Blue
Когда-то считалось, что шахматы находятся за пределами досягаемости алгоритмов из-за хитрости и предусмотрительности, необходимых для хорошей игры. Мы также сомневались, что ИИ сможет когда-либо справиться с го, древней китайской настольной игрой, печально известной астрономическим количеством позиций, допускаемых её правилами. В обоих случаях мы ошибались: гроссмейстеры были разгромлены.
Когда Гарри Каспаров вступил в бой с Deep Blue в 1997 году, суперкомпьютер IBM оказался способным к нелогичному мышлению с непонятным ходом, который глубоко обеспокоил Каспарова. Через восемь дней величайший шахматист всех времён проиграл решающий матч.
AlphaGo от Google
Нечто подобное произошло в 2016 году, когда Ли Седол, тогда лучший в мире игрок в го, встретился с AlphaGo от Google. Программа ИИ, использующая алгоритмы самообучения, которые превзошли даже непостижимые вычисления Deep Blue, сделала ход, который настолько ошеломил Седола своей странностью, что ему потребовалось пятнадцать минут, чтобы прийти в себя. AlphaGo продолжал побеждать. «Это не человеческий ход», — заметил в то время другой чемпион по го. «Я никогда не видел, чтобы человек играл этот ход».
Почему ИИ победил людей в этих играх? Он победил, потому что научился мыслить совершенно нечеловеческим образом. Масштабы вычислительной мощности ИИ, способного обдумывать миллионы стратегий и миллионы раз противостоять этим стратегиям, находили причудливые, но превосходные решения, которые никогда не рассматривались.
Поэзия - артефакт самоанализа
Поэзия, однако, неразрывно связана с тем, как люди думают, — своего рода незамутнённый самоанализ, который, как писал Т. С. Элиот, помогает нам «немного лучше осознавать более глубокие, безымянные чувства, которые составляют основу нашего бытия». Это также связано с необходимостью так думать. Психологическая сила стихотворения проистекает из совокупности движущих им намерений, намерений, подталкивающих поэтов к действию.
Но когда GPT-3 получает вызов написать стихотворение, он не знает, что пишет «поэзию» или даже что такое «письмо». Последняя часть совсем не тривиальна. Стиль — это разумное действие: поэт стремится к нему.
Компьютер никогда не сможет воспроизвести то, что делают поэты, если он также не сможет воспроизвести то, почему они это делают.
Машины, которые пишут, делают это как машины: их стихи являются статистическими побочными продуктами поглощения огромных пластов готовых данных, которые никогда не будут содержаться в человеческом уме — тот же метод грубой силы, который ИИ использует для расшифровки китового языка или отслеживания новых частиц в физике.
Фото: thewalrus.ca
Чтобы GPT-3 работал по-настоящему, потребуется, чтобы алгоритмы не только перемещали данные, но и сами перемещались ими; что они не только поглощают наши переживания, но и чувствуют мимолетность нашей жизни. Как передать знание о смерти? Для этого нет вычислительного ярлыка. В словах Фроста заключено понимание утраты всей его жизни. Вот почему поэзия, в отличие от многих других вещей, которыми овладел человеческий вид, не может быть скопирована. Это артефакт самоанализа, которым может овладеть только человек. Не существует сверхчеловеческого способа писать стихи, потому что мы пишем их в силу того, что являемся тем, кем компьютер не является: людьми. В конце концов, это может быть неважно.
Нет никаких сомнений в том, что поэзия скоро войдет в состав идеологии сбора данных, существующей в том же спектре, что и счётчики шагов, торговля акциями и рекомендации Netflix. Может быть, именно так возникает так называемая сингулярность — момент, когда машины превосходят людей и, в свою очередь, переделывают нас. «Я» как источник памяти и наблюдения будет заменено «я» как пассивным каналом для почти безграничных данных, окружающих нас, обширной погодной системой нулей и единиц, тонко, невидимо и безвозвратно разбивающей нас на части.
В эссе 1967 года поэт Говард Немеров предсказал, что если люди полюбят стихи, написанные компьютерами, то не потому, что «машина имитировала тонкость разума, а потому, что разум упростил (и огрубил) себя в поклонение своему идолу машине».
То, что люди изо всех сил пытаются распознать машинный стих, означает, что ожидания в отношении человеческого материала теперь ниже.
В своей книге 2010 года «Ты не гаджет» Джарон Ланье напоминает, что тест Тьюринга «работает в обоих направлениях». Чтобы ИИ прошёл, люди должны потерпеть неудачу. Нас судят так же, как и машину. И то, что выявляет тест, это то, насколько далеко отклонилось чувство поэзии, насколько человек готов поддаться убеждению, признать что-либо гениальным. По мере распространения машинной поэзии будет формироваться терпимость к вещам, которые могут делать боты. ИИ возвысит и подтолкнет людей к почитанию поэзии как «конструкции», системы словарей, дистанционно управляемой театральности.
Это не спор о том, может ли ИИ писать стихи. Это спор о том, как долго ещё будет иметь значение то, что люди могут. Почти столетие сбивающих с толку экспериментов — от дадаистов и сюрреалистов до языковой школы поэзии — не только заставили нас восхищаться тем, на что способна GPT-3, но и открыли дверь людям, пишущим машинную поэзию. То, что началось в 2000-х с того, что поэты Фларфа превратили случайный поиск в Google в безвкусные коллажи, превратилось в сцену, одержимую перепрофилированием, переработкой и ремиксами.
Новая версия — GPT-4
GPT-3 уже поддерживает сотни ботов, приложений, корпоративных блогов, каналов социальных сетей. Он отвечает за миллиарды слов функционального и грамматически точного текста в день. Недавно OpenAI пообещал новую версию — GPT-4, которая будет в 500 раз мощнее и сможет обрабатывать ещё большие объемы данных. По мере того, как системы становятся больше, они становятся лучше: лучше удаляются ошибки, которые приводят к плохим предложениям, и лучше повторяются стратегии, которые приводят к хорошим. GPT-4 поразит ещё более сверхъестественной способностью находить нужные слова, искусно их расставлять — без единого слога впустую — и всё это в сумме даёт что-то, что звучит по-человечески.
Но пока умение писать стихи остаётся препятствием для поступления в разряд личностей, роботы останутся Рактерами. Против натиска мыслящих машин поэзия — последняя и лучшая защита человечества.