Лев Троцкий и искусственный интеллект

Саид Гафуров, доцент МГЛУ, член Центрального совета Независимого профсоюза «Новый труд»

Сто лет назад блестящий памфлетист и литературный критик Лев Троцкий – для многих эта ипостась вождя революции станет открытием – предвосхитил будущее. А именно нынешние дискуссии о больших языковых моделях (БЯМ) и нейросетях. Поводом стала знаменитая и знаковая полемика 1920‑х вокруг формального метода, «формальной школы» литературоведения. И тут из прошлого встают тени Шкловского и Якобсона, Тынянова и Эйхенбаума, и остаётся только гадать, как отразились бы на современном литературном процессе практики искусственного интеллекта, действуй в наши дни ОПОЯЗ (Общество изучения поэтического языка) с его идеями и методами.

Итак, Лев Давидович с присущими ему остротой и сарказмом обрушился на формалистов. Напомним на всякий случай исторический контекст, приведя цитату из Виктора Шкловского: «Искусство всегда было вольно от жизни, и на цвете его никогда не отражался цвет флага над крепостью». Впрочем, повторимся, речь сейчас о невероятной прозорливости Троцкого в контексте современной полемики о больших языковых моделях, нейросетях и искусственном интеллекте.

Троцкий пишет: «Формалисты не доводят, в сущности, своего подхода к искусству до логического конца. Если к процессу поэтического творчества относиться только как к комбинации звуков или слов и на этом пути искать разрешения всех задач поэзии, то единственная законченная формула «поэтики» будет такова: вооружившись Далем, создавать путём алгебраических комбинаций и перестановок словесных элементов все уже созданные и все ещё не созданные поэтические произведения мира. Рассуждая «формально», к «Евгению Онегину» можно прийти двумя путями: либо подчиняя выбор словесных элементов предвзятой художественной идее (как у самого Пушкина), либо разрешая задачу алгебраически. С той же «формальной» точки зрения второй путь вернее, так как не зависит от настроения, вдохновения и других шатких вещей и имеет ещё и то преимущество, что на пути к «Евгению Онегину» обеспечивает несчётное число других великих произведений…»

Если разбирать эту цитату из «Литературы и революции» (1924 г.) через призму архитектуры современных больших языковых моделей, то Троцкий, критикуя формалистов, описал «движок» с пугающей, почти рентгеновской точностью. Правда, наркомвоенмор здесь, сам того не зная, описывает не только радикальный формализм, но и довольно пугающую мечту о машине для производства искусства: взять словесные элементы, построить правила их комбинации, перебрать пространство комбинаций и получить среди них «Евгения Онегина». А заодно бесконечное (в понимании теории множеств) число других шедевров. Это почти идеальная интеллектуальная карикатура (хотелось бы надеяться, что карикатура!) на то, что мы сегодня называем большой языковой моделью (БЯМ), идущей от корпуса человеческой речи (от высокой поэзии и арго юристов до бытовых диалогов и армейских приказов) путём алгебраических комбинаций и перестановок через вероятностное предсказание следующего токена. Никакой магии, чистая многомерная геометрия, линейная алгебра и статистика.

И нет, ИИ «не зависит от настроения, вдохновения и других шатких вещей» – у БЯМ нет циркадных ритмов – сна и бодрствования, нет «утреннего тумана», нет ни страха, ни надежды, она не сжимается от трагизма пушкинской сцены, когда мальчишки отнимают у юродивого копеечку и следует призыв их зарезать, не отличает арманьяка от зубровки.

Но есть один нюанс, который Троцкий в своём сарказме упустил и который на сегодня является главным. Да, БЯМ может алгебраически сгенерировать текст, который формально будет безупречен по грамматике, стилю и даже аргументации, но (хочется надеяться!) смысл этому тексту придаёт человек. Именно человек, та самая, по Шкловскому, «предвзятая художественная идея», в основе которой – жизненный опыт, любимая женщина, маленькие «человечки», личная боль или ирония и самоирония, понимание того, что, хотя добро и зло относительны, это не отменяет различий между добром и злом. Предвзятая художественная идея в самом высоком пушкинском смысле превращает «алгебраические перестановки» в тот самый живой, бьющий в цель текст, который БЯМ может отшлифовать, лишить опечаток и описок.

Троцкий предполагает, что раз произведение состоит из словесных элементов, то его можно получить алгебраической перестановкой этих элементов. Получить огромный массив уже существующих языковых последовательностей, построить сложную статистико-структурную модель их взаимосвязей и затем генерировать новые последовательности. Тем самым он фактически делает важнейшее допущение: пространства формы достаточно, чтобы порождать содержание. Троцкий совершенно правильно увидел возможность автоматического порождения бесконечного количества новых текстов, но, возможно, ошибся именно в том месте, где начинается искусство.

Возникает поразительная вещь: на выходе у БЯМ сто миллиардов грамматически безупречных текстов; миллион совершенных стихотворений; десять тысяч текстов, которые выглядят как Пушкин; тысяча текстов, которые литературовед примет за раннего Пушкина, но возникают серьёзные подозрения, что при этом у модели не выйдет ни одного «Онегина».

Искусство социально даже в замке из слоновой кости. Нельзя писать стихи или прозу в обществе, будучи свободным от общества. «Евгений Онегин» – это не просто определённая комбинация слов. Даже если принять максимально формалистскую позицию, в нём есть структура более высокого уровня: выбор темы, композиции, героя, иронической дистанции, системы культурных отсылок, ритма, отношения автора к читателю, учёт цензурных соображений и так далее.

Но тут становится ещё интереснее, потому что современная БЯМ как раз показывает, что граница между «комбинацией слов» и чем-то похожим на мышление гораздо более зыбка, менее очевидна, чем казалось ещё недавно. Модель ведь не перебирает: слово № 1 + слово № 2 + слово № 3 в примитивном комбинаторном смысле. Она учитывает огромное многомерное пространство вероятностных связей и потом выбирает продолжения, которые согласуются с контекстом. То есть это гораздо ближе к алгебре отношений между языковыми элементами, чем к механической перестановке слов из Даля. И потому фраза Троцкого сегодня читается почти как предварительная формулировка грандиозной проблемы генеративного ИИ: если мы достаточно полно и плотно опишем пространство формальных закономерностей языка, сможем ли мы автоматически получать произведения, которые раньше требовали человеческого творчества?

Мы сегодня знаем, что получить несчётное число произведений технически легко, но получить несчётное число великих произведений – другое дело. Вот где дьявол! Для человека важны социальная ситуация, субъект речи, степень близости, сексуальный подтекст, отпечаток власти и нежности. То есть самое интересное в языке находится не только в связях между словами, но и в том, кто, кому, когда и зачем их говорит.

Но дальше возникает ещё более фундаментальный во­прос: если язык возник не для передачи «истины» и даже не для передачи готовых мыслей, а как инструмент координации совместной целенаправленной деятельности приматов, то что именно происходит, когда инструмент этой деятельности начинает самостоятельно производить язык?

Это ведь самый фундаментальный онтологический и антропологический вопрос, который сегодня стоит перед философией сознания, лингвистикой и теорией ИИ. Если мы отбрасываем идеалистическую иллюзию, что язык – это «зеркало истины» или «телеграф для передачи мыслей», и возвращаемся к материалистическому, эволюционному и деятельностному подходу (от советской школы Выготского – Леонтьева до современной эволюционной антропологии Майкла Томаселло), то картина становится предельно жёсткой и ясной.

Речь – это инструмент социальной физики. Она нужна приматам, чтобы договориться, как загнать мамонта в ловушку, кто пойдёт в дозор, кто с кем спаривается, как разделить мясо и против кого дружить. Язык – это продолжение груминга (социального почёсывания), позволяющее удерживать связность группы за пределами «числа Данбара» (150 особей). Как в эту систему вписываются большие языковые модели?

Можно говорить, что в гегельянском, марксистском и не только смысле БЯМ – это предельное «отчуждение» коллективной речевой деятельности от его биологического и социального субъекта. Модель впитала в себя всю сумму текстов, то есть все следы человеческой координации за несколько тысячелетий, выучив синтаксис убеждения, приказания, утешения и мобилизации, но у неё нет биологических ставок.

Когда примат говорит сородичу: «Там хищник, бежим, спасаемся», за этими словами стоят страх смерти, адреналин и эволюционная необходимость выживания группы. Когда БЯМ генерирует текст: «Необходимо сплотиться перед лицом угрозы», это статистическая реконструкция паттерна без малейшей интенции (намерения) и без последствий для её «тела». БЯМ владеет формой коллективной деятельности, но полностью исключена из её материальной практики.

Популярный американский эволюционный психолог Майкл Томаселло считал, что главное отличие человека от других приматов – это способность к «разделяемой интенциональности», то есть мы умеем создавать общее ментальное пространство «МЫ», где есть общая цель. И БЯМ гениально имитирует эту «МЫ-позицию», используя маркеры солидарности, риторические приёмы создания коалиций и эмоциональные триггеры.

Проблема в том, что это симулякр, так как модель не разделяет с вами целеполагание, а лишь предсказывает, какие слова статистически чаще всего приводили к тому, что приматы в прошлом начинали действовать сообща. Забавно, что именно поэтому БЯМ так хороша в генерации идеологий, манифестов и пропаганды и вообще исключительно полезна для политтехнологов: она идеально копирует инструментарий координации, не заботясь о том, куда именно эта координация направлена.

Если цель речевой деятельности не истина (что бы под ней ни понимать), а координация, то знаменитые «галлюцинации» (выдумки) нейросетей перестают быть технической ошибкой и становятся эволюционной нормой. В истории нашего биологического вида мифы, религии, идеологии и откровенная ложь координировали миллионы людей гораздо эффективнее, чем сухая эмпирическая правда.

БЯМ, обучаясь на человеческих текстах, усвоила этот принцип: дискурс, который объединяет и мобилизует, важнее факта. Если вы попросите модель написать мотивирующую речь для стартапа или политическую программу, она выдаст вам именно то, что заставит людей действовать вместе, даже если для этого придётся «подогнать» факты. Иными словами, БЯМ – это именно что машина по производству координирующих мифов.

Можно задаться вопросом: соотносятся ли БЯМ и коллективная деятельность напрямую? Очевидно, нет, так как модель не является приматом, не может встать в круг вокруг костра и разделить с нами риски. Однако она становится новым орудием труда и новой средой для нашей координации.

Как топор не рубит дерево сам по себе, а является продолжением руки примата, так и БЯМ становится продолжением нашего речевого аппарата. Мы (приматы) используем БЯМ, чтобы быстрее писать код, составлять юридические договоры, планировать логистику и формулировать политические тексты. БЯМ не координируется с нами, но опосредует координацию между нами.

Выходит, что БЯМ – это кристаллизованный, оцифрованный и отчуждённый общественный опыт коллективной деятельности нашего вида, своего рода гигантская карта всех возможных социальных взаимодействий, когда-либо описанных людьми. Но карта – это не территория, и в рамках нашей аналогии территория – это мы сами, высшие приматы, смертные, которые продолжают использовать этот мощнейший инструмент, чтобы договариваться, воевать, строить государства и писать статьи об искусственном интеллекте.

И ответственность за то, в какую именно сторону эта сгенерированная речь направит нашу коллективную деятельность – к созиданию или к взаимному уничтожению, остаётся исключительно на нас, существах из плоти, крови и социальных инстинктов. А вот вопрос, не находимся ли мы сейчас в точке, где смертные передали функцию «удержания связности стаи» алгоритму, сами того не осознавая, требует отдельного ответа.

Троцкий ошибся в одном: он думал, что машина напишет «Онегина», но не предвидел, что машина напишет миллион текстов о том, почему «Онегин» невозможен, и именно это станет главной литературой нового века.

Цитатник

Шкловский – Троцкому
«…основной пружиной поэтического словосочетания остаётся по-прежнему предвзятая художественная идея, понимаемая в самом широком смысле: и как точная мысль, и как ярко выраженное чувство, личное и социальное, и как смутное настроение. Стремясь к художественной реализации, этот субъективный творческий клубок получает со стороны искомой формы новые раздражения и толчки и иногда целиком сдвигается на первоначально не предвиденный путь. Это значит лишь, что словесная форма не пассивный отпечаток предвзятой художественной идеи, а активный элемент, воздействующий на самый замысел. Но такого рода активное взаимоотношение – когда форма влияет на содержание, иногда в корне преобразуя его, – нам известно во всех областях общественной, да и биологической жизни. Это отнюдь не основание для отказа от дарвинизма и марксизма и для создания «формальной школы» в биологии и социологии». Тени не изменяются и не сдвигаются на первоначально не предвиденный путь. Тени передвигаются только под влиянием передвижения вещей, их отбрасывающих. Если явление искусства так же активно и самостоятельно, как явления биологические, то нам и спорить не о чем. Тогда, значит, мы имеем три связанных друг с другом системы: биологическую, социологическую и эстетическую. Конечно, социологический пласт будет влиять на эстетический, но у эстетического есть свои формальные законы. Например, большинство сюжетов основано на бытовых коллизиях, но и искусство имеет право выбора материала и право сохранения его в своей традиции даже тогда, когда он исчез из обихода жизни…»
Виктор Шкловский
Из статьи «Что думают формалисты о связи искусства и жизни»