Валерий Александров,
Красноярск
Судя по всему, история квебекского писателя Телисона Орельена, которого исключили из соперничества за Гонкуровскую премию, превращается из частного скандала в спор о будущем литературы. И не только её.
Ещё несколько недель назад роман C’йtait зa ou mourir («Это или умереть») канадско-гаитянского писателя Телисона Орельена считался одним из главных открытий французской литературной осени. Первый роман 38-летнего автора рассказывал историю гаитянского мигранта, вынужденного покинуть родину и отправиться в Квебек. Книга получила премию по литературе «Фнак» (Fnac), вошла в число претендентов на несколько других крупных французских литературных премий, а её продажи стремительно росли.
21 сентября, в тот самый день, когда Орельен получил премию Fnac, в социальной сети X появился анонимный аккаунт Balance ton Claude. Его автор заявил, что роман практически целиком создан с помощью искусственного интеллекта. В качестве аргумента были приведены результаты работы сервиса Pangram, предназначенного для выявления текстов, созданных ИИ.
Дальше события стали развиваться с головокружительной скоростью.
Уже 25 сентября Академия Гонкуров объявила об исключении романа из своей первой подборки. Формально речь не шла о лишении Орельена уже полученной премии: премию Fnac у него никто не отнимал. Роман был снят именно с конкурса на Гонкуровскую премию. Причём основанием стали не только подозрения в использовании искусственного интеллекта, но и появившиеся обвинения в плагиате в отношении более ранних текстов автора.
6 октября Академия Гонкуров опубликовала новую, сокращённую до восьми романов подборку претендентов. Книги Орельена в ней уже нет.
Самое интересное в этой истории всё же не решение жюри. А вопрос о том, что именно считается доказательством использования ИИ.
Главным техническим аргументом против Орельена стал Pangram. По данным журналистского эксперимента газеты Le Monde, сервис после анализа более половины романа определил вероятность использования искусственного интеллекта как очень высокую: более 95 процентов текста система сочла созданным ИИ.
На первый взгляд цифра впечатляет. Но здесь возникает принципиальная проблема: детектор искусственного интеллекта сам является закрытой технологической системой, работающей на основе алгоритмов машинного обучения. Читатель не может проверить её «рассуждения» так, как он мог бы проверить, например, совпадение двух абзацев при расследовании плагиата.
Более того, специалисты предупреждают: подобные инструменты не способны с абсолютной достоверностью установить происхождение текста. На точность могут влиять язык, стилистические особенности и характер самого произведения. Исследователи отдельно указывают на проблему работы детекторов с текстами на языках, отличных от английского. Роман Орельена написан по-французски и включает речь персонажей на их родных языках.
Получается парадоксальная ситуация. Человек написал роман, после чего машина анализирует роман и сообщает человеку: «Ты этого не писал». Кто в таком случае является экспертом – читатель, литературовед, редактор или алгоритм?
Орельен категорически отрицает использование ИИ при написании романа. По его словам, работу над книгой он начал ещё в 2017 году, а первую версию закончил в 2019-м. Его французский издатель Grasset выступил в защиту писателя, а канадское издательство Borйal заявило, что не обнаружило оснований автоматически принимать обвинения за доказанный факт.
Есть и ещё одно обстоятельство, которое делает историю значительно сложнее.
После обвинений в использовании ИИ появились сообщения о возможном плагиате в нескольких старых текстах Орельена. В частности, речь шла о публикациях, сделанных более десяти лет назад. Именно сочетание этих обвинений с результатами анализа ИИ и стало основанием для решения Академии Гонкуров.
И здесь необходимо провести важную границу. Плагиат можно доказывать сравнением конкретных текстов: вот фрагмент автора А, вот совпадающий фрагмент автора Б. Можно установить источник, последовательность публикаций, степень совпадения.
С искусственным интеллектом всё сложнее. Если писатель действительно использовал нейросеть как инструмент – для поиска идей, редактирования, перевода, стилистической обработки отдельных фрагментов, где проходит граница между «помощью машины» и «текстом, написанным машиной»?
Сегодня на этот вопрос нет универсального ответа.
Особенно показательно, что первоначальное обвинение появилось не в литературном журнале и не в результате академической экспертизы. Оно возникло в социальной сети X – из анонимного аккаунта, а затем стало вирусным. Позже выяснилось, что за аккаунтом стоял французский публицист Самюэль Фитусси, работавший вместе с другими людьми. Сам Фитусси объяснял свою кампанию желанием привлечь внимание к проблеме текстов, создаваемых ИИ.
Это обстоятельство тоже важно для понимания новой литературной реальности.
Раньше репутацию писателя формировали критики, издатели, редакторы и читатели. Теперь в процесс всё активнее включаются алгоритмы и пользователи социальных сетей. Причём скорость здесь совершенно иная: роман можно прочитывать месяцами, а обвинение в «машинном происхождении» текста распространяется за несколько часов.
В результате возникает новая форма литературного суда: сначала появляется подозрение, потом – вирусное распространение, затем институция вынуждена реагировать.
Именно это произошло с Академией Гонкуров. Её президент Филипп Клодель ещё 23 сентября призывал к осторожности и говорил, что для исключения писателя необходимы неопровержимые доказательства. Через два дня роман был исключён.
Самая любопытная деталь скандала заключается в том, что он не уничтожил интерес к роману.
Напротив, продажи C’йtait зa ou mourir после начала скандала выросли. По данным NielsenIQ BookData, во Франции с 21 по 27 сентября было продано около 18,3 тысячи экземпляров – против 12,5 тысячи неделей ранее. На тот момент общий тираж продаж приблизился к 65 тысячам экземпляров.
Это можно объяснить простым эффектом скандала. Но есть и более глубокий вывод. Похоже, не стоит в наше время на корню перечёркивать вопрос о происхождении того или иного текста. Если автор выдаёт полностью сгенерированный машиной текст за собственную работу, это вопрос авторства и литературной этики. Но одновременно возникает другой вопрос: имеет ли право алгоритмический «детектор» окончательно определять судьбу книги?
Пока убедительного ответа нет.
История Орельена показывает, что литература вступила в эпоху, когда одного понятия «автор» становится недостаточно.
Представим несколько вариантов. Писатель сам написал роман. Писатель написал роман, но использовал ИИ как редактора. Писатель создал сюжет и персонажей, а нейросеть переписала отдельные главы. Автор дал машине подробный план, а она сгенерировала текст. Наконец, человек лишь выбрал лучший из нескольких вариантов, предложенных алгоритмом.
Во всех пяти случаях результатом может стать одна и та же книга.
Но литературные премии, издательские контракты и авторское право пока требуют гораздо более чёткой картины.
Поэтому скандал вокруг Орельена примечателен независимо от того, окажется ли в конечном счёте доказано использование ИИ. Он показывает, что литературный мир уже столкнулся с проблемой, к которой не был готов.
И, возможно, ещё важнее – определить, какие доказательства считаются достаточными для обвинения писателя в том, что он не является автором собственной книги.
В XIX веке литература училась существовать в мире массовой печати. В XX веке – в мире радио, кино, телевидения и интернета. В XXI веке ей предстоит научиться существовать рядом с машиной, которая способна не только читать и редактировать текст, но и создавать его.
И первый большой спор об этом будущем уже начался.
Причём начался он не с фантастического романа о восстании машин, а с вполне человеческой истории – с книги о человеке, который покидает родину и пытается найти своё место в новом мире.
Пожалуй, в этом есть своя символика.
Пока герой романа ищет границу между прошлым и будущим, сама литература оказалась на границе между человеческим авторством и машинным производством текста.
