Главное, чтоб не сбылся сюжет "Терминатора"
Искусственный интеллект проникает в массовую литературу, заменяя собой живых писателей…
Это не затравка какого-то фантастического фильма или романа, а новая реальность. Конечно, ИИ пока еще не сам придумывает книжки - их «заказывают» люди. Но это только начало. Не исключено, что в будущем машины смогут обходиться и без нас.
Чем писатели-нейросети опасны для человечества? Можно и нужно ли их остановить? Кто пишет вместо некоторых популярных авторов? Об этом мы поговорили с писателем-фантастом Сергеем Лукьяненко.
Недавно Сергей Васильевич сам вывел на чистую воду начинающего писателя, который выдал за собственное творчество роман, сгенерированный ИИ. Кто-то честно месяцами корпел над своей книгой, а кто-то докрутил готовый текст за несколько часов… Напомним, что в 2023 году создатель «Дозоров» запустил проект «Литературная мастерская Сергея Лукьяненко». Начинающие писатели со всей России могут отправить на Литмастерскую свою рукопись в жанрах фантастики и фентези. Авторов лучших романов два раза в год приглашают на недельные семинары, где с ними работают не только популярные писатели, но и издатели, сценаристы, редакторы. (Причем проезд, питание и проживание - за счет организаторов, - Авт.). Вот как раз на осенней Литмастерской одного из авторов и дисквалифицировали за обман.
- Молодой автор из Санкт-Петербурга привез достаточно любопытный роман - да, нуждающийся в доработке, но имеющий потенциал, - говорит Сергей Лукьяненко. - У него получилась героическая космическая фантастика про российских космонавтов. Мы должны были обсуждать эту рукопись, и автор сам - спасибо ему за откровенность - признался, что текст написан нейросетью по его промтам (prompt (англ.) - подсказка, задание, - Авт.).
МАШИННОЕ ТВОРЧЕСТВО
- Он объяснил, зачем обманул оргкомитет?
- Сказал, что сам писать не умеет, но фантастику очень любит и считает, что за машинным творчеством будущее. По сути, он отобрал чужое место - вместо него мог приехать автор, который сам писал текст, вкладывал свои мысли, свою душу. Лично меня проблема использования ИИ в творчестве сильно беспокоит, потому что даже в России уже есть авторы популярной литературы, которые выпускают романы, написанные с помощью нейросетей.
- Это писатели-фантасты?
- Не только. Но в том числе и фантасты. Как правило, это сетевые авторы, у которых много читателей, позволяющих монетизировать творчество (речь идет о продаже электронных книг через интернет-площадки с платными подписками, - Авт.). В принципе, они всегда работали с огромной скоростью. Это был единственный способ удержаться в топах. Есть люди, которые выпускали по книжке в месяц! Разумеется, живой человек такой темп долго выдержать не может. Сначала эти авторы стали привлекать литературных рабов. То есть, за них кто-то писал на заданные темы, но книги выпускались под именем заказчика. Однако в последний год авторы стали активно использовать и нейросети. К сожалению, в результате получается такой очень усредненный текст, на троечку. Хотя многих непритязательных читателей это устраивает.
- Это подтвержденный факт или только предположение, потому что если человек напишет за год десяток полновесных книг, его из-за перенапряжения гарантированно увезут в психушку?
- Сетевые писатели - как правило - молодые, активные люди, в кулуарах они не скрывают факт использования ИИ. Также бывали ситуации, когда из-за небрежности автора в тексте оставались невычищенные маркеры нейросетевого творчества. Конечно, когда это замечали, текст быстро редактировали. Я понимаю, что ребята просто развлекают читателей, зарабатывают деньги. Но это опускает творчество до уровня балагана, жонглирования разноцветными шариками.
«ИЗ МИЛЛИОНОВ КУСОЧКОВ»
- Рукописи других участников Литмастерской после инцидента тоже проверили?
- Да, было еще несколько текстов под подозрением. Но, к счастью, ничего не подтвердилось.
- А вообще реально выявить сгенерированный ИИ текст?
- Очень сложно. Как ни смешно звучит, для проверки нужно использовать те же нейросети. Но и они не всегда могут на 100% определить, сгенерирован текст или написан человеком.
- Настолько хорошо ИИ научился писать художественную литературу?
- Дело не в этом. По моим наблюдениям, хороший нейросетевой текст примерно равен средненькому тексту начинающего автора. Но вспомните, что еще несколько лет назад диссертацию или дипломную работу можно было прогнать через программу «Антиплагиат», чтобы узнать, списан этот текст откуда-то или уникален. А сейчас любой школьник, студент или даже ученый загружает текст в нейросетку и просит его полностью переписать, сохранив основной смысл. И получает текст, у которого прямого аналога нет. Но ведь человек сам уже не думает! В итоге все это приведет к деградации интеллекта.
- Я подписан на вас в соцсетях. Вы часто рассказываете о своих экспериментах с ИИ. Польза от него тоже есть?
- Подобные программы могут находить логические нестыковки повествовании, повторы слов, выполнять работу корректора и отчасти даже редактора. Но если попросить нейросеть создать текст, она будет его собирать из кусочков миллионов других текстов, комбинируя между собой. Можно даже задать стиль: «Напиши в духе Пелевина, Лукьяненко, Азимова!» Компьютер будет стараться, вот только содержание получится абсолютно вторичным. Это будет даже не осетрина второй свежести, а продукт, который уже несколько раз съели, переварили, а потом съели снова. При таком подходе смыслы постепенно упрощаются, а читатель подобных текстов начинает деградировать вместе с ними. Хотя основная задача любой книги - учить человека думать, строить логические и эмоциональные связи, опираясь на текст.
ЭЛЕКТРОННЫЕ РАБЫ
- Книжные издательства четко ориентируются на модные и популярные тренды - нужно зарабатывать, пока есть спрос. А где взять столько романов? У меня складывается впечатление, что написанные ИИ книги уже давно выпускают под фамилиями несуществующих в реальности писателей. Я брежу конспирологией?
- Нет, это уже существует. Даже когда нейросетей еще не существовало, а книги продавали только в бумаге, были авторы, представлявшие собой некую торговую марку под которой писали нанятые люди. Они делали это анонимно и за хорошее вознаграждение. Порой литературные рабы бунтовали, пытались отстоять свое право на книги, но договоры с ними были составлены очень четко. Подобное было развито прежде всего в детективной литературе. У меня и сейчас есть подозрения относительно нескольких авторов. Впрочем, как мы знаем, подобным грешил еще Александр Дюма-отец. (Нанятые за гроши «помощники» многократно судились с писателем. Например, некий Огюст Маке принимал участие в написании «Трех мушкетеров», «Графа Монте Кристо» и других известных романов, но в соавторы не попал, - Авт.). А вот использование нейросетей в качестве электронных рабов - это новое явление.
- Недавно вы рассуждали, что известные авторы должны каким-то образом брендировать свои стили - для защиты в случае копирования нейросетями.
- Мысль такая была, но я не знаю, насколько она осуществима без кардинальной переработки законов. В юридическом понимании плагиатом является лишь факт прямого заимствования текста. Если взять чужую книгу, сохранить сюжет, и переписать своими словами, это уже не плагиат. Знаю, что голливудские актеры пытаются защищать свою внешность от ИИ. (В 2023 году Гильдия актеров США бастовала, актеры отказывались от сканирования своих лиц, цифровые копии которых студии собирались использовать для обработки с помощью ИИ, - Авт.). Но все-таки лицо человека объективно индивидуально. А как юридически закрепить авторский стиль писателя? Возможно, когда-нибудь эти совпадения стиля смогут высчитывать сами же нейросети: в этом тексте 92% Лукьяненко, а в этом - 60% Роберта Джордана (популярный в 1990-2000-х автор романов в жанре фентези, - Авт.). В любом случае, вопрос подобной защиты писателей можно решить только глобально, на международном уровне.
ПРЕДСКАЗАНИЕ О «СЛОВОМЕЛЬНИЦАХ»
- Недавно я в качестве эксперимента зарядил в нейросетку половину главы своего нового романа и попросил продолжить, - продолжает Сергей Лукьяненко. - Нейросеть достаточно четко поймала мой стиль. Я с ужасом начал читать. Но быстро понял, что на протяжении нескольких страниц не происходит никакого действия - какое-то блуждание героя, разговоры ни о чем с непонятными людьми. Будто жуешь мокрую вату: вроде бы что-то во рту есть, а вкуса нет. То есть только человек может привнести в текст элемент неожиданности, парадокса, недоступного мышлению машины. Это и отличает нас от нейросетей. Но возможно когда-нибудь нейросети обретут разум. И тогда ИИ-книги станут последней проблемой, которая нас будет волновать. Потому что перед нами встанет вопрос выживания.
- Сюжет «Терминатора» про восстание машин все-таки реален?
- Это первый вариант дальнейшего развития событий - если нейросеть решит уничтожить человечество, оценив его как нечто ненужное и потенциально опасное для себя. Но есть и второй вариант. Нейросеть наоборот станет для человека незаменимым помощником. Она научится создавать лекарства от всех болезней, роботы под ее присмотром будут строить хорошие дома, генерировать хорошие фильмы, писать хорошие книги. А людям остается просто сидеть перед экраном, жевать принесенную добрыми роботами пищу, и тихо вымирать.
- Я подобное читал в детстве - в повести Кира Булычева «Пленники астероида». Меня, десятилетнего, этот сюжет так напугал, что я спать не мог.
- Похожие идеи появлялись в книгах писателей-фантастов, конечно, и до Булычева. Если же говорить о нейросетях применительно к созданию литературы, впервые об этом написал в 1957 году американец Фриц Лейбер. В его романе «Серебряные яйцеглавы» писатели сохранились лишь в качестве персонала, обслуживающего «словомельницы» - большие электронные машины, которые генерируют книги. И это было предсказано еще 70 лет назад.
- А на ваш взгляд, машины в будущем полностью заменят писателей-людей?
- Если нейросети разовьются до такого уровня, что обретут нечто похожее на разум и сознание, их творчество действительно станет соразмерным с великими произведениями искусства. Может, нейросеть однажды напишет что-то равное великим книгам вроде «Преступления и наказания» или «Над пропастью во ржи»? В таком случае профессия писателя превратится в смешное занятие для маргиналов, которые соревнуются с экскаватором, кто быстрее выкопает яму. Но это пессимистичный сценарий. Мне же больше хотелось бы надеяться, что нейросети возьмут на себя только чисто развлекательную литературу. Да, ИИ-книги захватят какой-то серьезный процент рынка. Да, вся остальная литература, настоящая, ужмется. Ну вот как сейчас есть, условно, 50 хороших известных писателей и еще 5 тысяч человек, которые пишут что-то среднее - попсу из разряда «почитать в метро». Вот эти средние авторы, совершенно искренне выпускающие развлекательные романы, будут нейросетями сметены… Мы же пока будем продолжать работать с начинающими писателями в рамках Литмастерской Сергея Лукьяненко, которую поддерживает Президентский фонд культурных инициатив. Люди, которые едут к нам учиться, пишут книги, потому что им это нравится. Создавать миры, придумывать их из своей головы, творить самостоятельно - это сам по себе огромный восторг.
