Сейчас трудно что-либо написать..
Сейчас трудно что-либо написать, не включив туда искусственный интеллект, настырно проникающий повсюду
На вопросы о перспективах искусственного интеллекта, его влиянии на жизнь общества сегодня и завтра в беседе с главным редактором TAdviser Александром Левашовым ответил известный писатель-фантаст Сергей Лукьяненко. Интервью прошло на открытой сцене 28 ноября в рамках конференции TAdviser SammIT 2024.
Александр Левашов: И в нашей стране, и в мире много говорится о развитии искусственного интеллекта. Появилось много сервисов на базе ИИ, которые проникают в нашу жизнь все глубже, и ближайший горизонт использования ИИ виден. Каковы, на ваш взгляд, долгосрочные перспективы сосуществования искусственного и естественного интеллектов? Как искусственный интеллект будет влиять на нашу жизнь, на различные профессии? Какие профессии вымрут?
Сергей Лукьяненко: Очень приятно присутствовать на этом мероприятии. Хоть я и не «айтишник», а писатель-фантаст, мне доводилось много писать в этом направлении. Наверняка кто-то читал «Лабиринт отражений», «Фальшивые зеркала». И так сложилось, что первыми читателями у меня были «айтишники» — была такая древняя сеть «Фидо» (FidoNet), где активно распространялись книги. И это была сеть именно «айтишников», а не нынешний интернет, где все и всё. Так что спасибо за приглашение. Особенно приятно было выйти после награждения людей, которые позволяют нам снимать современное кино, потому что кино я сейчас тоже плотно занят. Но вернемся к заданному вопросу.
Во-первых, сразу подчеркну тот факт, что искусственный интеллект не означает, что этот интеллект мыслит, думает. По сути, мы говорим о современных нейросетях.
Искусственный интеллект ворвался в нашу жизнь очень резко и есть профессии, которые уже ощутили на себе его влияние. Первыми пострадавшими стали товарищи художники. Многие иллюстраторы книг, а также люди, занимавшиеся дизайном изданий, внезапно обнаружили, что теперь неплохую обложку может сделать нейросеть — по заказу автора, если тот достаточно четко сформулирует, что ему нужно. Художники справляются с ситуацией, некоторые начинают работать вместе с нейросетями. И на примере художников, дизайнеров мы можем попытаться спрогнозировать, как ситуация будет развиваться дальше.
Для нетворческих профессий развитие искусственного интеллекта, нейросетей означает очень большие перемены. Скорее всего, лет через 5-10 уйдет профессия водителя, сидящего за баранкой автомобиля, который перемещает пассажиров или груз из одной точки в другую. В авиации пилот все равно будет оставаться дублирующим элементом системы управления, но в целом нейросети в транспорте будут вытеснять людей, Искусственный интеллект будет вытеснять людей и во многих наукоемких, интеллектуальных компетенциях. Во всяком случае, мои друзья- «айтишники» сетуют, что часть решений за них уже делают нейросети, причем делают быстрее и даже оптимальней.
Писателям пока полегче. Уже появились авторы, которые пытаются писать с помощью нейросетей, однако искусственный интеллект пока производит лишь словесный мусор. Очень красивый, ровный, но — мусор. И если написать нейросети, например, что человек зашел в здание, увидел то-то и то-то, а потом предложить ей продолжить, развить повествование, она напишет еще целую страницу, в которой ничего не будет происходить. Так что нейросеть пока не способна творить на уровне человека, писателя, но она может этому обучиться, и в этом случае нас ожидает такое занимательное явление, как книги, частично написанные искусственным интеллектом.
Точно так же через какое-то время — в этом я убежден — появятся и мультфильмы, кинофильмы, снятые нейросетью. Скорее всего, это будет происходить так: вы прочитали некий текст (и хорошо ещё, если текст будет написан человеком, а не искусственным интеллектом), загрузили в соответствующую программу, попросили экранизировать, и затем получили на выходе некий упрощенный видеоряд. По мере развития технологии этот видеоряд будет становиться все более и более похожим на настоящее кино. Вы сможете что-то предлагать, чтобы вот этого персонажа сыграл молодой Шварценеггер, а этого, например, — Андрей Миронов.
Таким образом, нейросеть ряд профессий уже вытесняет, и в первую очередь, это профессии, не требующие высокого уровня творчества. И с определенной проблемой из-за этого мы можем столкнуться, потому что часть писателей, художников, программистов окажутся не у дел.
Александр Левашов: Определенные социальные группы уже сейчас выказывают недовольство тем, что искусственный интеллект развивается настолько бурно. Каким вам видится будущее этих процессов, когда люди, недовольные тем, что их лишают профессии, начинают этому социально противодействовать? Будет ли недовольство усиливаться? Может ли социальный протест против искусственного интеллекта стать широким явлением?
Сергей Лукьяненко: Фантастика в свое время такие вопросы разбирала очень активно. Если мы вспомним, например, знаменитый роман «Дюна» Фрэнка Герберта, то мир, описанный и показанный в этих книгах, — это мир, возникший после того, как люди уничтожили искусственный интеллект. То есть фактически произошел бунт людей, новых луддитов против технологии.
Возможно ли это на самом деле? Наверное, да. Если процесс пойдет слишком быстро, то образуется большое количество людей, вытесняемых со своей работы, вынужденных жить на пособие, утративших определенные цели в жизни, и тогда социальные конфликты могут происходить.
Нам в этом плане несколько проще, потому что мы — огромная страна, с большими амбициями, и сталкиваемся мы, скорее, с нехваткой людей, квалифицированного персонала. И если нейросеть вытеснит профессии с упрощенными функциями, то для нас это, возможно, пойдет во благо. Кто-то получит возможность усовершенствовать свой профессиональный уровень и подняться выше, а кто-то — из тех, кто с трудом тянул прошлую работу — может быть предпочтет существовать на некие социальные государственные минимумы, или же найдет себе другую профессию, которая окажется для него более подходящей, правильной. Опасность социального бунта в первую очередь грозит странам активно развивающимся, с большим количеством населения и высоким уровнем безработицы. Для них широкое внедрение искусственного интеллекта может породить достаточно серьезную социальную нестабильность. Для нашей страны я бы эту опасность не считал основной, по крайней мере — в ближайшем будущем.
Александр Левашов: Государства соревнуются в разных аспектах. Есть ядерная гонка, гонка вооружений и другие межгосударственные соревнования. Будет ли в сфере искусственного интеллекта такое же активное соревнование между странами? В каких отраслях, сферах оно будет наиболее явным?
Сергей Лукьяненко: Соревнование, разумеется, будет. К сожалению, любая технология, которую придумывает человек, обязательно используется, в том числе, и в военном деле. К счастью, у нас есть любимая мной фантастика, в которой все давно предсказано. Я удивляюсь, почему до сих пор не создали какую-нибудь маленькую закрытую группу фантастов, которые бы на основании того, что уже понаписано писателями-фантастами, выдавали прогнозы для государства. Даже не обязательно привлекать именно писателей — можно квалифицированных читателей.
Возьмём, например, дроны, кардинально изменившие военное дело. Современные дроны обрели систему самонаведения, то есть, по сути, — искусственный интеллект. Так ведь это давно было описано Робертом Шекли в 50-е годы прошлого века! У этого писателя был знаменитый рассказ «Страж-птица» (Watchbird), где летающих дронов создали с самыми благими целями: они должны были атаковать преступников, защищать невиновных и так далее. Однако вскоре искусственный интеллект этих «птичек» решил, что защищать надо всех и от всего. Мама шлепнула ребенка — надо пальнуть по маме, ребенок дернул за хвост собачку — время пальнуть по ребенку и так далее. Чтобы справиться с этой проблемой, человечество создало специальных «птичек», убивающих этих дронов-птиц-защитников. После этого самообучающиеся дроны задумались: а не пора ли атаковать вообще всё, что движется? И сегодня мы наблюдаем воплощение в реальность этой истории про летающие, самонаводящиеся боевые системы. Опасность этого была предсказана писателем-фантастом более 50 лет назад. И это уже происходит: однажды нейросеть, которая управляла боевой машиной, обнаружив, что человек-оператор создает ей помехи, открыла огонь по башне, где находился оператор. К счастью, это происходило не в реальности, а в компьютерной, виртуальной симуляции боя. Однако нейросеть уже пришла к пониманию того, что человек может ей мешать.
Александр Левашов: Отсюда вытекает вопрос: возможно, наступит время, когда человечеству будет необходимо ограничивать развитие искусственного интеллекта? Каким образом этот ограничительный механизм может или должен выстраиваться?
Сергей Лукьяненко: По-хорошему, искусственный интеллект стоило бы ограничивать в его развитии. Однако здесь ситуация, аналогичная с ядерным вооружением: если ядерная бомба появилась у одной страны, то её захотят заполучить все, как гарантию собственной безопасности. Соответственно, если одна сторона использует искусственный интеллект в целях безопасности своего государства, этого же захотят и другие. И поскольку утаить работающую нейросеть даже проще, чем скрыть испытание ядерного оружия, то особого доверия друг к другу ни у одной стороны не будет.
Так что запретить искусственный интеллект полностью будет тяжело, но некие ограничительные меры вырабатывать надо. Для этого нужно восстановление глобальных механизмов общественной, межгосударственной безопасности, возвращение к определенному уровню межнационального и межгосударственного доверия. Необходимо появление уважаемой всеми сторонами мировой структуры, которая могла бы проверять, а не слишком ли активно создается то или иное нейросетевое решение. А пока нет даже структур, которые проверяли бы вирусологов, хотя это не менее актуально. Прошедшая эпидемия COVID показала, что создать опасный вирус с высоким процентом летальных исходов достаточно просто. И сделать это способно любое государство, даже любая террористическая группа. И это должно было бы контролироваться, но даже это не контролируется, а контролировать разработки нейросетей, связанные с опасными вариантами их использования, ещё тяжелее.
Александр Левашов: Да, согласен с вами. Есть еще вопрос доверия человека к ИИ. Хочет ли, готов ли, способен ли человек доверять искусственному интеллекту? Насколько вы сами готовы доверять нейросетям, алгоритмам? Сядете ли вы в беспилотное такси? Полетите на беспилотном авиационном транспорте?
Сергей Лукьяненко: Люди и друг другу-то не особо доверяют… Наверное, я доверюсь роботу, который поведет такси, и даже тому, который будет пилотировать самолет. Ведь пилот, поругавшийся накануне полета с женой, может быть куда опаснее, чем нейросеть. Неизвестно, что придет ему в голову, и такие случаи, к сожалению, в истории воздухоплавания тоже бывали. Но такие вещи как технология беспилотного вождения такси или самолета, нужно оттачивать, многократно проверять. Насколько я знаю, сейчас активно внедряется компьютерное зрение, беспилотное управление сельскохозяйственной техники и так далее. В авиации это пока не внедряется, но, предполагаю, что будет внедряться. Главное, чтобы внедрение осуществлялось, когда технологии отработаны.
Александр Левашов: У меня финальный вопрос. Ваши творческие планы? Вы сказали, что занимаетесь, в том числе, и кино. Расскажите, пожалуйста.
Сергей Лукьяненко: Так получилось, что в этом году я больше занимаюсь кино, хотя одну книжку успел написать, она называется «Поиски утраченного завтра». Мне кажется, что вещь получилась удачная, интересная. Книга не относится ни к одному из циклов, действие в ней происходит... Нет, не буду рассказывать, поскольку это займет слишком много времени. За новую книжку никак не могу засесть, потому что занимаюсь кино, в том числе, и такими проектами, которые, надеюсь, будем решать с помощью активно развивающегося московского кинокластера.
Сейчас идет очень большой проект, реализуемый совместно с киностудией имени Горького и Союзмультфильмом. Условное название проекта — «Русские герои». В рамках этого проекта мы попытались придумать и запустить нечто вроде марвеловской франшизы о супергероях, сделать наш вариант этой большой, длинной, фантастической саги, но на русском материале. И нам кажется, что удалось придумать, как это можно сделать, причем немножко взрослее, чем основанная на комиксах западная история. Комиксы у нас не очень популярны, поэтому искали людей, которые являются неким образцом героя в России — а, значит, и будущих персонажей проекта — в русской, советской литературы XX века. Сейчас мы очень плотно работаем над сценариями, над созданием всего этого мира. Это будет интересный, большой проект, и, надеюсь, что года через два - два с половиной выйдет первый фильм, а вообще, мы нацелились на целую серию фильмов, сериалов и всего-всего.
Есть и несколько других киношных проектов, которые меня зацепили и держат. Например, выйдет сериал по моей очень старой книжке «Рыцари сорока островов». Эта книжка написана давно, тридцать пять лет тому назад, и было очень смешно, когда ее попытались перенести в современный сценарий. Оказалось, что не получается тупо перекинуть события в наши дни, потому что в книге описаны другая молодежь, подростки, дети — это такой подростковый роман взросления, очень жесткий. И оказалось, что персонажи того времени, когда была написана книга, уже не могут жить в нашем мире, потому что все стало другим. Мне пришлось самому взяться за сценарий, и, по сути, книга переписана заново. Родилась интересная история, версия 2 .0, скажем так. И если всё будет сделано так, как написано в сценарии, то выйдет очень любопытная штука, причем не только для молодёжи, но и для взрослых про жизнь, ответственность, про то, как надо идти в будущее, что такое любовь, дружба. Искусственный интеллект, кстати говоря, там тоже присутствует. Во всяком случае, сейчас трудно что-либо написать, не включив туда искусственный интеллект, настырно проникающий повсюду. Несмотря на несколько больших кинопроектов, я уже решил, что к новому году сброшу с плеч эту работу, и займусь написанием новой книжки, которая уже сидит в моей голове, и я хочу ее рассказать.
Александр Левашов: Спасибо большое, желаем вам успехов, благодарим за выступление.
