"Уходит эра всевластия государства, приходит эра всевластия корпораций"
Популярный фантаст, автор «Ночного Дозора» предсказывает — интернет вещей поработит человечество, а терминаторы подождут
«Появляется некий страх больших корпораций, тайных организаций, суровых диктатур», — обозначил писатель Сергей Лукьяненко новый вектор запросов общества к фантастам. Накануне он выступил на цифровом форуме в Казани, где рассказал о своих соображениях по поводу будущего. О том, чем опасен интернет вещей, когда разработают настоящий Skynet и что не так с отечественным кинематографом, — в материале «БИЗНЕС Online».
Сергей Лукьяненко: «Мы сами добровольно скидываем все данные о себе через свои умные замечательные вещи куда-то в облако, во всемирную сеть, где с ними может происходить все что угодно»
«ИНТЕРНЕТ ВЕЩЕЙ СТАНЕТ ИСТОЧНИКОМ НАШЕЙ КАБАЛЬНОЙ ЗАВИСИМОСТИ»
«После того, как в айфон встроили базовую программу по измерению длины предметов, у Apple появилась самая большая коллекция антропологических мужских признаков…» — шутливо о будущем интернета вещей рассказывал популярный писатель-фантаст Сергей Лукьяненко. Пока на серьезном цифровом саммите в Казани топовые айтишники делились своим опытом, автор культовых книг из серии «Дозоры» рассказывал о своем видении недалекого будущего. А ведь именно Лукьяненко когда-то, не побоимся этого слова, предсказал появление современного интернета.
«Термин „умные вещи“ в России известен уже лет 70. Потому что где-то в 50–60-х годах писатель и поэт Самуил Маршак написал такую детскую сказку под названием „Умные вещи“, где описывал умный холодильник, то есть скатерть-самобранку, и прочие устройства, а также опасность попадания в чужие руки, которые для этого не предназначены. Так что мы задолго до появления интернета уже имели представление такому. Это если шутливо говорить, конечно», — начал свою лекцию Лукьяненко.
А если уже серьезно, то первым, кто описал технологию умного дома, «интеллекта вещей», стал американский писатель Рэй Брэдбери со своим постапокалиптическим рассказом «Будет ласковый дождь». Вот только Брэдбери, по словам Лукьяненко, никогда не был фантастом, скорее романтиком и фантазером, и в этом его прелесть — писатель не придумывает, а подвигает своими рассказами к созданию чего-то нового. При этом основная ценность фантастов — способность предвидеть опасности новых изобретений. И как раз-таки об угрозах от внедрения интернета вещей решил вчера напомнить айтишникам Лукьяненко.
«Все мы знаем Оруэлла, который описывал технологии слежки. Но что это такое? Когда у всех в комнате висит на стене телекамера, — объяснял писатель смысл своей шутки про коллекцию Apple. — Сейчас у нас каждый в кармане с собой носит и телекамеру, и трекер движения, и устройство, отслеживающее все твои расходы, при желании записывающее все, что ты говоришь, да еще и периодически снимающее. То есть мы сами добровольно скидываем все данные о себе через свои умные замечательные вещи, которых пока не так много, куда-то в облако, во всемирную сеть, где с ними может происходить все что угодно».
«Я опасаюсь подобного. У себя дома не поставил бы ни умный холодильник, ни умную кофеварку. Я лучше предпочту подождать три минуты, пока кофеварка сделает кофе, чем, подходя к дому, отдавать ей команды», — отметил Лукьяненко, приводя все новые и новые примеры. Например, кто-нибудь задумывался о том, зачем на самом деле в популярном Iqos встроен Bluetooth? Наверное, для того, чтобы подсчитать, сколько потребитель выкурил сигарет, а заодно и выяснить его предпочтения, месторасположение и прочее. То есть собрать статистику, чтобы потом выдавать нативную, таргетированную рекламу. «Посредством умных вещей, которые вроде бы нам облегчают жизнь, мы сами загоняем себя в ловушку, — уверял зал Лукьяненко. — Тут главная опасность — это даже не какое-то коварное государство, которое будет, как у Оруэлла, за нами следить и периодически делать „а-та-та“. Тут беда в том, что уходит эра всевластия государства и приходит эра всевластия корпораций, которые тоже интегрированы и встроены в систему. Эти корпорации также заинтересованы в том, чтобы знать о нас все. А лучше, чтобы мы сами о себе все сообщали, да еще и приплачивали, покупая предметы, которые будут за нами следить. Это и есть основная беда, которую я вижу в развитии замечательного интернета вещей. Он станет источником нашей кабальной зависимости».
По словам писателя-фантаста, во избежание такого сценария необходима какая-то мировая конвенция, законы, которые хотя бы формально ограничивали злоупотребление через интернет вещей. «Иначе мы рискуем превратиться в придатки к своим вещам», — подчеркивал Лукьяненко. Хотя и не исключал, что к своим 51 годам несколько может преувеличивать. Молодежь-то быстрее адаптируется к новым технологиям.
«Роботы прекрасно анализируют изображения. Но это не мысль, не разум, не сознание»
«КОГДА ГОВОРЯТ ОБ ИСКУССТВЕННОМ ИНТЕЛЛЕКТЕ, В ГОЛОВЕ СРАЗУ ПОЯВЛЯЕТСЯ ТО ТЕРМИНАТОР, ТО НАОБОРОТ…»
«Искусственный интеллект — это та вещь, которую мы, фантасты, как раз обожаем», — отметил Лукьяненко, плавно переходя к другой айтишной теме. И сразу всех успокоил — по его скромным прогнозам, в отличие от зависимости от интернета вещей, ждать нашествия терминаторов пока не стоит. По крайней мере, лет 20–30 точно — не до конца еще люди изучили естественный разум, чтобы создавать уже искусственный.
«Несмотря на все наши постоянные разговоры, что нейросеть обучили отличать треугольник от квадрата, что она написала рассказ… Пока это только имитация разума, в лучшем случае — некая вспомогательная программа, которая может выполнять сложные действия. Для меня критерием разума является творчество. До тех пор, пока искусственный интеллект не сможет создать реальное хорошее художественное произведение (и не важно, что это будет — картина, текст или музыка), то до того момента говорить о создании интеллекта невозможно. Все, что искусственный интеллект в данном направлении делает, это все-таки пока компиляция тех или иных человеческих работ, которые бывают забавными и интересными, но, к сожалению, никогда не станут оригинальными. Во всяком случае мне такие особенные произведения неведомы», — отметил Лукьяненко.
В подтверждение своих слов он рассказал о своем личном опыте. Не так давно «Яндекс» попросил его помочь с испытанием их нейросети, которая могла бы сама писать рассказы. Сначала думали, что обойдутся без профессионального писателя, но не вышло. Потребовался алгоритм для написания рассказа, который и прописал для машины Лукьяненко. Но даже после этого получилась белиберда, которая сразу бросается в глаза. «Нейросети в лучшем случае могут пока только талантливо подражать тому или иному автору», — подчеркивал писатель.
«В банальном общечеловеческом понимании, когда говорят об искусственном интеллекте, то в голове сразу появляется то терминатор, то, наоборот, мягкий, добрый, пушистый робот. В любом случае тут никто не думает, что искусственным интеллектом называют программу по вычленению бородатых мужчин от небородатых в толпе. А речь чаще всего идет именно о таких алгоритмах. В этом мы преуспели, роботы прекрасно анализируют изображения. Но это не мысль, не разум, не сознание», — рассказывал Лукьяненко. По его словам, все чаще знакомство с первыми проблесками ИИ похоже на игру человека: то номера машин заклеят, то очки наденут настолько оригинальные, что любого робота сразу закоротит…
Но сомневаться в человеческом прогрессе тоже не стоит. На создание полноценного творческого ИИ потребуется минимум 20, максимум — 50 лет. Риски их создания, по мнению фантаста, вполне обоснованы. Но речь должна идти не только о появлении ужасного Skynet и терминаторов во плоти. «Беда не в том, что он просто пушку нацелит быстрее, — заметил спикер. — А в том, что он будет развиваться с немыслимой для нас скоростью. И через несколько часов и дней он сможет превзойти человечество по всем показателям. Технологическая сингулярность. При такой скорости развития ему не надо будет особо с нами конфликтовать. Это бессмысленно. Он может очень быстро развиться и уйти по своим делам, не обращая внимания на людей. А возможно, еще и скажет что-то одобрительное: „Спасибо, что создали меня“».
«Если бы создали действительно полноценный искусственный интеллект, оперирующий всеми этими мировыми данными, то он бы, конечно, не просто заработал Трампу 10 миллионов, а разорил бы его и купил себе весь земной шар»
«КАК ТАКУЮ ВЕЩЬ МОЖЕТ ОЦЕНИТЬ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ?»
Тут зрительский зал, внимательно слушавший Лукьяненко, начал задавать ему встречные вопросы. Конечно, по большей части сугубо со своей айтишной колокольни. Например, один из них поинтересовался, можно ли считать ИИ программы, которые он разрабатывает для игры на бирже. Ответ опытного писателя: нет. И в доказательство своих слов рассказал одну реальную историю.
Дональд Трамп поспорил с брокерами, которые обещали самые лучшие вложения. Упрямый будущий президент США, конечно, стоял на обратном. Он дал брокерам $10 млн на некоторое время и столько же вложил в реальные предприятия. Итог — больше прибыли принесли его вложения, чем игра на бирже. Хваленный биржевой ИИ проиграл человеку. «Если бы создали действительно полноценный искусственный интеллект, оперирующий всеми этими мировыми данными, то он бы, конечно, не просто заработал Трампу 10 миллионов, а разорил бы его и купил себе весь земной шар», — пояснил Лукьяненко.
Второй пример, доказывающий, что все создаваемое сегодня далеко от реальной концепции ИИ. Британский художник Бэнкси как-то выставил на аукцион нарисованное на холсте свое ранее созданное граффити. Но никто из участников торгов не заметил, что в раму был встроен шредер. «Его картину купили за 1,5 миллиона, и она тут же на глазах покупателя превратилась в лоскуты. Она застряла наполовину, шредер не до конца сработал. И уже подсчитали, что она после этого стала раз в пять дороже, потому что такой уникальный случай, — рассказал писатель. — Как такую вещь может оценить искусственный интеллект? Это же полное безумие — испорченный вариант картины становится более ценным».
«Современный мир становится достаточно жестким. Люди начинают этого бояться. Появляется некий страх больших корпораций, тайных организаций, суровых диктатур»
«ПРОДЮСЕР РЕШАЕТ ВСЕ. ОН КАК ПЛОХАЯ НЕЙРОСЕТЬ…»
После этого совсем небольшой и скромный по меркам популярности Лукьяненко зал слегка отошел от темы. Немного поговорили со своим кумиром о его, наверное, самом главном произведении — «Ночном дозоре» и его экранизации.
По словам Лукьяненко, фильмом он остался в принципе доволен, хотя и Антон Городецкий в роли Константина Хабенского получился совсем не таким, каким его задумывал автор. Куда хуже вышла экранизация «Азирис Нуна» — оригинальную историю исковеркали якобы настолько, в том числе недостаточной актерской игрой, что от книги «Сегодня, мама!» почти ничего не осталось. «К сожалению, кино у нас сегодня продюсерское. Продюсер решает все. Он как плохая нейросеть, — проводил забавные параллели Лукьяненко. — Всегда пытается втащить то, что раз сработало. У нас так действуют продюсеры».
Хотя с заезженными «Дозорами» было, конечно, не так — Тимур Бекмамбетов отработал на твердую пятерку. «Когда во время премьеры посмотрел первые 5–10 минут, мне стало совсем грустно, я открыл бутылку виски и сделал пару больших глотков. А рядом сидела очень интеллигентная старушка: „Вы знаете, у нас в Питере не принято пить виски из горла, тем более на премьере художественного кинофильма“. Я на нее смотрю и говорю: „Сударыня, простите мне мое отвратительное поведение. Но беда в том, что я автор книги и сценария этого фильма“. Она с такой вальяжностью кивнула: „Хорошо. Тогда пейте, молодой человек, пейте“, — продолжал шутить Лукьяненко. — Потом я прочитал кинорецензию, и оказалось, что это была известная питерская кинорецензентка».
Куда движется кинематограф, в принципе, понятно, но что с отечественной литературной фантастикой? Как справедливо заметила аудитория, в последнее время фантастика постепенно переходит в фэнтези. По словам Лукьяненко, это закономерный процесс — просто наука стала слишком сложной для объяснения. Сейчас фантасты снова вернутся к теме ближнего космоса, колонизации Луны и Марса. Киберпанк, для которого был характерен интернет, ИИ и прочее, в чистом виде умер. Сейчас общество требует, как заметил писатель, от литературы ответить на другой вопрос: куда развивается общество? И на повестке дня стоит боязнь потери свободы и независимости отдельно взятого человека.
«Современный мир становится достаточно жестким. Люди начинают этого бояться. Появляется некий страх больших корпораций, тайных организаций, суровых диктатур», — подытоживая лекцию, заявил Лукьяненко, словно намекая о новом векторе развития своего творчества.
Всё, в принципе, понятно. Даже мнение Сергея Васильевича насчёт ИИ. На мой взгляд, хотя я и не обладаю столь бесспорным правом на формирование общественного мнения, опасность ИИ пока не в том, насколько он дублирует человека, а в том, какие именно люди и зачем его развивают, чьи команды он выполняет. Можем и не дожить до апофеоза искусственного разума в чистом виде, 20-30 лет это очень долгий срок для современного мира. А фильм «Азирис Нуна» один из самых моих любимых. Радость в чистом виде. Книгу тоже люблю. Как, впрочем, и всё, что написал Лукьяненко.