В "Атоме" выяснили, как нейросети и коровы погубят нашу цивилизацию

Вопросы о будущем обсудили в рамках баттла "Будущее: можно или нельзя приготовиться?" в музее "Атом". Хедлайнерами спора стали представитель научного сообщества Алексей Семихатов и литературно-фантастического – Сергей Лукьяненко. Metro побывало на баттле и узнало, как может наврать нейросеть и что станет причиной уничтожения человечества.

Будет ли катастрофа?

— Да не ждёт нас никакая катастрофа! — вскрикивает Алексей Семихатов. — Будущего вообще в каком-то смысле нет! Это психологическое состояние. Вот мы ждём, что сейчас наступит будущее, а это состояние, близкое к тревожному. Надо жить текущим моментом, и всегда есть какие-то проблемы. Ну, жизнь из этого состоит.

Сергей Лукьяненко убеждён в обратном. Цитата:

Информации всегда было до фига. И в ней процент стоящего и не стоящего всегда был примерно такой же, как и сейчас. Мы, обращаясь к прошлому, видим литературные произведения, которые оказались достойны, но сколько же писалось ерунды! Задача отделять мусор от не мусора как была, так и осталась. И то, что агенты (под агентами подразумеваются нейросети. – Прим. ред.) помогают мне это делать, – это хорошо.
— Алексей Семихатов, доктор физико-математических наук

— Я полагаю, что нас ждут катастрофы, разумеется, и кризисы, но пугаться этого, конечно, не надо, — мягко говорит писатель. — Это нормальное состояние человечества.

Мы подходим к самой катастрофической ловушке, которую нам может преподнести наука, — это возможность существовать беззаботно, безмятежно, сыто, получая любые доступные удовольствия, не затрачивая при этом каких-либо усилий. Человек вполне может сам по себе замечательно выродиться, деградировать и превратиться из человека разумного в существо, которое будет существовать только милостью нейросети. Как разумный вид мы прекратим существование.

Люди могут остановить глобальное потепление?

— Да, изменения климата происходят, последствия этого чаще неприятны. Мы можем к этому готовиться, начинать воздействовать на климат в планетарном масштабе. Изменения климата, происходящие сейчас, — это большая проблема, но она решаема при условии, что не победит истерика. Если оставить истерику и начать готовиться, то никакой катастрофы нас не ждёт, — утверждает Семихатов.

Лукьяненко убеждён, что мы не можем повлиять на законы природы:

— Изменения климата — вполне нормальный процесс. Мы живём на планете с динамичным климатом. Наш вклад в эти изменения незаметен. Не надо слишком много мнить о себе: "Боже мой, это мы тут накоптили, это у нас коровы напукали!"

ИИ — спасение или зло?

— Я считаю, что это большая опасность. Во-первых, все мы понимаем, что Интернет создан, чтобы постить туда мемасики с котиками и фоточки. Раньше знания доставались труднее. Сейчас же человек, который хочет прочитать что-то серьёзное и научное, потонет в информации. Ценность знаний стала ниже. Люди, пользуясь вот этим кладезем, немножко мощь своего интеллекта снижают, — объясняет фантаст.

Семихатов призывает не обвинять ИИ в глупости людей.

Цитата Сергея Лукьяненко:

Нейронка позволяет сделать поиск быстрее. Но мне пока ещё хватает запаса знаний, чтобы понять, что она начинает мне тупо врать. Я спрашиваю у неё про естественный спутник Венеры. И жду, что она скажет мне: «Ты чё, ты о чём, друг, нет естественного спутника». Но мне нейросеть начинает рассказывать, что спутник есть, диаметром 800 километров, называется он Люцифер!.. И если бы я ничего не знал в астрономии, я мог бы это понять вполне серьёзно!

— Информации стало больше, и доступ к ней есть, но это не значит, что кто-то из нас в состоянии её всю пересмотреть и перечитать. Это невозможно уже давно. Почему тогда надо жаловаться на агентов, которые помогают нам эту информацию собирать? Это хорошо. А то, что я всё ещё должен думать, — это само собой разумеющееся. Есть элемент естественного отбора. Люди не равны. Одни лучше соображают, что верно и чему верить, другие — хуже, но это нормально, — говорит учёный.

Источник

Фото и Видео 07.02.2025 ВДНХ, Музей Атом. Дебаты "Будущее: можно или нельзя подготовиться"