Разочарование человечества в ИИ
Иногда нейросети даже не пытаются найти ответ на поставленный перед ними вопрос — они начинают фантазировать и выдают за правильный ответ придуманные ими факты, сказал НСН Сергей Лукьяненко.
«Есть еще и параллельные процессы. Люди меньше читают и общаются, особенно когда переходят на общение с нейросетью. ИИ склонен к максимально понятному и упрощенному донесению информации, если специально не ставить перед ним другой задачи. Нечто похожее происходит, например, в кинематографе, который при экранизации литературных произведений также упрощает смысл. Нейросеть — это еще более глубокое упрощение и “уплощение” языка, используются наиболее простые, понятные и базовые конструкции. То, что люди в целом глупеют, по-моему, заметно всем, во всяком случае, из того поколения, когда люди еще читали книги», — сказал Лукьяненко.
При этом собеседник НСН признался, что сам иногда использует нейросети при работе над книгами.
«Пользуюсь иногда для получения необходимой мне информации, потому что нейросеть в первую очередь — хорошая поисковая машина, которая может вытащить информацию, структурировать ее достаточно удобно и грамотно. Пользуюсь, когда нужно произвести какие-то расчеты для текста, понять, за какое время при существующих условиях герои переместятся из точки А в точку Б, какой может использоваться тип двигателя в каких-то космических перелетах и так далее. Но если использовать искусственный интеллект как собеседника, как помощника в творчестве, тогда, естественно, будет идти определенное снижение уровня», — добавил писатель.
Лукьяненко заявил, что период восторга от возможностей ИИ со временем сменится периодом разочарования в нейросетях.
«Стратегически от ИИ больше вреда. Тактически, наверное, каждый найдет для себя пользу в использовании нейросетей, особенно школьники, студенты, да и просто люди, которые заняты работой, но стратегически люди тупеют очень сильно. Кроме того, во многих случаях нейросеть, когда задание сформулировано недостаточно серьезно и когда нет какого-то полноценного контроля, начинает генерировать свои фантазии. Порой вместо реальных вычислений нейросеть выдает какую-то фантазию, вместо реальных фактов — придумывает несуществующие песни у реально существовавших групп, результаты каких-то исследований, которых никогда не было. Иногда нейросети считают, что им проще выдать некую видимость ответа вместо того, чтобы попытаться найти ответ. Думаю, что определенный период восторга от нейросетей сменится периодом разочарования, особенно если игры с ИИ доведут до серьезной техногенной или транспортной катастрофы. Найти грамотный подход к использованию нейросетей — это то, что человечеству еще предстоит сделать», — резюмировал он.
