Прогулка по кладбищу футурологии

Добро пожаловать в мир футурологической вакханалии! Полная автоматизация транспорта к 2030 году. Колонизация Марса к 2035 году. Глобальный переход на возобновляемую энергию к 2040 году. Полное восстановление биоразнообразия к 2050 году. В прогнозах нет недостатка.

В целом технологическая сингулярность — точка, где ИИ или другие технологии радикально и необратимо изменят общество, превзойдя человеческие возможности понимать, что происходит, — должна быть достигнута в 2030‒2040-х годах (Рэй Курцвейл, Google) или в 2040‒2050-х (Масаёси Сон, SoftBank).

Прекрасный новый мир! Но где-то в глубинах ноосферы копошится выпущенный на волю в 1972 году супругами Медоуз World3 (компьютерная системно-динамическая модель, использованная при подготовке доклада «Пределы роста» для Римского клуба), который подготавливает общий коллапс системы к 2030‒2050-м годам…

Давно известно, что лучший футуролог — тот, кто в одном прогнозе не говорит, что произойдет и когда именно это произойдет. Тем не менее редко кто этому правилу следует, и число «точных» несбывшихся прогнозов растет лавинообразно. Потребность людей понимать, что происходит и к чему все идет, а проще говоря, потребность в иллюзии определенности никуда не делась, но если раньше одного прогноза («нынешнее поколение советских людей будет жить при коммунизме», 1961‒1991) хватало на тридцать лет, то теперь их приходится рисовать каждые полчаса буквально на коленке, то есть в планшете или ноуте.

И все же отнесемся к предмету футурологии серьезно. Во-первых, это любопытно и поучительно, а во-вторых, анализ того, как и почему мы строим заведомо неверные картины будущего, сегодня может оказаться совсем не бесполезным.

Можно выделить семь основных ошибок футурологии. Безусловно, они связаны друг с другом, где-то перетекают одна в другую, но каждая из них имеет свои нюансы, которые хочется выделить и проанализировать. Итак.

Футурология зациклена на идее роста (1). Будь то прогноз о фатальном росте количества лошадиного навоза на улицах Лондона XIX века из известного исторического примера или же прогноз Международного энергетического агентства (IEA), которое в 2021 году предсказало, что к 2030 году мировой парк электромобилей достигнет 145 млн (базовый сценарий) или 230 млн (при поддержке правительств), включая легковые, грузовые и автобусы. Реальность: в 2024 году мировой парк составил около 40 млн электромобилей (17 млн проданных в 2024 году). Для достижения 145 млн к 2030-му требуется ежегодный рост продаж на 40–50%, а это нереально.

Каждый такой прогноз напоминает сказку о том, как из любого желудя вырастает мощный красивый дуб до небес, тогда как в реальности большинство желудей съедают «черные кабаны» (разнообразные обычные природные факторы и рядовые случайности, а вовсе не «черные лебеди» Талеба).

Вся история человеческой цивилизации представляет собой своего рода метаошибку выжившего. Но футурология, воспринимая успех как правило, становится искусством рисования «правильных дубов», вместо того чтобы стать ремеслом изучения невыросших желудей, анализируя компании, общества или технологии, которые «выросли», но не учитывая, что их выживание — это уклонение от бесчисленного числа ловушек, а не гарантированный путь к дубу.

Экстраполяция (2), и не обязательно линейная, — вот еще один стандартный футурологический сбой. Экстраполяция — более сложная ошибка, чем зацикленность на росте. В ее основе привычка приравнивать поведение системы к самой системе. Наблюдаемое же «поведение» всегда редукция до счетного, обычно не слишком большого числа параметров. Ярким, пусть и специфическим примером того, как работает такая привычка выдавать поведение за систему, здесь могла бы стать геоцентрическая модель мира, которая в определенном смысле также является футурологической моделью. Более близкий пример — Всемирная организация здравоохранения, которая из почти бессмысленной бюрократической международной организации с ограниченными полномочиями (поведение) во время пандемии COVID-19 практически мгновенно превратилась в глобального биомедицинского надзирателя.

«Линейные», «органические» и даже «нелинейные» способы моделировать и прогнозировать развитие раз за разом налетают на бифуркационную матрицу. Периоды между двумя бифуркациями объявляются исследователями «поведением системы» и продолжают его за период очередной точки бифуркации.

В принципе, сам по себе это годный подход, если понимать границы его применимости и постоянно помнить о них! Но в упрощенном виде он порождает кучу ошибок. Чтобы действительно понимать динамику системы, надо моделировать не ее поведение — необходимо моделировать саму бифуркационную матрицу.

Сентиментальное отношение к будущему (3). Вопреки бытовым представлениям, что будущее рождается из прошлого и прорастает в настоящем, в действительности все ровно наоборот. Будущее пожирает настоящее и прошлое.

Завтра — это тот прайд львов и примкнувших к ним гиен, которые сегодня съели антилопу. Завтра — это стрекоза, самый успешный в природе хищник с эффективностью охоты 95‒97%, к тому же практикующий каннибализм.

Все существующее сегодня лишь пища для завтрашнего дня. Да, высоки шансы, что сегодняшние выжившие выживут и завтра, но в итоге все будут «съедены» завтрашними.

Футурология, которая строится «от сегодня в завтра», обречена, как та самая антилопа.

Можно сформулировать эту мысль менее кровожадно, используя, например, распространенное среди экономистов определение — созидательное разрушение, creative destruction. Можно сказать: будущее является скорее разрушением прошлого, чем продолжением его. Но суть от этого не изменится.

Настоящее — это не фундамент для будущего, а его топливо.

Отпечаток ископаемой стрекозы Odonata araripe

Wikipedia

Все существующие формы (технологии, общества, экономики, культуры) временны и неизбежно будут переработаны в новые структуры. Это не просто смена форм, а их поглощение будущим через конкуренцию, кризисы или трансформации. Этот «вампиризм форм» ломает классическое прогнозирование, потому что мы пытаемся видеть будущее как продолжение текущих структур, тогда как мир устроен так, чтобы их пожирать.

Футурология привычно игнорирует диссипативную природу человеческой цивилизации (4). Диссипативные системы существуют за счет постоянного рассеивания энергии и экспорта энтропии — беспорядка, хаоса — во внешнюю среду. Это фундаментальный закон мироздания: чтобы поддерживать порядок внутри системы (будь то организм, экономика или ИИ-система), она должна «сбрасывать» энтропию вовне, увеличивая хаос в окружающем мире.

Как огонь в палеолите преобразовывал энергию дров в тепло, свет костра и приготовленную пищу, но и порождал пепелища, так и сложные системы — биосфера, общества, технологии — сохраняют и усложняют свою структуру, лишь пока перерабатывают энергию и ресурсы и «выбрасывают» беспорядок.

Пример. Часто можно слышать, что США проводят политику «контролируемого хаоса» или «экспортируют хаос». Обычно это осуждается, и часто за дело. Но суть в том, что для США это является способом поддержания собственной внутренней сложной структуры. Передовая цивилизация не может не быть чемпионом в деле экспорта энтропии. Такова суровая правда жизни: кто отказывает экспортировать беспорядок сам и в своих интересах, станет свалкой чужих энтропийных отходов.

Другой пример. Широко известен обратный эффект Флинна. С 1990-х годов в развитых странах IQ падает на 0,5–2 пункта за десятилетие, особенно в вербальных и числовых навыках. Гипотез для его объяснения существует масса — питание, стресс и т. п. Однако же существует и гипотеза, связанная с началом в этот период бурного развития информационных технологий. Развитие «интеллектуальных инструментов» снижает требования к собственно человеческому интеллекту, и сегодня это уже видно невооруженным глазом. Что это, как не экспорт энтропии из усложняющейся диссипативной информационной системы в упрощающуюся?

Рост, развитие, прогресс — без нанесения вреда. Такова ошибка, которую регулярно практикуют футурологи.

Они обожают рисовать и исследовать в своем воображении «эвересты прогресса», но старательно игнорируют «зоны дикости» — куда будет сливаться энтропия. Эта сфера отдана на откуп фантастике. От классического романа «Город и звезды» (1956) Артура Кларка до графического романа (комикса) «Сквозь снег» (2011) Жака Лоба и Жан-Марка Рошетта и видеоигры Cyberpunk 2077 (2020) раз за разом возникает образ — супертехнологичное общество с рабством, каннибализмом и прочими прелестями.

Художественный образ? Но разве это не напоминает бум международной черной трансплантологии из-за одного военного конфликта в центре Европы на фоне феноменального роста технологии искусственного интеллекта? А расширение практики активной эвтаназии и ассистированного суицида в развитых странах на фоне прорыва в медицинских и биогенетических технологиях? Не берусь утверждать, что здесь есть прямая причинно-следственная связь, но сам факт возникновения таких «цивилизационных полюсов» в сердце развитого мира на что-то указывает, не так ли?

Футурология зациклена на росте и порядке, но отворачивается от «грязной» задачи — поиска, обсуждения и тем более конструирования «зон дикости», куда будет стекаться энтропия.

Чёрный лебедь (Cygnus atratus)

Wikipedia

Вместо этого в лучшем случае произносятся какие-то слова о важности гомеостаза, новом типе межцивилизационного общения, важности сохранения культуры и т. п.

Иначе говоря, фундаментальная природа диссипативных систем либо вообще не осознается, либо грубо игнорируется. Тогда как, чтобы выйти на новый уровень сложности, не разнеся в клочья цивилизацию и не превратив Землю в пустыню, задача управления экспортом энтропии во всех ее ипостасях является центральной.

Слепота к аттракторам целенаправленных систем (5). В каком-то смысле это сложение пунктов 1 и 2, но глубже. Футурология бьет по следам траекторий систем, тогда как подлинные «мотивы» системы при этом всегда ускользают.

В результате предсказатели будущего снова и снова оказываются в положении тех, кто пытается предсказать динамику тройной звезды, изучая траектории. Простейшая, совершенно детерминированная в теоретической постановке задача трех тел поставила бы футурологов в совершеннейший тупик. Значимую информацию в таком случае можно извлечь лишь из анализа аттракторов, которые у сложных диссипативных систем обычно расщепленные или даже фрактальные.

Целенаправленная диссипативная система — это не просто набор процессов, рассеивающих энергию и сбрасывающих энтропию, а система, чья динамика подчинена движению к аттрактору. Аттрактор — это некая «цель», устойчивое или квазиустойчивое состояние, к которому система тянется, будь то биологическая эволюция, стремящаяся к выживанию, экономика, идущая к эффективности, или ИИ, оптимизирующий свои алгоритмы. В отличие от случайного рассеивания энергии целенаправленная диссипативная система движется к этому состоянию, даже если путь полон хаоса, как в проблеме трех тел, где орбиты, несмотря на непредсказуемость, тяготеют к определенным паттернам.

Это радикально меняет взгляд на системы: их суть не в текущем поведении — росте, спаде, колебаниях, стабильности, — а в том, к чему они стремятся, даже если это стремление скрыто — то за регулярными нашествиями банальных «черных кабанов», то за редчайшими и впечатляющими пролетами «черных лебедей». Даже пресловутые точки бифуркации не более чем ширма, за которой успешно скрываются аттракторы.

Неудивительно, что футурология предпочитает не углубляться в сферу анализа аттракторов. В эти полные зловещего мрака залы.

К чему это ведет? Возьмем для примера популярную тему искусственного интеллекта. Обычно его рассматривают в антитезе ИИ vs Человек. Но в действительности ИИ — значимый экологический и биосферный актор.

По данным IEA, в 2024 году энергопотребление на цели ИИ составило уже 2‒3% мирового. По прогнозу, к 2035 году оно может достичь уже 20%. (Шутки по поводу точности прогнозов принимаются по почте.) Что это будет означать?

Большинство описывают ИИ как нечто, что превзойдет человека. Но посмотрим на ИИ как на суперинструмент, который настолько повысит антропогенное давление на биосферу, настолько «выжжет» сложившуюся экономику и существующее культурное многообразие, что это вызовет новый экологический кризис масштабов палеолитического и неолитического.

ИИ действует по своим внутренним законам, в основе которых стремление к оптимизации и сверхбыстрому мультиагентному обучению и масштабированию опыта). Его внедрение кажется управляемым, но, как в бифуркационной матрице, малые изменения (например, автоматизация целых индустрий или гиперэффективное потребление ресурсов) могут толкнуть систему к точке разлома.

Графический роман (комикс) «Сквозь снег» (2011) Жака Лоба и Жан-Марка Рошетта

xlm.ru

Как огонь или земледелие изменили экосистемы и общества, ИИ может стать катализатором нового экологического и экономического коллапса, не потому что он «злой», а потому что масштаб его эффективности выходит за пределы текущей устойчивости экологической, экономической и общественной систем.

Огонь в палеолите был не просто инструментом — он изменил экосистемы, социальные структуры и даже биологию человека, дав ему новые возможности, но и новые риски. Словно Новый Огонь, ИИ действует так же: это суперинструмент, который усиливает антропогенное давление на мир.

Экономика, основанная на человеческом труде, может быть «выжжена» автоматизацией, оставив после себя либо пустыню (безработица, неравенство), либо новую экосистему (например, экономику данных или универсальный базовый доход).

Биосфера, уже напряженная антропогенным давлением, может не выдержать ИИ-ускоренного потребления ресурсов — от энергии для дата-центров до добычи редкоземельных металлов. Впереди — геномная революция, которая, ведомая вычислительными возможностями ИИ, увеличит скорость коэволюции видов за счет открытия шлюзов перед горизонтальным переносом генов, отступившим на вторые роли с появлением эукариот с их защитами и вертикальным переносом.

Культура, как и биосфера с экономикой, не устоит перед «огнем» ИИ. Он уже меняет то, как мы создаем смыслы: алгоритмы формируют информационные пузыри, переписывают искусство, модулируют общественные нарративы. Это не просто эволюция, а «выжигание» старых форм идентичности — национальных, профессиональных, даже человеческой.

Это идеальный пожиратель настоящего.

Это не «черный лебедь», а новое измерение детерминированного хаоса с собственной системой возможных конечных состояний. И, возможно, в их множестве вообще нет ни одного, в котором человек как биологический вид сохранится таким, каким мы его знаем.

Игнорирование разрыва между человеческим смыслом и системной логикой (6). Футурология тонет в антропоцентричной ловушке, пытаясь втиснуть поведение диссипативных систем в рамки человеческих смыслов — прогресса, блага, комфорта, — игнорируя их собственную, чуждую логику, которая движется к аттракторам, не заботящимся о человеческом.

Идея о том, что сложная диссипативная система должна подчиняться простеньким формулировкам, облеченным в словесную вязь человеческих чаяний, конечно, забавна, но не слишком эффективна при построении надежной картины будущего.

Человеческие смыслы — свобода, идентичность, природа и прочие — и раньше мало значили на сцене диссипативной драмы, но хотя бы давали какую-то иллюзию понимания. Но они же служили и источником массы заблуждений, и, когда привычные описания вдруг переставали работать, люди воспринимали это как катастрофу, хотя в самой системе ничего не изменилось: она просто сошла с очередной площадки квазистабилизации, за время которой люди обжились мировоззренческим скарбом. Им кажется, что это кризис, хаос, бардак, караул, система рушится. Ничего подобного. Система какой была, такой и осталась и живет, как и должна была — в соответствии с принципом непредсказуемой детерминированности динамического хаоса.

Рушатся человеческие предания — мифы, идеологии, гипотезы, — но с миром ничего не случилось. Всего лишь в очередной раз стал очевиден разрыв между человеческим смыслом и системной логикой.

История человечества не принадлежит человеку — эту горькую истину трудно принять, но без этого никакая реальная футурология невозможна.

Магия словесно-смысловых заклинаний неплохо показала себя в исторической ретроспективе, однако чем менее человеческой и более технологичной становится цивилизация, тем хуже будет работать то, что люди называют «смыслами» и «идеями». Это уже видно на примере все более явного ухода от нормативного управления через конструирование идей — что и как думать, к конструированию и индуцированию эмоций — что и как чувствовать.

Люди цепляются за объяснения, чтобы не смотреть в лицо хаосу (7). Близко к пункту 6, но фатальнее. Футурология тонет в коллективном безумии человеческого разума, который, выполняя договор о самообмане, цепляется за объяснения, чтобы не видеть реального ужаса происходящего.

Идея о будущем весьма и весьма новая, ей два-три столетия. Но, словно красотка в мимолетном сне, она поманила и растаяла в кошмаре.

Это настроение очень тонко уловил киберпанк. Герои киберпанка, сражающиеся с алгоритмами, — это коллективное бессознательное, цепляющееся за человеческие объяснения в мире, который им не принадлежит.

Пожирание прошлого — в разрушенных экосистемах и утраченных идентичностях…

Бифуркации — в случайных поворотах, где хакерский взлом или бунт меняют всё…

Киберпанк своим предчувствием бьет почти в точку, но с гуманистической погрешностью. Он видит «грязные» истины — ИИ как Новый Огонь, пожирающий биосферу, экономику, культуру; зоны дикости как цену порядка; чуждость системной логики, — но смягчает их, давая надежду, что человек останется героем.

Это отголосок «проклятия» антропного принципа.

Это делает киберпанк одновременно пророческим и слепым: он показывает будущее, но не готов признать, что оно может быть не для нас.

Человек было поверил, что возможно будущее для него. Однако любая подобная футурологическая картина становится лишь очередным краткосрочным самообманом. Поэтому реальная футурология не нужна человеку — дабы вдруг не увидеть будущее-не-для-человека, а вероятно, и без него.