Мы слышим много разной аналитики и предсказаний, которые опираются на очевидный здравый смысл. Появился крутой ИИ, способный делать работу за человека — все сразу говорят либо о том, как он провалится (ресурсы у OpenAI кончатся, парадигма не та и так далее), либо как он непременно и скоро вытеснит отовсюду людей. Другой пример поймут те, кто жил в России в 2022: вспомните, как многие экономисты, политологи и прочие обещали непременный и оглушительный крах страны в самом скором будущем. Прошло 4 года, что из этого сбылось?

Но что со всеми этими предсказаниями не так? А вот что: если что-то достаточно очевидно для вас, люди наверху, которые принимают решения, об этом уже подумали и учли. Когда руководство РФ слышит прогнозы о скором крахе экономики, что оно делает? Все возможное, чтобы этого не случилось. Оно знает, откуда исходит угроза. Когда все венчурные инвесторы, все деятели вокруг ИИ слышат сравнения текущей ситуации с бумом доткомов, что они делают? Все, чтобы убедиться, что они не там, где были тогда.

Чем серьезнее и ОЧЕВИДНЕЕ любая надвигающаяся угроза, тем выше вероятность, что проблема так или иначе будет решена.

У любых высокопоставленных политиков, в любых крупных корпорациях, обычно есть так называемые синк танки, то есть специальные группы аналитиков, задача которых — формировать стратегии на основе прогнозов будущего. Аналитики делят будущее на «ветки», обобщенные наиболее вероятные сценарии. Любые крупные корпорации и политические структуры осведомлены о наиболее вероятных вариантах будущего и действуют с учетом этого. Если какое-то предсказание очевидно для вас как для обывателя, значит оно присутствует и в отчетах любых синк танков, и стратегии строятся с учетом этой предпосылки.

Но есть ли у синк танков слабости? Да. Вот некоторые из них:

  • Аналитики — это люди, а люди любят скла́дные согласованные нарративы. Ветки будущего в их прогнозах обычно выглядят осмысленно и внятно, например: «ИИ не оправдал надежд как технология, стагнация провал», или «все текущие тренды развития ИИ продолжились и он всех заменил». Таких нарративов обычно несколько, часто с какой-то предполагаемой точкой бифуркации, которая определит, что из этого случится. Но разве это проблема? Да. Последовательности событий, которые укладываются в четкий и простой нарратив — это всего лишь подмножество всех возможных последовательностей.

  • Даже если мы учтем все возможные ветки будущего после одной точки бифуркации, таких точек много, что приводит к комбинаторному взрыву. Даже с учетом того, что многие ветки будущего по факту схлопываются (2 ветки «Билл может быть уволен в результате его халатности или в результате массового сокращения» в итоге все равно схлопываются в ветку «Билл уволен»), уже после нескольких точек бифуркации количество вариантов будущего становится слишком велико. Даже если мы способны просчитать все эти варианты, среагировать мы можем только на очень небольшое подмножество наиболее вероятных, так что супер-детальный просчет всех комбинаций обычно просто бесполезен. Да, вам может упасть на голову кирпич пока вы идете на работу, но если пытаться закладывать в свое поведение реакции на все подобные минорные вероятности, случится аналитический паралич и вы просто не выйдете из дома.

Государства и корпорации находятся в непрерывной борьбе между собой. Что это значит? Это значит, что каждый из них пытается сделать 2 вещи:

  • Устранить наиболее вероятные угрозы для себя.
  • Нанести конкурентам наименее предсказуемый удар.

Первое означает, что наиболее очевидные угрозы любой актор устраняет первыми, и скорее всего практически неуязвим для них. Второе — что действительно атаковать его будут не там, это ведь суперглупо — атаковать в самом защищенном месте. Атаковать будут, создавая ситуации с минорными вероятностями, которые не были учтены в первоначальных планах. Государства и корпорации как бы постоянно прощупывают наименее вероятные сценарии развития событий, и усиливают именно их. В итоге реальное будущее, которое действительно случается, систематически смещено в области:

  • Невнятных и нескладных, парадоксальных, ненарративизируемых последовательностей (хотя историки потом все равно найдут способ вписать это в какой-нибудь нарратив, но к реальной жизни это будет иметь мало отношения).
  • Последствий второго-третьего и далее порядков (последствия последствий, последствия последствий последствий и так далее), наиболее узких вероятностных веток, которые просто не имело смысла включать в исходный рассчет и как-то пытаться реагировать на это.

Что это значит для нас, обычных людей? Нам нет смысла опираться на какие-либо предсказания будущего в областях, где правят государства и корпорации. Нам не под силу соревноваться с синк-танками в качестве аналитики, и если глобальное будущее малопредсказуемо даже для них, то что говорить о нас? Нашей базовой эвристикой должно быть то, что глобальное будущее фундаментально непредсказуемо, нельзя полагаться ни на один из «очевидных» и легко нарративизируемых вариантов. Но что тогда есть у нас?

Мы люди простые

Лучшее из того, что доступно обывателю — это простейшие прикладные эвристики и прогнозы. Чем более прикладной является эвристика, чем ближе она к «полям», к какому-то конкретному домену, хуже глобально обобщается, чем менее что-то заметно при взгляде сверху — тем лучше для нас, и тем надежнее предсказания на такой основе. В пределе такие эвристики называются инсайдами. Любому профессионалу обычно доступно множество инсайдов, чего-то известного только ему и другим профессионалам вокруг, но не синк танкам. Именно такие штуки должны становиться основой для любой личной стратегии.