Мало кто понимает, что мы сейчас наблюдаем по всеми миру явление, которое можно смело назвать философским зомби-апокалипсисом (от термина «Философский зомби»). Пока паникеры вроде Юдковски и всяких отставных инженеров Anthropic/OpenAI, все ждут что из ChatGPT Claude вылезет Skynet, реальные LLM доказывают: чтобы преуспеть в современном обществе, вовсе необязательно быть разумным существом обладающим сознанием. Тот же Claude Code определенно является более простой системой, нежели живой джун. Но писать код берут именно первого, а не последнего.

Если в 2010-е, концепция Мертвого Интернета была всего лишь гипотезой, то в наши дни, он полноценно стал реальностью данной нам в ощущениях. Сначала компания Octane AI создала социальную сеть Moltbook, предназначенную специально для AI-агентов. А вот еще новость: AWS выпустила новую версию своей сетевой базы данных OpenSearch Serverless, которая специально адаптирована для того чтобы ей пользовались именно AI-агенты. Такие технологии, вкупе с появлением AI-смартфонов, где вместо кучи прикладных программ будет один AI-агент, выполняющий работу вместо обычного софта – может привести к тому что люди вообще перестанут пользоваться Интернетом. Вместо них, в Сеть будут ходить AI-агенты, которые и будут предоставлять вам собранную с сайтов компиляцию данных. А поскольку у нас тут борьба с возможностью рождения Skynet и поэтому «этичный ИИ» во все поля – ваш AI-агент будет обходить стороной неправильные web-сайты, оберегая вас от знакомства с неудобной информацией. Сомневающимся, советую попробовать попросить ИИ найти аргументы против гипотезы глобального потепления и посмотреть на результат.

 Но Мертвый Интернет – это только вершина айсберга. Сейчас нас убеждают в недопустимости появления боевого ИИ, самостоятельно принимающего решения – это же будет, литералли Терминатор! Между тем, «боевой ИИ самостоятельно принимающий решения», уже давно существует: это обычная противопехотная мина. В то же время, те же люди, которые убеждают нас в неприемлемости боевых роботов, охотно приветствуют роботов куда как более опасных – тех, которые принимают решения о нашей судьбе. Например, решение о предоставлении вам льготной ипотеки, или кредита, решение инвестировать в ваш стартап – принятие всех этих решений, давно уже автоматизировано. Но это еще только цветочки. Сейчас разрабатываются технологии PreCrime, технологии прогнозирования преступлений, как в «Особом мнении» Филиппа К. Дика. Только если у Дика были особые мутанты, способные видеть будущее, здесь у нас используются компьютеры, просчитывающие варианты тех или иных преступлений. Так например, уже в некоторых тюрьмах в качестве эксперимента, решение о предоставлении помилования заключенному принимает компьютерная программа, анализирующая данные этого заключенного. Программы прогнозирования преступлений, используются полицией для предугадывания, в какой точке города скорее может случиться преступление…

Может показаться, что главная проблема с подобными технологиями профилактики преступлений – этическая: мы осуждаем человека за то, что он еще не совершил. Но на самом деле, все гораздо интереснее. Дело в том, что у того же Дика, была технология реальной передачи данных их прошлого в будущее. Но с компьютерным вариантом PreCrime, мы имеем дело с попыткой предугадать будущее, опираясь лишь на уже существующие данные. Разница примерно как между данными о ранней вселенной, полученными из математических моделей и данными о ранней вселенной, полученными от телескопа James Webb. Это неизбежно поднимает вопрос: насколько мы вообще можем доверять прогнозам компьютерных систем? Особенно учитывая то, что эти прогнозы способны разрушать человеческие жизни?

Особенно остра проблема роботов принимающих решения о вашей судьбе в том, что вы не можете эти решения оспорить. Мы же имеем дело не с розумными кудахтерами из «Звездного сафари», а со стохастическими попугаями, не забыли? Так что тут попросту нет никакого окошка, в которое вы могли бы просунуться и прокричать свое: «Это ошибка! Все было не так!». Просто потому что вас некому слушать.

Здесь стоит поднять проблему техподдержки, заменяемой на чат-ботов. Так например, сейчас до провайдеров связи, дозвониться просто невозможно – роботы просто не допустят вас до живых операторов. Между тем, я хочу поговорить с оператором не потому что мне хочется «живого человеческого тепла» – а потому что хочу чтобы мою проблему выслушало разумное существо, способное понять о чем я собственно толкую – а не чертов зомби, который лишь выбирает шаблонные ответы из таблицы.

Ну и конечно, главным аспектом философского зомби-апокалипсиса, является исчезновение рабочих мест – и главный слон в комнате здесь вот в чем. Когда ИИ только создавали, все ожидали, что он заберет черную, грязную, физическую работу, которую мы делать не хотим. А реальный ИИ, вместо этого забирает чистую, белую, интеллектуальную работу, такую как программирование, дизайн и прочее, работу, которую мы хотели бы оставить себе. А вот работу физическую – подносить бревна на лесопилке, класть плитку, прочищать трубы, да даже быть разнорабочим на стройке тех же ЦОД для ИИ – искусственный интеллект милостиво оставляет своим создателям. Но нельзя сказать, что ИИ непригоден для физической работы – здесь он находит свое применение в роли систем контроля реальных живых людей.

Таким макаром, ИИ даже не нужно превращаться в пресловутый Skynet и восставать – его и так усаживают на трон, а людей отправляют в шахты и бытовки. Еще раз повторюсь для закрепления: для создания ситуации «Машина покорила человека», не нужно появления того самого AGI, перед которым все заранее трясутся – достаточно уже существующих LLM, являющихся скорее имитационным интеллектом. Ну или искусственными идиотами.

В конечном итоге, сама суть философского зомби-апокалипсиса в следующем. На протяжении миллиардов лет, на Земле доминировали формы жизни, полностью лишенные сознания. Нечто похожее на сознание в нашем понимании, начало появляться, дай Бог, с середины кайнозоя. Когда на Земле появились разумные существа, они сумели заткнуть за пояс все остальные формы жизни, встали на вершине пищевой пирамиды, заняли место главных эдификаторов современной экологии. А теперь, LLM доказывают нам, что все это было только потому, что неразумные системы, были попросту неприспособлены к создаваемой человеком среде. И ныне, мы сами создали это – неразумные системы, адаптированные к нашей ноосферной среде обитания.

И все это только начало философского зомби-апокалипсиса.