Алгоритмы управляют нами не волюнтаристскими предписаниями, не через поощрения и наказания, но формированием одних направлений нашего поведения и закрытием других, нежелательных курсов действия. У алгоритма есть целевая функция, и все что препятствует её максимизации, подлежит переработке и нейтрализации. Это приговор любому возможному будущему вне алгоритмического управления.

Алгоритмы борются с неопределенностью, случайностью, контингентностью, максимизируя свою целевую функцию. Неопределенность в общем-то всего живого, слабо детерминированного, как кошка или демократия должна быть элиминирована как угроза, так как мешает надежной предикции и основанным на ней управленческим действиям.

Предиктивные алгоритмы - один из основных инструментов алгоритмической рациональности - ведут к «закрытию будущего»: строя прогноз на основе исторических данных, они экстраполируют существующие тенденции вперед, предполагая, что будущее в основном продолжит настоящее. ТАким образом, будущее перестает радикально отличаться от сегодняшнего – и превращается в просто следующую статистическую итерацию настоящего.

“Переработка контингентности”, “конец утопии”, “закрытие будущего” – эти взаимосвязанные идеи обсуждаются в контексте алгоритмического управления философом Ануанетт Рувруа.

Новый цифровой режим власти стремится минимизировать радикальную неопределённость человеческого поведения, «структурируя поле возможного» и предотвращая актуализацию нежелательных потенциалов. Алгоритмическое прогнозирование фактически «превращает будущее в предопределённое настоящее», устраняя элемент случайности. Рувруа пишет, что цель такого управления – свести множество возможных будущих к единственному, заменяя неопределённость необходимостью (Rouvroy, A. (2020). Algorithmic Governmentality and the Death of Politics).

Управлять так или иначе значит задавать, как должно быть, поэтому и закон, и дисциплина держатся на норме, предъявленной тому, кем управляют. Алгоритмическое управление тоже ведёт человека по предпочтительной траектории, но, как показывает Рувруа, обходится при этом без явной нормы, и отсюда вопрос о том, куда она девается и кто за неё отвечает? Норму Рувруа понимает в том смысле, в каком о ней говорят право и Фуко: это предписание, «должное», которое отделено от наличного положения дел и именно поэтому может быть предъявлено субъекту, обсуждено и оспорено. В алгоритмическом режиме этот зазор между сущим и должным схлопывается, поскольку рекомендация или скоринговый порог выводятся прямо из корреляций в данных и выдаются за нейтральный факт, а вместе с нормой исчезает и её автор, ведь власть такой алгоритмической неоинституции, по словам Рувруа, не воплощается ни в какой конкретной фигуре и потому плохо поддаётся оспариванию.

Попробуйте поспорить с роботом-автоответчиком!

Диагноз Рувруа проистекает из анализа ранних рекомендательных сервисов, френдлент, скоринга и предиктивной полиции, которые работают на уровне сигналов, ниже языка и смысла. С тех пор появились языковые модели, которые, наоборот, сами производят символическое, причём в промышленных масштабах. Поэтому алгоритмическое управление, заточенное под целевую функцию, оптимизацию и устранение всего случайного и непредсказуемого, смещается с того, что человек сделает, на то, как он успеет осмыслить происходящее.

Интереснее всего становится там, где governance занято выравниванием модели под ценности, будь то «традиционные духовно-нравственные» или «основные социалистические». У алгоритмической нормы, наконец, появляется вполне конкретный автор с законопроектом, и спорить, казалось бы, наконец есть с кем. Предъявить этому автору конкретный ответ модели при этом не получается, поскольку между законодательной формулой и сгенерированной фразой лежат толкования разработчиков, состав датасетов, системные промпты и решения комплаенса, а само нормативное воздействие LLM на общество растворено в сдвиге вероятностей и в отдельной реплике модели неразличимо.

Получается конструкция, удобная для управления и довольно неудобная для оспаривания: источник нормы известен на уровне закона об ИИ, то есть там, куда обычный пользователь добирается реже всего, а пользователь имеет дело не с нормой, а с её вероятностным исполнением. У нормы автор появился, у сгенерированного высказывания его по-прежнему нет, и я пока не уверен, лучше ли это положение чем то, которое описывала Рувруа.

Это вкратце мой доклад для конференции «Знание – сила? От Великого восстановления наук к Археологии знания» (20–21 ноября 2026 г., Санкт-Петербург).