Послесловие: чем алгоритмический тоталитаризм не является

Термин «алгоритмический тоталитаризм» неизбежно вызывает у современного человека ассоциации с диктатурой, цифровым концлагерем, культом вождя и появлением условного «цифрового Гитлера». Такая реакция понятна: слово «тоталитаризм» исторически связано с режимами массового террора, расовой политики, уничтожения несогласных и абсолютного подчинения общества политической воле правящей группы.

Однако алгоритмический тоталитаризм в настоящем тексте — не название желательного политического строя для Земли, не оправдание исторических диктатур и не проект передачи власти одному человеку, партии или искусственному интеллекту.

Он также не является:
культом личности;
властью харизматичного вождя;
фашизмом, нацизмом или иной расовой идеологией;
религией, объявляющей одних людей «избранными», а других — неполноценными;
системой, построенной на ненависти к конкретной группе;
оправданием пыток, массового террора или насилия ради политического самоутверждения;
утверждением, что человек по природе является только механизмом;
призывом уничтожить свободу, творчество, достоинство и право на ошибку в земном обществе;
идеей о том, что современное государство должно немедленно передать ИИ право решать судьбы людей.

Классический тоталитаризм XX века был политической формой захвата общества. Ему нужны были идеология, вождь, образ врага, пропаганда, страх и массовая мобилизация. Он требовал, чтобы человек верил, подчинялся, ненавидел и участвовал.

Алгоритмический тоталитаризм описывает другую опасность. Ему не обязательно нужны ни вождь, ни партия, ни убеждённость населения. Ему даже не обязательно нужен прямой террор. Его власть строится не на лозунге «верь», а на формуле «система рассчитала». Не на приказе «подчинись», а на исчезновении практической возможности действовать иначе.

В своей предельной форме это не «цифровой Гитлер», потому что у него может вообще не быть лица, характера, биографии, ненависти или политических амбиций. Это безличный контур управления, в котором доступ к ресурсам, перемещению, информации, труду, медицине, услугам и коммуникации зависит от автоматизированных оценок и протоколов. Его опасность состоит именно в безличности: с машиной нельзя договориться через сострадание, ей невозможно объяснить уникальность случая, а её решение трудно оспорить, если она признана более рациональной, чем человек.

Но в рамках данной работы алгоритмический тоталитаризм рассматривается прежде всего как предельная техническая модель для изолированных космических контуров, где отказ системы жизнеобеспечения способен уничтожить всех находящихся внутри. В аварийной среде автоматика действительно может и должна иметь право закрыть шлюз, отключить повреждённый сектор, остановить опасный процесс или ограничить действие человека, если оно прямо угрожает жизни экипажа и целостности станции.

Это не политическое господство. Это логика аварийной автоматики.

Проблема начинается тогда, когда аварийный принцип пытаются перенести на всё человеческое общество. Земля не является космической станцией. Человеческая цивилизация не может быть сведена к герметичному техническому модулю. Её развитие зависит не только от порядка, но и от сомнения, конфликта идей, сострадания, непредсказуемости, права возражать и способности нарушать устаревшие правила.

Поэтому алгоритмический тоталитаризм в этом тексте следует понимать двояко:
Как функционально допустимый режим технического выживания в узком, опасном и изолированном космическом контуре, где автоматическое управление защищает жизнь от немедленной физической катастрофы.
Как предупреждение для Земли: нельзя превращать общество в такой контур целиком. Когда алгоритм становится не помощником человека, а окончательным судьёй ценности, нормы, риска и допустимого будущего, система начинает обслуживать не жизнь человека, а собственную устойчивость.

Таким образом, алгоритмический тоталитаризм — не образ желаемого будущего для общества. Это название границы, за которой технологический порядок перестаёт быть средством сохранения цивилизации и превращается в механизм её внутреннего омертвления.