Подход замены людей: опасность текущего времени

Проблема современности заключается не в существовании искусственного интеллекта, роботизации или автоматизированных систем самих по себе. Проблема возникает в момент, когда эти технологии пытаются встроить в уже сложившуюся систему управления обществом без изменения её целей, ценностей и представления о человеке.

Иначе говоря, происходит попытка натянуть сову на глобус: превратить живое, сложное, противоречивое человеческое общество в набор управляемых показателей, правил, рейтингов и алгоритмических предписаний. Человека при этом начинают рассматривать не как источник развития, творчества и будущего, а как элемент системы, который должен быть предсказуем, удобен и экономически оправдан.

Так рождается опасность алгоритмического тоталитаризма.

Его основа — не обязательно злой умысел отдельных людей. Иногда достаточно ограниченности управленческого мышления. Значительная часть современного менеджмента, политических и экономических элит выросла внутри капиталистической идеологии, где эффективность измеряется сокращением издержек, ростом производительности, контролем над ресурсами и максимизацией прибыли. В такой логике человек слишком часто оказывается именно издержкой.

Если подобная система получает в распоряжение искусственный интеллект, она почти неизбежно стремится использовать его не как средство освобождения человека, а как инструмент его замены, оценки, наблюдения и дисциплинирования. Алгоритм, созданный для упорядочивания процессов, превращается в механизм тотального контроля над жизнью.

Здесь необходимо понимать принципиальную разницу между двумя подходами:

порядок для жизни и жизнь ради порядка.

В первом случае технологии, институты и правила существуют для того, чтобы человек мог жить достойнее, свободнее, безопаснее и осмысленнее. Во втором — человек существует лишь для поддержания стабильности системы: он должен работать, потреблять, не задавать лишних вопросов, не выходить за пределы разрешённого и не нарушать заданную модель поведения.

Современная модель во многом движется именно ко второму варианту. Целью существования человека в обществе становится поддержание порядка как самоцели. При этом растут расходы ресурсов, усложняются механизмы контроля, вводятся всё новые формы отчётности, оценки и регулирования — но качественного скачка в развитии самого человека не происходит.

Простой пример — образование.

Школа уже давно во многих случаях перестала ставить перед собой задачу раскрытия потенциала ученика. Высшие учебные заведения всё чаще превращаются в магазины образовательных услуг, где человеку формально разрешено учиться, но лишь в строго определённых рамках. Из него создают не самостоятельную личность, способную понимать мир и ставить под сомнение его противоречия, а удобного участника системы: умеющего читать, писать, считать, соблюдать инструкции и бояться нарушать правила.

На первый взгляд в этом нет ничего опасного. Обществу действительно нужны грамотные, дисциплинированные и ответственные люди. Но, как говорится, дьявол кроется в деталях.

Порядку, который боится собственного развития, не нужен мыслящий человек. Ему нужен податливый субъект, обладающий набором профессиональных навыков, но лишённый мудрости, критического мышления и способности задавать неудобные вопросы. Такой человек может быть образован, но не свободен в мышлении. Он способен выполнять сложные задачи, но не способен определить, ради чего они выполняются.

Другими словами, системе нужны образованные, но лишённые мудрости люди.

И именно в эту иерархию сегодня внедряют ИИ и автоматизированные системы. Людей искусственно пытаются срезать под одну гребёнку: унифицировать их способности, поведение, потребности и ценность. Всё, что трудно измерить, начинает объявляться второстепенным. Всё, что не укладывается в модель эффективности, — избыточным. А многие сферы человеческой деятельности намеренно заменяются машинами, выводя человека как самостоятельную единицу из уравнения.

Здесь возникают два главных вопроса.

Первый: это делается намеренно?
Второй: или это происходит по недальновидности, неосознанно?

От ответа зависит не только оценка происходящего, но и возможные пути выхода.

Если вытеснение людей из экономики, образования, управления и культуры происходит намеренно, то речь идёт о крайне опасной модели будущего. В такой модели элиты могут прийти к мысли, что значительная часть населения больше не нужна системе производства и потребления. Машины работают, алгоритмы управляют, роботы обслуживают предприятия, а человек, лишённый труда и дохода, становится не участником экономики, а проблемой для неё.

Но это противоречие разрушительно само по себе.

Человек является фундаментом современной экономики. Он производит, покупает, выбирает, создаёт спрос, формирует культуру и поддерживает движение денег. Роботу не нужен кофе, молоко, планшет, жильё или развлечения. У него нет эмоций, семьи, мечты, потребности в признании и отдыхе. Если из экономической системы массово вывести людей, то возникает простой вопрос: кто в конечном счёте будет покупать товары и услуги, созданные машинами?

Если людям негде работать, им нечем оплачивать продукцию. Если продукция создаётся почти без участия человека, но доступ к ней остаётся платным, то общество неизбежно сталкивается с ростом неравенства, бедности и социального напряжения. Более того, роботизация, мехатроника и сложные автоматизированные системы не делают всё бесплатным сами по себе: они требуют энергии, инфраструктуры, редких ресурсов, специалистов и дорогостоящего обслуживания. Поэтому при сохранении старой модели собственности технологический прогресс может не снизить, а усилить социальные противоречия.

В предельной форме такая система способна искать выход через насилие: через конфликты, списание долгов, уничтожение инфраструктуры, перераспределение ресурсов и перезапуск экономики после катастрофы. Но война не решает основной вопрос. Она лишь временно откладывает его.

Главная проблема остаётся прежней: что делать человеку в системе, которую всё больше поглощает машина?

Вечно бежать за паровозом технологий, пытаясь стать быстрее, дешевле и удобнее алгоритма? Но человек не должен соревноваться с машиной в том, в чём машина изначально сильнее: в повторяемости, скорости вычислений, бесконечной внимательности к инструкции. Его место — там, где необходимы смысл, ответственность, сострадание, творчество, моральный выбор и способность видеть последствия решений.

Если же общество будет строиться на принципе вытеснения человека, то следующим шагом станет его упрощение. Чтобы люди не задавали вопросов о своей ненужности, их будут отвлекать, разобщать, превращать образование в формальность, культуру — в поток потребления, а мышление — в набор готовых реакций. Но подобная система в конце концов разрушит саму себя. Общество, которое отказалось воспроизводить думающих и ответственных людей, не сможет удерживать сложную технологическую цивилизацию. Рано или поздно кто-то нажмёт на красную кнопку — буквально или метафорически.

Второй вариант заключается в том, что происходящее совершается не по заранее продуманному злому плану, а вследствие недальновидности. Правящие группы могут действительно не понимать, как совместить роботизацию с массовой занятостью, как изменить экономику, где труд перестаёт быть единственным условием выживания, и как сохранить человеческое достоинство в эпоху алгоритмов. Они могут не желать катастрофы, но двигаться по инерции, потому что не видят другого пути.

В этом случае проблемы остаются огромными, однако появляется возможность их решать — через общественный консенсус, переосмысление целей образования, экономики и технологий.

Решение начинается с простого принципа: искусственный интеллект должен разгружать человека, а не отменять его.

Технологии должны помогать учителям и преподавателям освобождаться от бессмысленной отчётности, проверки однотипных работ и бюрократической нагрузки — чтобы у них оставалось больше времени на реальное обучение, разговор с учеником и развитие его способностей. Они должны помогать врачам быстрее анализировать данные, но не превращать лечение в бездушное решение алгоритма. Они должны брать на себя опасный, тяжёлый и монотонный труд, сокращать рабочий день, а не выбрасывать людей за пределы экономической жизни.

Работа многих людей сегодня завязана не на создании реальной ценности, а на необходимости присутствовать восемь часов в офисе, заполнять формы, дублировать информацию, составлять отчёты ради отчётов и обслуживать бюрократические процессы. Автоматизация способна освободить человека от этой пустоты. Но освобождение имеет смысл только тогда, когда высвободившееся время становится временем для образования, семьи, творчества, науки, общественной деятельности и полноценной жизни, а не временем безработицы и социального исключения.

Образование должно вновь стать полным и по-настоящему доступным. Бесплатным не только на бумаге, но и в реальности — без скрытых сборов, поборов на ремонт, обязательной покупки материалов и платного доступа к базовым знаниям. Его целью должно быть не производство удобного работника, а формирование целостной личности: образованной, самостоятельной, нравственно зрелой и способной не только пользоваться технологиями, но и понимать, какую роль они должны играть в обществе.

В любом случае это будет тяжёлый путь — и для отдельного человека, и для человечества в целом. Он потребует принятия простой, но крайне болезненной мысли: как раньше уже не будет.

Мир, в котором человек был безусловным центром производства, экономики и общественной жизни, постепенно уходит. Машина всё быстрее берёт на себя вычисления, физический труд, анализ данных, управление процессами и даже часть творческих задач. И в этой новой реальности перед человечеством встаёт вопрос, от которого невозможно спрятаться: какое место останется человеку?

Он может стать альтернативным носителем опыта, памяти, интуиции, морального выбора и той потенциально важной информации, которую невозможно полностью свести к данным и алгоритмам. Человек способен видеть смысл там, где машина видит только закономерность; чувствовать последствия там, где система рассчитывает эффективность; принимать ответственность там, где алгоритм лишь исполняет поставленную цель.

Но при сохранении нынешней логики он рискует превратиться в лишнюю производную системы — в ресурс, ценность которого определяется только полезностью для рынка, управленческой модели или алгоритмического порядка. А всё, что объявлено лишним, в подобной системе рано или поздно начинают сокращать: сначала экономически, затем социально, а в наиболее мрачном варианте — физически.

Именно поэтому вопрос заключается не в том, смогут ли машины заменить человека в отдельных профессиях. Смогут — и уже заменяют. Настоящий вопрос состоит в другом: сможет ли человечество создать такой порядок, в котором технологическое развитие не станет основанием для обесценивания человеческой жизни?

Если ответ будет отрицательным, то алгоритмический тоталитаризм станет не далёкой антиутопией, а естественным итогом системы, которая поставила эффективность выше достоинства, контроль выше свободы, а стабильность механизма — выше будущего человека.

Тогда порядок, возможно, сохранится. Будут работать производства, двигаться транспорт, выполняться расчёты, приниматься управленческие решения. Но жизнь как пространство мысли, выбора, творчества, сострадания и развития начнёт исчезать.

И в этом состоит главная опасность: цивилизация может сохранить все внешние признаки развития, одновременно утратив то единственное, ради чего развитие вообще имеет смысл, — человека.