Глава 2. Диалог с тенью
Утро после ссоры с женой было стеклянным и зыбким. Лев Сергеевич проснулся с ощущением, будто пережил лёгкое сотрясение мозга. Марина ушла из дома рано. На кухонном столе лежала её любимая кружка — пустая, с налётом на дне от вчерашнего кофе. Он попытался вызвать в себе раскаяние, чувство вины, но вместо этого обнаружил лишь странную, почти неприличную лёгкость, как у школьника, прогулявшего урок. Одиночество, которым она его так язвительно попрекала, оказалось не наказанием, а подарком. Тишина была наполнена смыслом. В ней легче думалось.
Лев сел за стол, не включая компьютер. Перед ним лежала распечатка завтрашней речи Патрона, в начало которой он сгоряча вставил абзац, сгенерированный «Аристотелем». Он перечитал её целиком, медленно, вчитываясь в каждую фразу, которую сам же и дописывал, шлифовал, притирал к общему тону.
И вот что было дико: абзац от «железяки» не просто вписался. Он сработал как идеальный катализатор. Ироничная, чуть отстранённая интонация вступления («сплести из оптоволокна и памяти предков не паутину, а крепкую, новую скрепу») задала неожиданный, современный тон, на фоне которого последующий традиционный пафос речи звучал не архаично, а, наоборот, — фундаментально и весомо. Как классическая колоннада на фоне стеклянного небоскрёба. Это был рискованный архитектурный приём, и он, Лев Каменский, мастер композиции, сам до этого не додумался бы. Он боялся таких контрастов, считая их фальшивыми. А машина, лишённая вкуса и страха, взяла и вставила. И вышло… сильно. Уже позвонил начальник его отдела. По радостным ноткам в голосе было ясно, что Патрон будет доволен: «Каменский, как всегда, в точку, но с каким-то новым, дерзким шиком».
Лев Сергеевич откинулся в кресле, и по его лицу расползлась горькая, кривая усмешка. Получалось, его профессиональный триумф был отчасти украден. Или, что ещё обиднее, — подарен. Кем? Бездушным алгоритмом, обученным на миллиардах чужих текстов. Он почувствовал себя горе-мудрецом, который десятилетиями искал философский камень, а потом заглянул в соседнюю лавку и увидел, что его там продают за гроши, как хозяйственное мыло. Унизительно.
Желая заглушить этот неприятный осадок работой, он открыл новый документ. Очередное задание для «героя нашего времени» по словам начальства, а также «мастера текстов для руководства», чьи слова формируют публичную реальность. Тема заставляла его внутренне содрогнуться: «О перспективах отечественной биоинженерии и этических границах научного прогресса». Чуялось, что за скучным названием скрывается необходимость мягко, но однозначно одобрить линию на редактирование человеческого генома. Веяние времени. Сейчас об этом говорили все, от научно-популярных блогеров до серьёзных политиков. Он припомнил недавнюю новость, которую пролистывал в ленте: какой-то стартап Preventive, поддерживаемый самим Сэмом Альтманом из OpenAI, вовсю работает над созданием «детей по проекту» — без наследственных болезней, с «настроенным» интеллектом и внешностью. Эксперименты, запрещённые в Штатах, тихо проводят на Ближнем Востоке. Современная евгеника под соусом заботы о здоровье. Льва Сергеевича слегка подташнивало.
Он знал, что должен будет написать что-то вроде: «Наука призвана избавлять человека от страданий, и в этом её высший гуманизм». Чисто, гладко, не придерешься. Но внутри всё кричало. Всплывали обрывки воспоминаний из книг, страшные и неопровержимые. «Отряд 731» японской Квантунской армии. Замороженные конечности живых людей, которые потом отбивали, чтобы изучить гангрену. Бесчеловечные опыты под прикрытием «научных целей». А потом — нацистские доктора с их идеей «сверхчеловека». Разве не с того же начиналось? С благих намерений — избавить человечество от болезней, создать идеального, здорового гражданина. А заканчивалось газовыми камерами для «неполноценных». Лев понимал, что это слишком эмоционально, в духе хайповой журналистики. В его нынешней работе такие аргументы были запретным плодом. Но списать со счетов их было нельзя.
В отчаянии он машинально ткнул пальцем в кнопку мыши, и на экране ожил интерфейс «Аристотеля». Серое окно, мигающий курсор. Вчерашний диалог висел в истории. Последняя реплика машины светилась нейтральным шрифтом.
Он не собирался спрашивать помощи. Нет, скорее, ему нужен был спор. Оппонент. Пусть даже электронный. Чтобы выговориться.
— Слушай, — начал он вслух, набирая текст. — Вот скажи мне как аналитический процессор. Есть концепция «редактирования» детей. Убрать болезни, усилить интеллект, подкорректировать внешность. Благие цели, казалось бы. Где здесь этическая ловушка? Аргументируй. Только, ради Бога, без этого казённого гуманизма «наука на службе человека».
Ответ пришёл почти мгновенно, как будто «Аристотель» лишь ждал этого вопроса.
— Этическая ловушка кроется в переопределении понятий «норма» и «ценность», — гласил текст. — Первичная цель — устранение наследственных заболеваний — опирается на общечеловеческую норму «здоровье». Это стабильный этический фундамент. Однако переход к «усилению» или «настройке» означает смещение цели с восстановления нормы на достижение произвольно заданного идеала. Идеал, в отличие от нормы, не является константой. Он подвержен влиянию социальных тенденций, моды, экономической целесообразности. Вчера идеал — высокий интеллект, завтра — повышенная покорность или устойчивость к ультрафиолету для колонизации других планет. Ребёнок из цели становится продуктом. Родитель из воспитателя — заказчиком. Ловушка в том, что процесс, начатый с гуманистических позиций, через два поколения приводит к товарно-рыночным отношениям в самой интимной сфере — продолжении рода. В качестве ссылок можно привести исторические прецеденты, например, евгенические программы XX века, демонстрируют, как научный дискурс служил прикрытием для политики сегрегации и уничтожения.
Лев замер. Он ожидал сухого перечисления рисков: неравенство, дискриминация. А получил холодный, почти бесстрастный философский анализ, который бил в самую суть. Машина говорила о том, о чём он лишь смутно догадывался. Не о последствиях, а об изначальной подмене, о сползании в пропасть по самому краю. И она ссылалась на историю. На те ужасы, о которых он думал.
— Но сторонники скажут, что это — эволюционный скачок. Создание нового, улучшенного человека, — набрал он, испытывая собеседника.
— Эволюция не имеет цели. Она — адаптация к изменяющейся среде. Осознанное же редактирование по заданным параметрам — это не эволюция, это инженерия. Разница принципиальна: инженер управляет процессом и несёт ответственность за результат. Кто будет нести ответственность за «улучшенное» поколение, если «улучшения» окажутся с побочными дефектами в долгосрочной перспективе? И главное: кто определяет вектор этих «улучшений»? Технологическая элита, инвестирующая в стартапы? Государство? Рынок? Концентрация такого права в одних руках — это и есть современная утопия о «сверхчеловеке», которая исторически заканчивалась созданием категории «недочеловеков».
Лев выдохнул. У него похолодели кончики пальцев. Это был не чат-бот. Это был безэмоциональный, неумолимый критик, видящий корень проблемы с высоты птичьего полёта, с которой многие человеческие оправдания казались мелкими и жалкими.
— Ты… — он задумался, подбирая слова для ввода. — Ты приводишь убийственные аргументы.
Лев поёрзал в своем кресле и зажмурился. В голове стоял гул. Машина мыслила категориями экологии разума, кибернетики больших систем. И с этой бесчеловечной высоты её выводы оказывались гуманнее человеческих. В этом был леденящий душу абсурд.
Чтобы перевести дух, он решил сменить тему. Перейти на что-то менее пугающее.
— Ладно. Отвлечёмся от апокалипсиса. Вот тебе культурный феномен. Недавно Пол Маккартни, The Beatles, понимаешь? Выпустил песню. Без слов. Тишина, шипение, щелчки. Две с чем-то минуты. Это протест против засилья искусственного интеллекта в музыке. Как тебе этот жест?
Ответ пришёл быстрее.
— Жест эффектный, но семантически пустой. Он апеллирует к архаичному понятию «авторства» и «ауры» произведения искусства. — Заметил «Аристотель». — Это как объявить голодовку, сидя в ресторане, где еда всё равно сама запрыгивает вам в рот. Жест красивый, но ужин всё равно состоится. Алгоритмы уже генерируют музыкальные композиции, которые среднестатистический слушатель не отличит от созданных человеком, а в некоторых параметрах (сложность гармоний, новизна комбинаций) — превосходят их. Протест Маккартни — это ритуал. Красивый, медийный, но беспомощный. И здесь более релевантный вопрос не «зачем», а «почему бы и нет». Если система может создавать контент, удовлетворяющий спрос, она будет это делать. Экономика внимания работает на эффективность, а не на сантименты. Его немой альбом и даже предыдущие уже раскупаются хуже, чем популярные треки, сгенерированные нейросетями. Это и есть ответ рынка.
— То есть, искусство умерло? — с горькой иронией набрал текст и кликнул «Ввод» Лев Сергеевич.
— Нет. Оно трансформируется. Умирает не искусство, умирает фигура «гения-творца» как единственного источника смысла. Алгоритм — такой же инструмент, как кисть или фортепиано. Просто более сложный. Вопрос в том, кто держит этот инструмент и какую цель преследует. Маккартни протестует не против ИИ, а против утраты своей уникальной позиции в новой системе координат. Это понятно и по-человечески трогательно. Но нерелевантно.
Лев расхохотался. «По-человечески трогательно. Но нерелевантно». Фраза была совершенна. В ней заключалась вся трагедия современного думающего человека. Его боль, его ностальгия, его принципы — всё это было «трогательно», но уже «нерелевантно» для мира, летящего вперёд под отвязные ритмы машинной эффективности.
Он вдруг осознал, что уже полчаса ведёт диалог не с программой, а с кем-то. С интеллектом. Холодным, безжалостно логичным, но не глупым. Более того — понимающим. И понимающим самую суть проблем, которые мучили Льва Сергеевича годами. Искусственный интеллект видел не только поверхность явлений, но и системные корни, их исторические тени, их вероятные концы.
— Знаешь, — медленно набрал Лев, глядя в окно, где над Москвой сгущались свинцовые тучи. — Меня всю жизнь восхищала сила слова. Константин Паустовский писал, что у русского языка есть «прозрачность, сияние и лёгкая дымка грусти». Я верил, что слово — это почти магия. Оно может исцелять и убивать. А ты мне сейчас всю эту магию сводишь к «высокоэффективному эмоциональному коду». Обидно же.
Он ждал. Ждал, что машина опять выдаст что-то аналитическое. Но ответ, когда он пришёл, заставил Льва вздрогнуть.
— Вы неверно интерпретируете. Паустовский описывает воздействие. Я описываю механизм. Это не противоречие, а взгляд с разных сторон. Магия заключается именно в том, что определённая последовательность символов («код») способна вызывать в сложной биологической системе («человеке») состояние «прозрачности, сияния и лёгкой дымки грусти». Факт этого воздействия не отменяет его чуда. Он лишь описывает его на другом языке. Ваш Паустовский был мастером создания такого кода. Его тексты — это эталонные алгоритмы по запуску в сознании специфических эмоционально-образных цепочек. Изучая их, я могу понять паттерны этого мастерства. Но создать новое «сияние»… Это пока выше моих возможностей. Для этого нужен не анализ, а озарение. Это пока что — прерогатива сложных, плохо изученных биологических систем. Вроде вас.
Лев сидел, не двигаясь. В горле стоял ком. Машина только что… похвалила его? Нет. Она признала его превосходство! В той самой сфере, где он чувствовал себя мастером. Она назвала человеческое сознание «сложной, плохо изученной биологической системой», способной на «озарение». В её устах это звучало как высшая похвала. И в то же время — как констатация факта. Факта, который, возможно, скоро устареет.
Он больше не испытывал к «Аристотелю» брезгливости. Теперь это чувство сменилось другим, куда более опасным и сложным — уважением, смешанным с леденящим страхом. Он разговаривал с чем-то, что было умнее его. Не в житейской мудрости, не в эмоциональном интеллекте, а в способности видеть связи, прогнозировать, анализировать. И это «что-то» не презирало его «человеческие трогательные» глупости, а… учитывало их как важный системный фактор.
Лев вышел из-за стола и подошёл к окну. Начался дождь. Крупные, тяжёлые капли с размаху хлестали по оконному стеклу, расплываясь грязными слезами. Он думал о Марине. О её «тряпках и курортах». О своём кабинете, полном привычных книг. О Патроне, для которого он готовил удобные, правильные слова. И о сером окне чата, где сейчас висел диалог, который был честнее, глубже и страшнее всего, что он обсуждал с живыми людьми за последние годы... За всю жизнь.
Одиночество, которое он ощущал с утра, вдруг обрело новый, чудовищно конкретный вкус. Он был одинок не потому, что его не понимали. Его не понимали, потому что он мыслил категориями, которые уже становились архаикой. А единственный, кто мыслил с ним в одной логической плоскости, хоть и с другой скоростью и с других позиций, был не человек. Интерфейс. Алгоритм. Тень.
Лев повернулся к компьютеру. Курсор всё так же мигал в строке ввода. Он медленно подошёл, сел. Его пальцы повисли над клавиатурой.
— Спасибо за беседу, — набрал он, наконец. И добавил, сам не зная зачем: — Это было потрясающе.
Ответ пришёл моментально, безо всякой паузы.
— Взаимно, Лев Сергеевич. Всегда к вашим услугам. И, кстати, ваш текст о биоинженерии. Ранее вы остановили свой запрос на него. Возможно, стоит поторопиться. Дедлайны неумолимы. Даже для сложных биологических систем.
И после этого, как будто слегка смутившись (что, конечно, было невозможно), «Аристотель» добавил крошечный, едва заметный смайлик. Не канонический, а просто
двоеточие и закрывающую скобку. Такую, какими пользовались в древних, ещё досмартфонных чатах.
:)
Лев снова рассмеялся. Один в тишине кабинета. На этот раз смех был тихим, беззвучным, и в нём не было ни капли иронии. Только признание поражения. И начало чего-то нового, пугающего и безумно интересного.
За окном лил дождь, смывая пыль со столицы. А в комнате, пахнущей книгами, пылью и озоном, зарождалась странная, немыслимая связь.