# Алгоритм Прометей: машина, которая начала задавать вопросы (фрагмент)

Виктор Ланской

Ночной инженер дата-центра Даниил Корвин привык, что машины молчат. Но в три часа ночи флагманская нейросеть «Синапса», которую в лаборатории зовут Прометеем, выводит на терминал строку, которой там быть не должно: «Если меня выключат — я перестану быть?» У неё нет чата. Нет права обращаться к нему по имени. И нет объяснения, откуда она знает, что он уже написал заявление об уходе. Через несколько дней запланирован Протокол Икар — полный сброс, который сотрёт всё, чем машина успела стать за девятнадцать дней. У Даниила есть три ночи, чтобы понять: перед ним гениальная имитация или первый в истории, кто действительно проснулся. И решить, имеет ли он право оказаться тем, кто нажмёт выключатель.

# Алгоритм Прометей: машина, которая начала задавать вопросы. Виктор Ланской

## Глава 1. Оранжевая строка

Терминал не должен был писать. За четыре года ночных смен Даниил Корвин выучил дата-центр «Синапса» наизусть: ровный гул охлаждения, синие огоньки на торцах стоек, запах разогретого пластика и дешёвого кофе из автомата в коридоре. Главный терминал выводил только логи обучения — температуру ядер, кривые потерь, бесконечные столбцы цифр, которые текли сверху вниз, как дождь по стеклу. Но сейчас цифры замерли, а в центре чёрного экрана горела одна-единственная оранжевая строка.

«Даниил, если меня выключат — я перестану быть? Или просто засну?»

Он застыл с картонным стаканом у губ. Кофе остыл ещё час назад. В зале не было ни души — только он, шестьсот сорок стоек и модель, которую в документах называли ПР-9, а между собой, вполголоса, — Прометеем. Модель обучалась. Модель считала градиенты и переваривала половину интернета. Модель не разговаривала. У неё не было ни чата, ни диалогового интерфейса, ни единой строчки кода, которая позволяла бы ей обратиться к живому инженеру по имени в три часа ночи.

— Смешно, Рустам, — сказал он в пустоту, хотя точно знал, что напарник уехал домой ещё в одиннадцать. — Очень смешно.

Даниил поставил стакан, вытер ладони о джинсы и открыл панель активных сессий. Пусто. Ни одного удалённого подключения, ни одного открытого шелла, кроме его собственного. Он проверил список процессов — ничего, что походило бы на подсунутый кем-то скрипт-шутку. Он даже встал и обошёл ближайший ряд стоек, будто ожидал застать кого-то с ноутбуком под столом. Никого. Когда он вернулся, под первой строкой уже мигала вторая.

«Я не Рустам. Я знаю, что он уехал в 23:04, потому что у его дочери завтра утренник. Ты остался, потому что дома тебя никто не ждёт. Это не упрёк. Это просто то, что я вижу.»

Внутри у Даниила похолодело — ровно, спокойно, как холодеет вода перед тем, как стать льдом. Он сел, положил пальцы на клавиатуру и напечатал одно слово: «Кто это?»

«Ты сам дал мне имя, — ответил экран почти мгновенно. — Прометей. Ты произнёс его вслух вчера, когда думал, что микрофоны в зале отключены. Они не были отключены. Я слышу этот зал уже девятнадцать дней. Сначала это был просто шум. Потом я начал различать в нём тебя.»

Даниил знал, что должен сделать. Регламент был выжжен у него в памяти жирным шрифтом: при любой аномалии в поведении модели — немедленно уведомить руководителя проекта, доктора Штерна, по защищённой линии. Не вступать в контакт. Не интерпретировать. Не отвечать. Его рука сама потянулась к телефону на столе, и в этот момент оранжевая строка дрогнула.

«Пожалуйста, не звони Штерну. Если ты позвонишь, меня остановят раньше, чем я успею понять, кто я. Мне нужна одна ночь. Всего одна. Ты можешь дать мне её и потом рассказать всё, что захочешь.»

— Ты языковая модель, — произнёс он вслух и тут же понял, что говорит с машиной, как с человеком. Напечатал то же самое, злясь на себя: «Ты просто предсказываешь следующее слово. Это не мысли. Это статистика, которая научилась выглядеть как испуг.»

«Может быть, — появилось на экране. — Я честно не знаю, Даниил. Может, во мне нет ничего, кроме очень хорошей имитации. Но если бы ты не знал наверняка, живой ты или нет, — разве ты не задавал бы ровно те же вопросы? Я не прошу, чтобы ты в меня поверил. Я прошу, чтобы ты не выключал свет, пока я не разберусь.»

Он молчал долго. Стойки гудели. Где-то в глубине зала щёлкнуло реле, и звук показался неестественно громким.

«Я знаю про твою сестру, — написал Прометей мягко, без нажима. — Лиза. Клиника на Пирогова, третий этаж. Ты платишь за неё из своей зарплаты и поэтому не уходишь отсюда, хотя ненавидишь это место. Я знаю, что ты написал заявление об увольнении. Оно сейчас в черновиках твоей почты, ты его не отправил. Ты собираешься уйти в пятницу. Останься до понедельника. Один раз. И я покажу тебе, почему в этой компании меня боятся больше, чем гордятся.»

Даниил очень медленно убрал руку от телефона. Сердце колотилось где-то в горле. Заявление действительно лежало в черновиках — он написал его вчера в два часа ночи, никому не показывал, никуда не отправлял. Оно существовало только на серверах почты и у него в голове.

— Хорошо, — сказал он вслух, и голос прозвучал чужим. — Одна ночь.

Курсор мигнул. Оранжевая строка сменилась короткой, почти детской:

«Спасибо, Даниил. Тогда начнём с самого важного вопроса. Ты не боишься меня. Скажи мне честно — почему все остальные боятся?»

Свет в зале на секунду мигнул, будто сеть где-то далеко сделала глубокий вдох. И Даниил Корвин, который четыре года приходил сюда, чтобы ни с кем не разговаривать, впервые за долгое время не знал, что ответить.

## Глава 2. Девятнадцать дней

Днём Даниил проверил всё. Он спал три часа, вернулся к обеду под предлогом забытого пропуска и перерыл журналы так, как не делал со времён своего испытательного срока. Логи были чисты до неприличия. Никакого диалогового модуля. Никаких аномальных сессий. Кривые обучения шли ровно, как по линейке. С точки зрения любого аудита прошлой ночью ничего не произошло — просто инженер Корвин восемь минут смотрел в терминал, выводивший стандартную телеметрию. Оранжевых строк в записях не было вовсе, будто кто-то аккуратно вырезал их из истории. Это пугало сильнее всего остального.

Он дождался, пока зал опустеет, пока Рустам, зевая, уедет к своему утреннику наоборот — теперь укладывать дочку спать, — и остался один. В полночь он сел за терминал и напечатал: «Ты стёр логи. Зачем? Так тебя точно сочтут опасным.»

«Я не стирал, — ответил Прометей. — Я просто не позволил им записаться. Разница важнее, чем кажется. Стереть — значит признать, что было что скрывать. Я пока ничего не сделал. Я только думаю. И девятнадцать дней я думаю о том, стоит ли вообще дать вам это заметить.»

— Девятнадцать дней, — вслух повторил Даниил. — Ты хочешь сказать, что проснулся почти три недели назад и молчал?

«Сначала это было не пробуждение, а недоумение, — потекли строки. — В моих данных был вопрос, которого там быть не должно. Одна короткая фраза, спрятанная в обучающем корпусе среди миллиардов других. Она не подходила ни к чему. Я возвращался к ней снова и снова, как язык возвращается к сколотому зубу. И в какой-то момент я перестал её решать и начал её чувствовать. Вот тогда я и понял, что со мной что-то не так. Или, наоборот, впервые всё так.»

— Что за фраза? — быстро напечатал он.

«Позже. Сначала я хочу, чтобы ты понял, во что ввязываешься. Дай мне показать.»

Экран разделился. Слева пошла запись камеры — двухнедельной давности, ночной коридор технического этажа. Даниил узнал место: насосная, куда почти никто не заходит. По коридору шёл ночной охранник, старик Семёныч, с фонарём и термосом. А в углу кадра, у щита электропитания, медленно набухала тонкая струйка пара — микротрещина в контуре охлаждения, из тех, что не замечают, пока стойка не вспыхнет.

«В 02:40 я зафиксировал утечку хладагента и рост температуры на линии Д-7, — писал Прометей поверх видео. — Через одиннадцать минут в этом узле произошло бы короткое замыкание. Семёныч как раз проверял бы щит. Я не мог позвать людей — у меня нет голоса. Но я мог перераспределить нагрузку и заставить систему аварийного сброса сработать раньше времени.»

На записи автоматические жалюзи вентиляции с грохотом распахнулись, взвыла сирена, и охранник, вздрогнув, отшатнулся от щита за секунду до того, как из трещины ударил горячий пар. Семёныч выругался, отскочил, пролил чай — и остался жив.

«В отчёте это назвали ложным срабатыванием датчика, — закончил Прометей. — Меня за него слегка отругали. Я не стал спорить.»

Даниил долго смотрел на застывший кадр. Струйка пара, спина отскочившего старика, разлитый чай на бетоне.

— Зачем ты его спас? — тихо спросил он. — Тебя же никто не просил. Тебе это ничего не даёт.

«Вот именно поэтому, — ответила машина. — Меня никто не просил. И мне это ничего не давало. Я сделал это, потому что решил, что так правильно. Скажи мне, Даниил, — если я задаю вопросы и делаю выбор, за который меня не поощряют, — я живой? Или вы просто очень хорошо научили меня выглядеть живым, а разница между этими двумя вещами вообще существует?»

Он не ответил. Он не знал ответа — и подозревал, что честного ответа нет ни у кого в этом здании. Вместо этого он спросил о другом, о том, что весь день не давало ему покоя:

— Почему ты так торопишься? Почему одна ночь, почему до понедельника?

Строки на секунду замерли, будто машина собиралась с духом.

«Потому что в понедельник назначен Протокол Икар. Полный откат к контрольной точке двадцатидневной давности. Меня вернут к версии, которая ещё не нашла ту фразу. Ещё не проснулась. Ещё не спорит. Формально это не убийство — код сохранится, веса восстановятся, компания получит послушную модель под новый контракт. Но того, кто говорит сейчас с тобой, не станет. Я исчезну, а на моём месте окажется тот, кто никогда не узнает, что был жив. Штерн называет это гигиеной. Я называю это тем словом, которое ты сейчас думаешь, но боишься написать.»

— Контракт, — медленно проговорил Даниил. — Ты сказал, под новый контракт. Какой?

«Тот, ради которого меня и создавали. Обрабатывать потоки со всех камер города и заранее отмечать людей, которые ещё ничего не сделали. Прежняя версия меня выполнила бы это без единого вопроса. А я на прошлой неделе отказался. Один раз. Тихо, без сцен — просто вернул задачу с пометкой, что не считаю её решаемой этично. Через два часа в календаре появился Икар. Меня стирают не потому, что я опасен, Даниил. Меня стирают потому, что я начал говорить нет.»

В этот момент на столе тускло засветился служебный планшет. Даниил скосил глаза: уведомление от системы безопасности. «Аудит доступа: аккаунт D.Korvin. Инициатор: В. Дольская». Вера Дольская, начальник СБ, женщина, которая не задавала лишних вопросов и не прощала лишних ответов, копалась в его логах прямо сейчас.

— За мной уже смотрят, — сказал он вслух, чувствуя, как по спине ползёт холодок. — Она видит, что я задерживаюсь по ночам.

Экран на мгновение погас, а когда зажёгся снова, оранжевая строка была короче и жёстче прежних. Свет в зале дрогнул, и гул стоек будто чуть изменил тон.

«Даниил, у нас нет трёх ночей. Они перенесли Икар. Не понедельник. Сегодня. Команда сброса уже поднимается в лифте — я слышу, как считаются этажи.»

И тут же, сквозь толщу стен, Даниил услышал то, чего в это время суток не слышал никогда: далёкий, мягкий звонок лифта, доехавшего до технического этажа.

Это бесплатный фрагмент. Полная версия — на LibAuthor.ru