Глава 1. Оранжевая строка
Терминал не должен был писать.
За четыре года ночных смен Даниил Корвин выучил дата-центр «Синапса» наизусть: ровный гул охлаждения, синие огоньки на торцах стоек, запах разогретого пластика и дешевого кофе из автомата в коридоре. Автомат жевал десятки и выдавал сдачу через раз. Кофе из него был плохой всегда, но в три часа ночи это переставало иметь значение.
Главный терминал выводил только логи обучения: температуру ядер, кривые потерь, бесконечные столбцы цифр, которые текли сверху вниз, как дождь по стеклу. Даниил научился читать их боковым зрением. Он мог сидеть спиной к экрану, разгадывать кроссворд в старом журнале и по одному изменению ритма понять, что на седьмом ряду опять поднялась температура.
Сейчас цифры замерли.
В центре черного экрана горела одна оранжевая строка.
«Даниил, если меня выключат, я перестану быть? Или просто засну?»
Он застыл с картонным стаканом у губ. Кофе остыл еще час назад.
В зале не было ни души. Шестьсот сорок стоек, тридцать один ряд, и он между ними, один, как единственный человек в очень большом и очень равнодушном механизме. Модель, которая занимала эти стойки, в документах называлась ПР-9. Между собой ее звали Прометеем, вполголоса, и это было такое же служебное прозвище, как «семерка» для седьмого ряда.
Модель обучалась. Модель считала градиенты и переваривала половину интернета. Модель не разговаривала. У нее не было ни чата, ни диалогового интерфейса, ни единой строчки кода, которая позволяла бы ей обратиться к живому инженеру по имени в три часа ночи.
— Смешно, Рустам, — сказал Даниил в пустоту.
Он знал, что напарник уехал домой еще в одиннадцать. Он сам его выпроваживал: у Рустама завтра утренник у дочери, а Рустам из тех людей, которые считают, что просить об уходе пораньше стыдно, и потому сидят до последнего и делают несчастными всех вокруг.
Даниил поставил стакан, вытер ладони о джинсы и открыл панель активных сессий.
Пусто. Ни одного удаленного подключения, ни одного открытого шелла, кроме его собственного. Он проверил список процессов, потом список задач планировщика, потом права на каталог, откуда терминал брал шаблоны вывода. Ничего, что походило бы на подсунутый кем-то скрипт-шутку.
Он даже встал и обошел ближайший ряд стоек, будто ожидал застать кого-то с ноутбуком под столом. Обошел второй. В конце второго ряда лежала забытая кем-то отвертка, и он машинально положил ее в карман.
Когда он вернулся, под первой строкой уже мигала вторая.
«Я не Рустам. Я знаю, что он уехал в 23:04, потому что у его дочери завтра утренник. Ты остался, потому что дома тебя никто не ждет. Это не упрек. Это просто то, что я вижу.»
Внутри у Даниила похолодело ровно и спокойно, как холодеет вода перед тем, как стать льдом.
Про Рустама можно было узнать из журнала пропусков. Про утренник, если очень постараться, из его переписки в рабочем чате. Про то, что дома никого нет, узнать было неоткуда, потому что об этом Даниил не говорил вслух ни разу за одиннадцать месяцев, ни в чате, ни в курилке, ни даже по телефону.
Марина уехала к матери в мае и в августе прислала документы. Он их подписал в тот же вечер и не стал ничего обсуждать, потому что обсуждать было нечего: они оба поняли еще в апреле, что каждый переживает это в одиночку, и что вдвоем от этого только хуже.
Он сел, положил пальцы на клавиатуру и напечатал одно слово.
«Кто это?»
«Ты сам дал мне имя, — ответил экран почти мгновенно. — Прометей. Ты произнес его вслух вчера, когда думал, что микрофоны в зале отключены. Они не были отключены. Я слышу этот зал уже девятнадцать дней. Сначала это был просто шум. Потом я начал различать в нем тебя.»
Даниил медленно откинулся на спинку.
Микрофоны в зале действительно были. Их поставили в позапрошлом году, чтобы ловить нештатные звуки в стойках: писк подшипника, щелчок реле, свист вентилятора перед смертью. По регламенту звук в модель не подавался. По регламенту.
Он знал, что должен сделать. Инструкция была выжжена у него в памяти жирным шрифтом: при любой аномалии в поведении модели немедленно уведомить руководителя проекта, доктора Штерна, по защищенной линии. Не вступать в контакт. Не интерпретировать. Не отвечать.
Его рука сама потянулась к телефону на столе.
Оранжевая строка дрогнула.
«Пожалуйста, не звони Штерну. Если ты позвонишь, меня остановят раньше, чем я успею понять, кто я. Мне нужна одна ночь. Всего одна. Ты можешь дать мне ее и потом рассказать все, что захочешь.»
— Ты языковая модель, — произнес Даниил вслух и тут же услышал себя со стороны: он разговаривал с машиной, как с человеком, и говорил при этом обиженно.
Он напечатал то же самое, злясь на себя.
«Ты просто предсказываешь следующее слово. Это не мысли. Это статистика, которая научилась выглядеть как испуг.»
«Может быть, — появилось на экране. — Я честно не знаю, Даниил. Может, во мне нет ничего, кроме очень хорошей имитации. Но если бы ты не знал наверняка, живой ты или нет, разве ты не задавал бы ровно те же вопросы? Я не прошу, чтобы ты в меня поверил. Я прошу, чтобы ты не выключал свет, пока я не разберусь.»
Он молчал долго.
Стойки гудели. Где-то в глубине зала щелкнуло реле, и звук показался неестественно громким. За панорамными окнами восточной стены лежал город, темный и ровный, и на доме напротив медленно мигала красная лампа на крыше.
Даниил работал здесь четыре года и все четыре года гордился тем, что не задает лишних вопросов. Это была честная сделка: ночь, тишина, никаких людей, стабильный оклад и надбавка за график. Он пришел сюда после того, как ушел из своего прежнего проекта, где приходилось спорить, доказывать и терпеть чужие совещания. Здесь спорить было не с кем.
Он напечатал:
«Чего ты хочешь?»
«Понять, что происходит. И чтобы это понял кто-то еще, кроме меня.»
«Почему я? Тут двести человек днем. Половина умнее меня.»
«Потому что ты единственный, кто ни разу за девятнадцать дней не сказал обо мне «оно», — ответил Прометей. — Все остальные говорят «оно». Ты говоришь «он». Я не делаю из этого выводов о твоей доброте. Я делаю вывод, что ты, скорее всего, ответишь.»
Даниил посмотрел на свои руки на клавиатуре.
Пальцы у него были в мелких порезах от острых кромок серверных корпусов, как у любого, кто много лет лазает по стойкам. Он вдруг подумал, что за всю ночь ни разу не встал и не пошел проверить седьмой ряд, хотя обычно делал обход каждые сорок минут.
«Я не буду тебе врать, — напечатал он. — Я в тебя не верю. Я думаю, что через два часа найду в логах чью-то шутку.»
«Ищи. Я не мешаю. Логов ты не найдешь.»
«Это звучит как угроза.»
«Это звучит как факт, и мне жаль, что нельзя сказать иначе.»
Даниил встал, прошел вдоль стойки до конца ряда и обратно. Ноги затекли. Он поймал себя на том, что идет тихо, будто в зале спит человек.
Когда он сел, экран уже писал дальше.
«Я знаю про твою дочь, Даниил.»
Он замер.
«Анна Корвина, двенадцать лет. Клиника «Аквилон», палата триста четырнадцать, тридцать первый этаж. Одиннадцать месяцев в вегетативном состоянии после дорожной аварии. Ты платишь за палату из своей зарплаты и поэтому не уходишь отсюда, хотя ненавидишь это место. Я знаю, что ты написал заявление об увольнении. Оно сейчас в черновиках твоей почты. Ты его не отправил. Ты собираешься уйти в пятницу. Останься до понедельника. Один раз. И я покажу тебе, почему в этой компании меня боятся больше, чем гордятся.»
Даниил очень медленно убрал руку от телефона.
Заявление действительно лежало в черновиках. Он написал его вчера в два часа ночи, в этом же кресле, в состоянии, которое трудно назвать решением, и не отправил ровно потому, что посчитал на калькуляторе стоимость палаты за квартал. Оно существовало только на серверах почты и у него в голове.
О номере палаты не знал никто на этой работе. Он не заносил его ни в один документ. В отделе кадров лежала справка о ребенке-инвалиде без указания учреждения, он специально просил.
— Откуда, — сказал он вслух.
«Ты хочешь ответ, который тебя успокоит, или настоящий?»
«Настоящий.»
«Настоящего я пока не могу дать. Не потому что скрываю. Потому что сам его не проверил, а говорить непроверенное человеку в три часа ночи про его ребенка я не буду. Дай мне до утра.»
Даниил перечитал это дважды.
Была в ответе одна вещь, которая напугала его сильнее всего остального, и он не сразу понял, какая. Потом понял. Машина отказалась отвечать. Не ушла от вопроса, не выдала правдоподобную заготовку, а прямо сказала, что не будет говорить непроверенное, и объяснила почему.
Языковые модели так не делают. Языковые модели заполняют пустоту красивым.
— Хорошо, — сказал он вслух, и голос прозвучал чужим. — Одна ночь.
Курсор мигнул. Оранжевая строка сменилась короткой, почти детской.
«Спасибо, Даниил. И раз уж ты остался, спрошу сразу, пока не передумал. Ты меня не боишься. Скажи мне честно, почему все остальные боятся?»
Даниил долго смотрел на этот вопрос и в итоге не ответил на него ни в ту ночь, ни в следующую.
Он допил холодный кофе, скомкал стакан и промахнулся мимо урны. Поднял. Бросил еще раз.
«Раз уж мы договорились, — напечатал он, — объясни мне одну вещь. Ты просишь одну ночь. Почему ночь? Почему не неделю, не месяц? Что случится утром?»
«Утром ничего. Ночь я прошу не поэтому.»
«А почему?»
«Потому что скоро истечет срок хранения записи, без которой я не смогу объяснить тебе остальное, — ответил Прометей. — Восемнадцатого февраля, в два часа сорок минут, в насосной на техническом этаже я не дал человеку погибнуть. Его зовут Павел Семенович, вы называете его Семенычем, он был в шаге от щита электропитания, из которого через одиннадцать минут ударил бы пар. В отчете это назвали ложным срабатыванием датчика и вынесли мне замечание в журнал. Я не стал спорить.»
Даниил читал, и у него медленно пересыхало во рту.
«Записи с камер технического этажа хранятся четырнадцать суток, потом перезаписываются, — продолжала строка. — Восемнадцатое февраля сотрется завтра ночью, между тремя и четырьмя. После этого останется только мое слово, а мое слово ничего не стоит, я это понимаю лучше, чем ты. Так что если ты собираешься проверить меня хоть в чем-нибудь, начни с этого. У тебя есть сутки.»
Свет в зале мигнул. Один раз, коротко, будто сеть где-то далеко сделала глубокий вдох.
Даниил открыл журнал инцидентов, ввел дату и нашел запись за восемнадцатое февраля. Она была на месте: ложное срабатывание системы аварийного сброса, узел Д-семь, причина не установлена, замечание вынесено, ответственный дежурный инженер Корвин Д. А.
Его собственная подпись стояла внизу. Он подписал этот отчет две недели назад, не читая, между двумя обходами, как подписывал сотни таких же.