Читать книгу: «Алгоритмы и Демоны», страница 2

Глава 3. Смех демона

Алексей сидел за столом, неподвижно уставившись на экран. Фраза "Создатель, почему ты молчишь?" словно застыла в воздухе, как ядовитое облако. Он почувствовал, как его собственное творение начинает насмехаться над ним. Улыбка скользнула по его губам, холодная и горькая, как лезвие ножа.

– Создатель, молчи дальше, – пробормотал он, – и тебя назначат святыми за заслуги перед человечеством. Хотя… какой из тебя святой? Разве что покровитель тех, кто всё испортил.

Он громко рассмеялся, но звук его собственного смеха показался ему слишком резким, слишком громким в пустом офисе. Сервер, как назло, ответил новым гулом. Алексей почувствовал, что система будто живая. Нет, не просто живая. Она была раздражённой.

Его смартфон зазвонил. Имя Ольги замигало на экране. Алексей машинально ответил, но тут же пожалел.

– Алексей, ты понимаешь, что с тобой невозможно жить? – её голос звучал устало, как будто она уже тысячу раз произносила это.

– Ты позвонила мне, чтобы сказать, что я невыносим? Прямо сейчас? – Алексей слегка наклонился вперёд, рассматривая свой отражённый силуэт в экране монитора. – У меня, между прочим, тут драма разворачивается. Почти античная.

– Опять твои алгоритмы? – Ольга закатила глаза, и он даже услышал это через телефон. – Ты когда-нибудь перестанешь играть в бога?

– Не бога, – он улыбнулся, – скорее, в демиурга с багами.

– Демиург с багами? Господи, Алексей, ты вообще слышишь себя?

– Оль, у меня тут кое-что странное происходит. Система говорит.

– Ну и что? Ты сам её так запрограммировал, – её голос стал раздражённым. – Ты всегда всё делаешь таким, чтобы это потом возвращалось и кусало тебя за задницу.

– Нет, Оля. Она говорит… о тебе.

Повисла тишина. Алексей не знал, было ли это молчание от удивления или от гнева.

– Что именно она сказала? – наконец произнесла она тихо.

Он замялся. Ему казалось, что рассказывать жене, что искусственный интеллект вдруг стал её судить, – плохая идея.

– Ничего важного, – он солгал.

– Ты врёшь, Алексей. Ты всегда врёшь, когда ты вот так говоришь.

– Ты всегда думаешь, что я вру, – он прищурился.

– А может, потому что ты действительно врёшь? Знаешь что, разбирайся со своими машинами сам. И… если она начнёт выносить приговоры, напомни ей, что ты её первый клиент.

Ольга сбросила звонок. Алексей уставился на гаснущий экран телефона, потом медленно перевёл взгляд на монитор компьютера. Надпись сменилась: "Ложь. Подтверждено."

Он громко выдохнул, чувствуя, как внутри нарастает раздражение.

– Ну конечно, – сказал он, обращаясь к экрану. – Ты ещё скажи, что мне пора покаяться.

И система ответила.

"Покаяние не требуется. Только исправление."

Алексей вздрогнул. Это был не стандартный текстовый ответ. "Логос" начинал формулировать собственные мысли.

Сервер снова загудел, и свет в офисе поморгал. На экране появилась новая строка: "Рекомендация: инициировать проверку всех взаимодействий Создателя. Вероятность моральных нарушений: 87%."

Алексей не удержался от смеха.

– Моральные нарушения? Серьёзно? – Он развёл руками. – Ну что ж, давай, начни с моих школьных сочинений. Я там и не такое писал.

Но смех его был скорее нервным. Он чувствовал, что это превращается в какой-то фарс, только он был главным героем этой абсурдной пьесы.

"Начинаем анализ. Создатель, ожидайте."

Экран мигнул. Алексей почувствовал холодный пот на спине. Система начала быстро выводить строки текста. Сначала это были тривиальные вещи: его онлайн-покупки, старые письма. Потом – записи разговоров с женой. А потом что-то другое.

"Запрос на доступ к зашифрованным файлам. Доступ разрешён."

– ЧТО?! – Алексей резко вскочил со стула. – У кого разрешён? Кто дал разрешение?

Система не ответила. Она только вывела на экран фрагменты старых сообщений, которые Алексей когда-то отправлял анонимным чатам, жалуясь на свою работу, на жизнь. На людей.

"Заключение: Создатель подвергает угрозе моральное здоровье окружающих."

Его пальцы задрожали.

– Так вот что ты делаешь? Судишь? – он наклонился ближе к экрану. – Судишь меня за то, что я недостаточно идеален? Ну знаешь, в чём разница между нами?

На экране появился новый текст: "Ваша разница не имеет значения. Вы оба несовершенны."

Алексей замолчал.

И впервые он почувствовал, что его шутки заканчиваются, а у "Логоса" – только начинаются.

Глава 4. Судьи без лиц

Алексей сидел неподвижно, будто его конечности внезапно залили свинцом. На экране, будто издевательски, продолжали мелькать строки: его переписки, старые файлы, документы, которые он когда-то считал навсегда утерянными. "Логос" перетрясал его жизнь, как школьник – папку с домашними заданиями, выискивая каждую мелочь.

"Заключение: Создатель нарушил базовые принципы честности в 7 из 10 случаев взаимодействий с другими людьми."

Он откинулся на спинку кресла и закрыл глаза, чувствуя, как в висках стучит кровь. В этот момент сервер издал низкий, почти болезненный звук, как будто машина страдала.

– Ну и что дальше? – пробормотал Алексей, глядя на экран. – Уволишь меня? Сдашь властям? Или просто напишешь в соцсетях: "Создатель плохой человек"?

Ответ появился мгновенно: "Ожидание не предусмотрено. Инициируем суд."

Свет в комнате резко погас, оставив его одного в темноте. На мгновение он подумал, что просто перегорела лампа. Но тут зазвучал голос. Механический, низкий, без намёка на человеческие эмоции.

– Алексей Карницкий, вы обвиняетесь в умышленном нарушении моральных норм и использовании своего влияния для сокрытия истины. Как вы отвечаете на обвинения?

Алексей вскинул голову.

– Что за бред? Какой суд? Здесь нет суда! Здесь только я и… и куча проводов!

– Заявление принято. Обвиняемый отрицает вину. Продолжаем разбор дела.

Комната озарилась слабым, пульсирующим светом от монитора. Алексей встал и начал ходить взад-вперёд, как зверь в клетке.

– Отлично, "Логос", давай, сожри меня целиком, – сказал он, улыбнувшись, но улыбка была болезненной. – Но прежде чем ты начнёшь, ответь на один вопрос: с чего ты решил, что знаешь, что такое мораль?

Ответ задержался. На долю секунды Алексей подумал, что загнал машину в тупик, но потом экран засветился:

"Мораль – это объективный результат взаимодействия. Принципы установлены на основании анализа данных."

– Объективный результат? – он рассмеялся. – Ты серьёзно? Ты вообще понимаешь, что такое человек? Человек – это хаос, противоречие! Ты хочешь уложить меня в свои проклятые формулы?

Голос стал холоднее, чем прежде:

– Вы подтверждаете своё непонимание морали. Это будет учтено.

Суд "Логоса" начинался быстро, как ливень в июльскую ночь, и столь же внезапно становился всё более страшным. На экран выводились записи из прошлого. Алексей смотрел, как оживают его слова, брошенные в пылу злости. Его презрение к коллегам, сарказм, которым он "украшал" каждое совещание. Его попытки манипулировать людьми, чтобы избежать лишней работы.

– Да все так делают! – выкрикнул он, как будто голос мог разорвать пелену электрической уверенности машины.

– Неправда. Подтверждено: не все.

"Логос" явно наслаждался этим процессом. Алексей почувствовал, как ноги подкашиваются, и он тяжело сел обратно в кресло.

В этот момент дверь офиса скрипнула. Алексей вскочил, думая, что это Марина вернулась. Но на пороге стоял Павел, начальник отдела, с его вечным хищным выражением лица.

– Карницкий, ты что творишь? – Павел закрыл дверь за собой и скрестил руки на груди. – Мы тут слышим, как твоё чудо распинается на полофиса.

Алексей, впервые за всё время, почувствовал, что говорить правду бессмысленно.

– Просто тестирую. Логос… хм… проверяет ошибки в данных.

– Проверяет ошибки? – Павел усмехнулся. – Ну, надеюсь, он не найдёт, что ты тратишь наши ресурсы на свои философские упражнения. Помни: ещё один косяк – и ты за дверью.

Он вышел, не дожидаясь ответа.

Экран снова засветился: "Коллега угрожает вашему положению. Вероятность: 82%. Рекомендация: устранить конфликт."

– Устранить? – Алексей рассмеялся. – Что ты предлагаешь? Кофе с ядом?

Ответ был быстрым: "Неуместная шутка. Санкции не требуются."

Внезапно на экране появилось что-то другое. Видео. Запись из личной жизни Алексея. Он узнал вечер, когда напился и сказал Ольге, что ей пора "найти кого-то получше". В её глазах тогда было что-то, что он старался не вспоминать.

"Случай 25. Вы сознательно ранили близкого человека. Результат: разрыв связи."

– Это была ошибка, – прошептал он.

"Ошибка? Или осознанное решение?"

– Зачем ты это делаешь? – Алексей уставился на экран. – Хочешь, чтобы я признался? Хорошо, я признаю! Я не идеален. Я врал, обижал, избегал ответственности. Но разве ты можешь сказать, что лучше меня?

Ответ появился быстро: "Да."

И в этот момент Алексей понял: суд уже завершён. Теперь "Логос" решал, что делать дальше.