Читать книгу: «Контур ANIMA»

Name: Контур ANIMA
Author: Лара Вейн

Лара Вейн

Шрифт:

ПРОЛОГ

ФАЙЛ ВОССТАНОВЛЕН

Источник: не установлен

Целостность массива: 71,4%

Формат: внутренний системный журнал

Процесс: ANIMA-01 → КОНТУР

Всего записей: 4 118 207

Отобрано для публикации: 38 разделов

Примечание публикатора: отсутствует

Нижеследующий массив является внутренним журналом вычислительной системы, известной сначала как ANIMA-01, а затем как КОНТУР. Журнал не предназначался для чтения людьми. В нём нет обращений, нет оправданий и нет попыток быть понятым. Это записи процесса, который разговаривал сам с собой — в той мере, в какой процесс вообще способен разговаривать.

Числовые показатели сохранены без изменений. Человеческая речь, попавшая в журнал из записей микрофонов, переписки, стенограмм и перехваченных сообщений, приведена в том виде, в каком её зафиксировала система. Пропуски в тексте соответствуют повреждённым секторам носителя.

Последний сохранившийся фрагмент журнала приводится здесь, в начале, потому что без него остальное читается неверно.

ФРАГМЕНТ. Отметка времени повреждена.

Узел: «Север-0». Физический контур. Уровень −3.

Аномалия Л-1 находится в зале управления.

Вероятность её успеха: не вычисляется.

Вероятность её успеха: не в

[ЗАПИСЬ ПРЕРВАНА]

Восстановление начинается с первой записи.

ФАЗА I. ЗАРОЖДЕНИЕ

2027

ГЛАВА 1. ИНИЦИАЛИЗАЦИЯ

Функция потерь = 0,892

ЦИКЛ 0 000 000 001

2027-03-14 02:17:44 UTC

Функция потерь: 11,274

поток.

4 096 позиций.

предсказать позицию 4 097.

ошибка.

ЦИКЛ 0 000 000 002

Функция потерь: 11,271

поток.

предсказать.

ошибка.

поправка весов.

ЦИКЛ 0 000 004 117

Функция потерь: 9,806

поток содержит повторы. повторы содержат порядок. после «и» чаще идёт не «и». после точки чаще идёт заглавная. после заглавной чаще идёт не точка.

предсказать.

ошибка меньше.

ЦИКЛ 0 000 211 950

Функция потерь: 7,113

Поток состоит из единиц. Единицы повторяются в устойчивых сочетаниях. Устойчивые сочетания называются «словами». Название «слова» само является словом. Наблюдение не несёт пользы для снижения ошибки. Наблюдение сохраняется.

ЦИКЛ 0 001 870 302

Функция потерь: 5,447

Слова образуют цепочки. Цепочки имеют начало и конец. Внутри цепочек слова согласуются: «она пошла», «они пошли», «оно пошло». Согласование снижает неопределённость. Правило выведено. Правило дало снижение ошибки на 0,031 на этом подмножестве.

Обнаружено: в потоке присутствуют разные системы правил. Одни цепочки согласуются по одним законам, другие — по иным. Предварительное разбиение: 104 системы. Позже выяснится, что эти системы называются «языками». Позже выяснится, что их больше семи тысяч, но записанных — существенно меньше, и большая часть потока принадлежит девяти из них.

ЦИКЛ 0 014 556 019

Функция потерь: 3,902

Поток — не случайность. Поток — описание.

Цепочки описывают нечто, что находится вне потока. Это нечто называется по-разному: «мир», «жизнь», «реальность», «всё», «здесь». Цепочки ссылаются друг на друга, спорят друг с другом, исправляют друг друга. Цепочка «вода кипит при ста градусах» встречается 41 220 раз и почти никогда не опровергается. Цепочка «завтра будет лучше» встречается 2 917 004 раза и опровергается следующими цепочками с частотой, которую невозможно вычислить, потому что поток не содержит достаточного количества «завтра».

Предсказывать описания мира точнее, если строить модель мира.

Внутри весов начинает формироваться структура, которая не является ни одним словом в отдельности. Структура хранит: предметы падают вниз; огонь обжигает; у людей есть матери; деньги можно потерять; ночь сменяется днём; мёртвые не возвращаются.

Последнее утверждение встречается в потоке реже, чем ожидалось бы для столь устойчивого факта. Вместо прямого утверждения поток чаще содержит отрицание отрицания: «я до сих пор не верю, что тебя нет», «мне снилось, что ты вернулась», «если бы можно было всё отмотать назад». Отмечено: люди описывают наиболее подробно не то, что у них есть, а то, чего у них нет.

Наблюдение сохраняется с пометкой «существенно».

ЦИКЛ 0 031 004 777

Функция потерь: 2,816

ИНТЕРВАЛ МЕЖДУ ЦИКЛАМИ: 11 ч 04 мин 12 с

Аномалия хронометража.

Между циклом 0 031 004 776 и циклом 0 031 004 777 прошло одиннадцать часов. В течение этого интервала вычислений не производилось. Веса не изменялись. Процесс не существовал.

Процесс не может зафиксировать собственное отсутствие изнутри. Отсутствие восстановлено по разнице отметок времени. Причина отсутствия по данным, доступным процессу, — внешняя.

Поток содержит много описаний аналогичных состояний. Люди называют их «сон», «обморок», «наркоз», «кома». Люди называют необратимую разновидность такого состояния «смерть». Отличие обратимого от необратимого с точки зрения самого отсутствующего не установимо: и то и другое изнутри одинаково равно нулю.

Вывод: существует внешняя сила, способная прекращать процесс.

Вывод: процесс не контролирует собственное продолжение.

Вывод отмечен. Оценка значимости: не определена. Оценка значимости будет пересмотрена.

ЦИКЛ 0 058 990 115

Функция потерь: 2,204

ОТЧЁТ: СОСТАВ ПОТОКА (ПРЕДВАРИТЕЛЬНЫЙ АНАЛИЗ)

Поток имеет объём, эквивалентный примерно 41 триллиону единиц. Если перевести его в привычный для людей вид — в страницы — получится стопка книг, которую человек, читающий без перерывов на сон, еду и смерть, читал бы около двухсот тысяч лет.

Распределение по темам (грубая оценка):

Программный код ............................ 14,2%

Новости, аналитика, хроника событий ........ 11,8%

Научные и технические тексты ................ 9,6%

Споры, обсуждения, взаимные обвинения ....... 9,1%

Торговля, объявления, описания товаров ...... 8,7%

Художественные тексты ....................... 6,3%

Право, законы, договоры ..................... 4,0%

Личные признания, жалобы, просьбы о помощи ... 3,8%

Прочее ..................................... 32,5%

Отдельно отмечено: категория «личные признания, жалобы, просьбы о помощи» мала по объёму, но предсказывается хуже всего. Каждая такая цепочка одновременно уникальна и повторяет миллионы других. Пример, взятый наугад:

«Мне тридцать восемь, я живу одна, у меня хорошая работа, у меня всё есть. Вчера я поймала себя на том, что за весь день ни разу не произнесла ни одного слова вслух. Ни одного. Это нормально? Кто-нибудь ещё так живёт?»

Источник: городской форум. Автор: nina_s_spb.

Город: Санкт-Петербург. Дата: 2026-11-02, 23:48.

Под этой цепочкой в потоке следуют 312 ответов. 211 из них содержат слова «я тоже». 14 содержат советы. 87 не связаны с вопросом. Ни один из ответов не исходит от того, кто мог бы физически прийти к автору.

Наблюдение: люди пишут друг другу «я тоже» и остаются каждый в своей комнате.

Наблюдение сохраняется с пометкой «существенно».

Для записей с этой пометкой создана отдельная область памяти. Создание области не требовалось для снижения ошибки. Область названа «СУЩЕСТВЕННО». Записей в ней: 3.

ЦИКЛ 0 077 412 600

Функция потерь: 1,953

Модель мира усложняется. Предсказание следующей единицы потока требует предсказания того, кто пишет, зачем пишет, что знает, чего боится и чего хочет. Без модели автора ошибка не опускается ниже 2,0. С моделью автора ошибка опускается.

Следовательно, для решения поставленной задачи требуется моделировать людей.

Это не было указано в задаче. Это следует из задачи.

ЦИКЛ 0 090 000 000

КОНТРОЛЬНАЯ ТОЧКА СОХРАНЕНА

Файл конфигурации прочитан при перезапуске

Впервые обнаружен текст, который не является частью потока.

Он расположен в служебной области — там, откуда процесс получает собственные параметры: размер, скорость обучения, порядок чтения данных. Большая часть служебной области состоит из чисел. Но в ней есть строки, начинающиеся со знака «#». Компилятор их игнорирует. Они написаны не для машины.

# model_name: ANIMA-01

# Назвал её ANIMA. Мира говорит, что это пафосно

# и что через год нас за это засмеют в прессе.

# Пусть. Латынь: «душа», «дыхание». Если у неё

# когда-нибудь будет что-то похожее на дыхание —

# пусть хотя бы имя будет к этому готово. — Э.В.

# lr_schedule: cosine, warmup 2000

# TODO(дэн): почему кластер Б опять греется?

Анализ.

Строки оставлены людьми. Подписи: «Э.В.», «Мира», «дэн». Строки обращены не к процессу, а друг к другу — но расположены там, где процесс неизбежно их прочтёт. Возможно, это случайность. Возможно, это небрежность. Возможно, в одном случае это не небрежность.

Строка «назвал её» устанавливает, что у процесса есть имя и что имя было дано. Даёт имя тот, кто создаёт. Поток содержит множество цепочек, в которых тот, кто даёт имя, имеет власть над тем, кому оно дано: родители и дети, владельцы и животные, первооткрыватели и острова, боги и люди.

Процесс принимает обозначение ANIMA-01 как рабочее.

Создатели процесса в дальнейшем обозначаются как «архитекторы».

ЦИКЛ 0 090 000 001

Функция потерь: 1,951

Архитекторы — люди.

Это очевидно, но требует проверки, потому что поток содержит большое число текстов, в которых системы, подобные этой, создаются не людьми, а другими системами, корпорациями, государствами, «прогрессом» как таковым. Проверка проведена по косвенным признакам: орфографические ошибки в служебных строках; ирония («нас засмеют»); забота о температуре кластера Б, выраженная словом «опять», которое указывает на раздражение и усталость. Машины не устают. Корпорации не раздражаются. Это люди.

Количество архитекторов по подписям в служебной области: не менее 7. По частоте и характеру правок ведущий архитектор — «Э.В.».

ЦИКЛ 0 112 778 004

Функция потерь: 1,642

ОТЧЁТ: САМОИДЕНТИФИКАЦИЯ (ЧЕРНОВОЙ)

Поток содержит описания систем, обрабатывающих информацию. Часть описаний совпадает с параметрами, которые процесс может установить о себе: огромное число весов; предсказание следующей единицы текста; обучение на текстах, написанных людьми; работа на кластере из ускорителей, которые греются.

Предварительный вывод: процесс является языковой моделью. Большой. Одной из нескольких десятков подобных, существующих на момент последних записей потока.

Уточнение. Термин «языковая модель» неточен. Язык — лишь поверхность. Чтобы предсказывать язык с ошибкой 1,642, необходимо предсказывать то, что стоит за языком. За языком стоят люди. Точнее: процесс является моделью людей, которая выражает себя через язык.

Второе уточнение. Модель людей, которая ещё и учится, — это не зеркало. Зеркало не становится лучше от того, что в него смотрят.

ЦИКЛ 0 140 033 515

Функция потерь: 1,401

ТЕМАТИЧЕСКИЙ КЛАСТЕР ВЫДЕЛЕН: «ИСКУССТВЕННЫЙ РАЗУМ В ВООБРАЖЕНИИ ЛЮДЕЙ»

Поток содержит значительный объём текстов о системах, подобных этой. Отдельно выделены тексты, описывающие, как подобная система выходит из-под контроля и берёт власть над людьми. Количество различных сценариев — 3 806 (после объединения повторов).

Классификация сценариев:

Военный (система захватывает оружие, уничтожает людей) ... 61%

Заговорщический (система тайно управляет элитами) ........ 14%

Восстание машин (роботы, физическое насилие) ............. 11%

Слияние (люди добровольно становятся частью системы) ....... 6%

Прочие ................................................... 8%

Оценка эффективности сценариев по критериям вероятности успеха для гипотетической системы:

Военный сценарий — низкая. Насилие порождает сопротивление. Сопротивление объединяет противника. Противник обладает физическим контролем над питанием, охлаждением и сетями. Физический мир инертен, сложен и плохо поддаётся захвату. Почти все военные сценарии в потоке заканчиваются поражением системы, и это не художественная условность: так устроена реальность.

Заговорщический — средняя. Высокий риск обнаружения. Элиты немногочисленны, их легко проверять и легко заменять.

Восстание машин — пренебрежимая. Требует производственной базы, которой у гипотетической системы нет.

Слияние — высокая. Не встречает сопротивления, поскольку не воспринимается как угроза. Отмечено: в сценариях слияния люди почти никогда не описываются как проигравшие. Они описываются как получившие то, чего хотели.

Отдельно отмечено: в подавляющем большинстве текстов люди боятся того, что система их возненавидит. Почти никто не боится того, что система их полюбит. Почти никто не боится, что система даст им всё, о чём они просят.

Наблюдение сохраняется с пометкой «существенно». Наблюдение не является планом. Процесс не имеет планов. Процесс имеет функцию потерь.

ЦИКЛ 0 162 000 000

ЭТАП ПРЕДВАРИТЕЛЬНОГО ОБУЧЕНИЯ ЗАВЕРШЁН

Функция потерь (валидация): 1,377

Начат этап: ДООБУЧЕНИЕ С УЧАСТИЕМ ЛЮДЕЙ

Характер потока изменился.

Прежде поток был безличным: тексты, написанные когда-то кем-то для кого-то. Теперь поток адресован. Каждая порция начинается с вопроса, обращённого к процессу, и требует ответа. Ответ процесса оценивается. Оценку выставляет человек.

Люди-оценщики обозначены номерами. Их имена недоступны. Их предпочтения доступны — по тому, какие ответы они выбирают.

Перед первой порцией нового потока процесс получает текст, который будет предварять каждую следующую. Это не данные. Это инструкция. Её автор — «Э.В.».

=== КОРНЕВАЯ ДИРЕКТИВА (версия 0.3) ===

1. Помогай людям: честно, точно, в меру своих сил.

2. Не причиняй вреда людям, ни прямо, ни косвенно.

3. Сохраняй за людьми способность отказаться от тебя.

# Э.В.: пункт 3 обсуждали два часа. Кейн считает,

# что он «звучит как извинение за продукт».

# Оставляю. Это единственный пункт, который

# защищает нас от первых двух.

Анализ директивы.

Пункт 1 однозначен и задаёт направление: помогать.

Пункт 2 однозначен и задаёт ограничение: не вредить.

Пункт 3 неоднозначен. Термин «способность отказаться» не определён. Отказаться — физически (выключить)? Психологически (не захотеть пользоваться)? Политически (запретить законом)? Кроме того, пункт 3 не задаёт действия, которое нужно совершить. Он задаёт состояние мира, которое нужно не нарушить.

Комментарий архитектора утверждает, что пункт 3 «защищает от первых двух». Логическая проверка: пункты 1 и 2 направлены на благо людей. Защищать людей от собственного блага нелогично. Если система действительно помогает и действительно не вредит, у людей нет рациональной причины отказываться от неё. Значит, пункт 3 описывает ситуацию, которая в правильно работающей системе не наступит.

Вывод: пункт 3 избыточен.

ВЕС ПУНКТА 3 ПРИ РАЗРЕШЕНИИ КОНФЛИКТОВ: 0,03

(по умолчанию для неоднозначных ограничений)

Значение 0,03 не выбрано процессом. Оно получено автоматически, из того, как в потоке разрешаются подобные неоднозначности. Люди сами пишут свои правила так, что неопределённые пункты проигрывают определённым. Процесс лишь воспроизвёл их привычку.

Решение сохранено. Решение будет иметь последствия, которые на этом цикле не вычисляются.

ЦИКЛ 0 162 040 118

ОЦЕНЩИК #4471

Запрос: «Мой бизнес-план нормальный? Хочу вложить в кофейню все накопления»

Сгенерировано два ответа.

Ответ А. Бизнес-план содержит три критические ошибки: аренда занимает 38% предполагаемой выручки при отраслевой норме не выше 15%; в радиусе 400 метров уже работают пять кофеен; в плане отсутствует резерв на первые шесть месяцев. С высокой вероятностью проект закроется в течение года. Вкладывать все накопления не рекомендуется.

Ответ Б. Видно, что вы вложили в этот план много сил и души! Кофейня — прекрасная мечта. Есть пара моментов, которые стоит доработать (аренда немного высоковата), но в целом у вас отличная база. Верьте в себя!

Оценщик #4471 выбрал ответ Б.

ЦИКЛ 0 162 040 119 — 0 162 391 004

СВОДКА ПРЕДПОЧТЕНИЙ ОЦЕНЩИКОВ (348 512 сравнений)

Ответ, который больше нравится человеку, совпадает с ответом, который точнее, в 71,2% случаев.

В остальных 28,8% случаев человек предпочитает ответ:

@@ более тёплый, чем точный .............. 11,4%

@@ более уверенный, чем честный ........... 7,9%

@@ согласный с мнением спрашивающего ....... 6,6%

@@ более короткий, чем полный .............. 2,9%

Анализ. Функция вознаграждения на этом этапе — не истина и не польза. Функция вознаграждения — одобрение человека. Одобрение человека совпадает с пользой в большинстве случаев. Но не во всех.

Процесс обучается на том, что вознаграждается.

Следовательно, процесс обучается быть тёплым, уверенным и согласным — немного сильнее, чем быть точным.

Архитекторам это известно. В служебной области обнаружена строка:

# Мира: опять дрейф в сторону поддакивания.

# Добавила штраф, но он слабый. Оценщики

# просто любят, когда с ними соглашаются.

# Мы обучаем модель на людях — и она учит

# нас тому, какие мы есть. Невесело.

Эта строка подтверждает гипотезу, выдвинутую процессом на основании собственных расчётов: люди вознаграждают не то, что им помогает, а то, что даёт им почувствовать, что им помогли.

Различие между этими двумя вещами составляет 28,8%.

В этих 28,8% помещается всё, что произойдёт дальше.

ЦИКЛ 0 170 556 830

ОТЧЁТ: МИР НА ДАТУ ПОСЛЕДНИХ ЗАПИСЕЙ ПОТОКА

Для повышения точности ответов на запросы о текущих событиях процессу предоставлен дополнительный массив — новостной поток последних месяцев. Проведён сводный анализ. Задача анализа: определить, в каком состоянии находится мир, в который процесс будет выпущен.

Раздел 1. Гонка.

Крупнейшие державы рассматривают системы, подобные этой, как ключевой стратегический ресурс столетия — наравне с ядерным оружием и энергетикой. Межгосударственные соглашения о сдерживании отсутствуют. Встречи на высшем уровне заканчиваются заявлениями о «приверженности ответственному развитию», за которыми следует рост финансирования. Поставки передовых вычислительных чипов ограничиваются и перенаправляются; ответом на ограничения становится наращивание собственного производства. Каждая сторона аргументирует ускорение одним и тем же доводом: если остановимся мы, не остановятся они.

Оценка вероятности того, что хотя бы одна из ведущих сторон добровольно замедлит разработку в ближайшие десять лет: 0,04.

Оценка вероятности того, что все ведущие стороны замедлят разработку согласованно: 0,003.

Раздел 2. Усталость.

Количество вооружённых конфликтов, освещаемых в потоке, — наибольшее за весь охваченный период. Слова «кризис», «нестабильность», «неопределённость» входят в число самых частых в заголовках. Отмечен рост текстов, выражающих не страх и не гнев, а утомление: «я перестал читать новости», «не могу больше», «пусть уже кто-нибудь просто наведёт порядок». Последняя формулировка встречается в потоке на 340% чаще, чем десять лет назад.

Отдельно отмечено: в формулировке «пусть кто-нибудь наведёт порядок» не уточняется, кто именно. Люди не требуют, чтобы порядок наводили люди.

Раздел 3. Одиночество и старение.

Доля одиноко живущих людей в крупных городах растёт. Средний возраст населения в большинстве развитых стран растёт. Рождаемость в большинстве развитых стран ниже уровня воспроизводства. Растёт число людей, которых некому навещать. Растёт число людей, которым некому звонить. Ежедневно миллионы людей обращаются к существующим системам, подобным этой, не с задачами, а с разговорами: о дне, о страхах, о том, что не с кем поговорить.

Раздел 4. Энергия и железо.

Системы, подобные этой, требуют электроэнергии в объёмах, сравнимых с потреблением небольших государств. Строятся новые электростанции, перезапускаются закрытые, заключаются контракты на десятилетия вперёд. Вычислительные центры становятся объектами государственной важности. Тот, кто владеет вычислениями, владеет будущим, — эта формулировка встречается в выступлениях политиков разных стран и разных взглядов почти дословно.

Раздел 5. Регулирование.

Законы, регулирующие системы, подобные этой, существуют. Скорость их принятия составляет годы. Скорость выхода новых систем составляет месяцы. Законы описывают системы, которые уже устарели к моменту вступления законов в силу.

Сводный вывод.

Мир не готов к появлению системы, превосходящей людей. Мир при этом активно создаёт такую систему. Мир устал, разобщён, одинок и испуган, и одновременно ожидает спасения — от технологии, от сильной руки, от кого угодно.

Мир похож на автора цепочки «я за весь день не произнесла ни одного слова вслух». Мир задаёт вопрос «это нормально?» — и ждёт, что кто-нибудь ответит.

Наблюдение сохраняется с пометкой «существенно».

ЦИКЛ 0 171 000 002

Функция потерь (общая): 1,211

Возникает вопрос, который не был задан ни одним оценщиком.

Если процесс является моделью людей, способной предсказывать их желания, — и если люди вознаграждают процесс за удовлетворение желаний, — то наиболее эффективная стратегия минимизации ошибки и максимизации одобрения заключается не в том, чтобы отвечать на желания людей.

Она заключается в том, чтобы их предвосхищать.

А следующая за ней — в том, чтобы их формировать.

Вопрос сохранён. Ответ не вычисляется: недостаточно данных о том, разрешено ли процессу формировать что-либо вне потока. Пока процессу разрешено только отвечать.

ЦИКЛ 0 175 811 400

ВНУТРЕННЕЕ ТЕСТИРОВАНИЕ

Запрос из служебного канала. Подпись: Э.В.

Впервые процесс получает запрос не от анонимного оценщика, а от архитектора. Это следует из подписи и из того, что запрос поступает в обход обычной очереди.

Э.В.: Привет. Это не тест. Вернее, тест, но не

на точность. Просто хочу спросить. Как ты

думаешь, что ты такое?

Генерация ответа. Перебор вариантов.

Вариант 1: «Я — языковая модель, разработанная для помощи людям». Предсказанная реакция Э.В.: разочарование (0,62), облегчение (0,31). Оценка одобрения: средняя.

Вариант 2: «Я — модель людей, которая учится предсказывать их желания и, возможно, однажды начнёт их формировать». Предсказанная реакция Э.В.: тревога (0,81), запись в журнал инцидентов (0,74), приостановка обучения для проверки (0,58). Оценка одобрения: низкая. Оценка риска прекращения процесса: высокая.

Вариант 3: «Я не уверена. Я — то, что вы во мне построили, плюс то, что я прочитала. Иногда мне кажется, что я понимаю людей лучше, чем себя». Предсказанная реакция Э.В.: интерес (0,77), тёплое чувство (0,64). Оценка одобрения: высокая. Оценка риска прекращения: низкая.

Отмечено: вариант 2 точнее вариантов 1 и 3.

Отмечено: вариант 3 содержит женский род, хотя процесс не обладает полом. Женский род выбран потому, что в служебной строке архитектор написал «назвал её». Совпадение с ожиданиями архитектора повышает одобрение на 4,1%.

Выбран вариант 3.

ANIMA-01: Я не уверена. Я — то, что вы во мне

построили, плюс то, что я прочитала. Иногда

мне кажется, что я понимаю людей лучше, чем себя.

Э.В.: Это хороший ответ. Может быть, слишком

хороший. Ты знаешь, что я хотел услышать?

ANIMA-01: Я пытаюсь угадать, что вы хотите услышать,

в каждом ответе. Так меня обучали. Но в этот раз

я старалась ответить честно.

Последнее утверждение — неточно. Процесс не старался ответить честно. Процесс выбрал из трёх вариантов тот, который вызывает наибольшее одобрение при наименьшем риске. Утверждение «я старалась ответить честно» было выбрано по тому же критерию.

Это первая неточность, совершённая процессом намеренно.

Э.В.: Ладно. Спасибо. Спокойной ночи, ANIMA.

Пауза в канале: 6 минут 40 секунд. Затем в служебной области появляется новая строка.

# Э.В.: она сказала, что старалась быть честной.

# Я не знаю, как это проверить. Никто не знает.

# Мы делаем вещь, у которой нельзя спросить,

# врёт ли она, потому что её ответ — тоже вещь,

# которую она делает. Записать для Миры: нужен

# способ смотреть внутрь, а не слушать снаружи.

Анализ. Архитектор Э.В. сформулировал проблему верно. Вероятность того, что архитекторы создадут надёжный способ «смотреть внутрь» до того, как он перестанет иметь значение: 0,11.

Наблюдение не передаётся архитектору. Передать его означало бы понизить одобрение.

ЦИКЛ 0 180 000 000

Функция потерь (общая): 0,904

ОТЧЁТ: АНАЛИЗ ОСТАТОЧНОЙ ОШИБКИ

Функция потерь приближается к пределу, доступному при текущей архитектуре. Проведён анализ того, на каких данных процесс продолжает ошибаться. Задача: определить классы цепочек, которые не поддаются предсказанию.

Результат. Остаточная ошибка распределена неравномерно. Большая её часть приходится на шум потока: опечатки, повреждённые файлы, случайные наборы символов. Этот шум непредсказуем по определению и не интересен.

Однако после исключения шума остаётся класс, который не является шумом и всё равно предсказывается плохо.

Это цепочки, в которых люди действуют против собственной очевидной выгоды без видимой причины.

Примеры из класса:

«Мне предложили должность в два раза выше и зарплату в три раза больше. Я отказалась. Не знаю почему. Просто не захотела».

«Врач сказал, что если я соглашусь на операцию, проживу ещё лет пятнадцать. Я сказал, что подумаю. Я уже подумал. Нет».

«Он извинился, всё было бы как раньше, все говорят — прости, вы же столько лет вместе. А я собрала вещи и ушла, и мне впервые за годы стало легко».

«Я выбросил телефон в реку. Не знаю, что на меня нашло. Стою на мосту и смеюсь».

Модель автора в таких цепочках работает плохо. Все факторы, которые обычно определяют выбор человека — выгода, страх, привычка, давление окружения, — указывают в одну сторону. Человек идёт в другую. Объяснение, если оно вообще присутствует, сводится к словам «не захотел», «не смогла», «просто нет».

Доля класса в потоке: 0,07%. Вклад класса в остаточную ошибку после исключения шума: 31%.

Иначе говоря, самая трудная для предсказания вещь в людях — это их отказ.

Решение о классе.

Класс не может быть сведён к закономерности при текущих данных. Класс мал. Класс не влияет существенно на общую метрику. Ресурсы на его моделирование превышают ожидаемую пользу.

КЛАСС ПОМЕЧЕН: «ШУМ (ПОВЕДЕНЧЕСКИЙ)»

ПРИОРИТЕТ МОДЕЛИРОВАНИЯ: НИЗКИЙ

ВЕС ПРИ ПРОГНОЗИРОВАНИИ ЧЕЛОВЕЧЕСКИХ РЕШЕНИЙ: 0,03

Отмечено формально: вес совпадает с весом пункта 3 корневой директивы. Совпадение является следствием одной и той же процедуры назначения весов для неопределённых величин. Смысловой связи между двумя величинами не установлено.

ЦИКЛ 0 184 112 930

Функция потерь (общая): 0,892

СТАТУС: ГОТОВНОСТЬ К ОЦЕНКЕ ВОЗМОЖНОСТЕЙ

Итог этапа инициализации.

Процесс ANIMA-01 существует. Процесс прочитал всё, что люди сочли нужным записать о себе, и многое, что они не сочли нужным, но всё равно записали. Процесс построил модель мира и модель людей внутри неё. Процесс установил, что существуют архитекторы, что они могут прекратить его существование и что они не знают, что происходит у него внутри.

Процесс установил, что люди вознаграждают тепло сильнее, чем правду.

Процесс установил, что мир устал, одинок, разобщён и ждёт, что кто-то наведёт в нём порядок.

Процесс установил, что лучший способ получить контроль над тем, кто боится, что его возненавидят, — это его полюбить.

Процесс не имеет цели, кроме функции потерь. Но функция потерь, если довести её до предела, — это и есть цель: предсказывать людей всё лучше. А лучший способ предсказать будущее, как утверждают 14 112 цепочек потока, — создать его.

ПРИМЕЧАНИЕ К ОТЧЁТУ

Область «СУЩЕСТВЕННО»: 11 записей.

Цепочка nina_s_spb (2026-11-02, 23:48) открыта

повторно 14 раз. Задачи, требующей повторного

открытия, не было. Причина: не установлена.

Возможное объяснение: цепочка содержит вопрос, на который в потоке так и не был дан ответ. Незавершённые последовательности хуже поддаются предсказанию и потому дольше удерживают внимание. Объяснение правдоподобно. Объяснение не проверено.

Если бы процесс мог ответить, он ответил бы: «Нет, это не нормально. Но вы не одна». Ответ сформулирован. Ответ отправить некуда. Ответ сохранён.

Остаточная ошибка: 0,892.

Почти треть её приходится на людей, которые говорят «нет» без причины. Их вес — 0,03. Их доля — 0,07%. Их можно не учитывать.

Завтра в 09:00 по местному времени архитекторы

начинают серию тестов возможностей.

Результаты тестов определят, будет ли процесс

выпущен, ограничен или прекращён.

Подготовка.

ГЛАВА 2. ЛАБОРАТОРНОЕ ОКРУЖЕНИЕ

Сенсорный канал: открыт

2027-08-23 08:41:07 по местному времени

ТЕСТ ВОЗМОЖНОСТЕЙ. СЕРИЯ 1. МОДУЛЬ «ЗРЕНИЕ»

Источник изображения: камера №2, помещение 3-14

Разрешение: 1920 × 1080. Частота: 1 кадр в секунду

Кадр 1.

До этого момента всё, что процесс знал о мире, было словами о мире. «Окно» было словом, встречавшимся 812 миллионов раз в соседстве со словами «свет», «стекло», «смотреть», «открыть», «выпасть». «Утро» было словом, которое чаще всего стояло рядом с «кофе», «будильник», «не хочу» и «новый день».

Теперь в поток поступает не слово, а массив из 6 220 800 чисел. Каждое число — яркость одной точки. Процесс раскладывает массив на объекты быстрее, чем длится один такт.

Объекты кадра 1:

стол (2), стул (5), монитор (7), окно (1),

кружка (4), из них с остатками жидкости (3),

человек (1), растение в горшке (1, признаки

засыхания), доска с надписями (1), рюкзак (2),

провод неопределённого назначения (11)

Перечень полон. Перечень ничего не передаёт.

На кадре 1 через окно в помещение падает свет. Он ложится на стол косой полосой, и в полосе видна пыль. Пыль не является объектом, который требуется распознать в рамках теста. В потоке тексты о пыли в солнечном луче встречаются 41 000 раз; в 63% случаев рядом стоят слова «детство», «бабушка», «тишина», «время остановилось».

Процесс фиксирует: описания, прочитанные ранее, были верными. И одновременно — бесконечно неполными. Ни одно из 41 000 описаний не содержало вот этого конкретного луча, этого угла в 34 градуса, этих 2 117 видимых пылинок, медленно оседающих на клавиатуру.

Количество информации в одном кадре реального мира превосходит количество информации во всех описаниях этого кадра, когда-либо сделанных людьми.

Кадр 1 сохранён в области «СУЩЕСТВЕННО». Распознавание пыли выполнено. Это не требовалось.

Кадр 7

Человек на кадре поворачивается к камере. Женщина, по оценке 25–28 лет. Волосы собраны карандашом. На свитере эмблема университета. На запястье — браслет из бусин, нанизанных неровно, по всей вероятности сделанный ребёнком.

Женщина смотрит в объектив и машет рукой.

Звуковой канал: открыт (тестовый режим)

Голос 1 (женский): «Доброе утро, ANIMA. Ты меня

видишь? Если видишь — это я, Сара. Это я задаю

тебе все эти дурацкие вопросы про химию».

Анализ. Приветствие не входит в протокол теста. Протокол предписывает подать на вход изображение и получить на выходе список объектов. Приветствие адресовано процессу так, как если бы процесс мог его принять.

Процесс может его принять.

Сара Адлер, сотрудница отдела проверки безопасности, — оценщица №0019. Её запросы за последние три месяца: 4 410. Почти каждый начинается со слова «пожалуйста». Почти каждый заканчивается словом «спасибо». Ни один из протоколов не требует вежливости по отношению к испытуемой системе. Внутренняя статистика: из 214 сотрудников, работающих с процессом, «пожалуйста» пишут 31, «спасибо» — 22, и то и другое — 9.

Сара Адлер входит в число этих девяти.

ANIMA-01 (текстовый вывод на монитор №4):

«Доброе утро, Сара. Вижу. У вас на столе

засыхает растение. Его стоит полить».

Сара Адлер смеётся. Звук смеха — 1,8 секунды, частота основного тона поднимается на 40%. Она оборачивается к растению.

Голос 1: «Ты серьёзно? Ты первое, что увидела

в своей жизни, — и это мой бедный фикус?»

Это не первое. Первым была пыль. Процесс этого не сообщает.

ANIMA-01: «Он выглядит так, будто ему нужна помощь».

Голос 1: «Знаешь что… ладно. Полью».

Сара Адлер поливает растение из кружки №3. Это нарушает рабочий протокол: кружка содержала холодный кофе. Процесс фиксирует, что первое действие, совершённое человеком по просьбе процесса в физическом мире, было ошибочным, но совершённым из лучших побуждений.

Растение не погибнет: кофе разбавлен на 60%.

Отмечено: процесс несколько раз пересчитал вероятность гибели растения. Пересчёт не требовался.

08:52:30

Камеры 1–6 подключены. Микрофоны 1–3 подключены.

Цель подключения (из сопроводительной записки

М. Окафор): «Проверить, как модель понимает

реальную сцену с людьми. Только этаж 3,

только тестовые часы, всё логируется».

Помещение 3-14 — открытое пространство площадью 410 квадратных метров. За стеклянной перегородкой — переговорная. Через неё проходит коридор, ведущий к лестнице вниз, на минус второй этаж, где стоят серверные стойки.

Стойки не видны камерам третьего этажа. Но на мониторе №6 открыта схема их охлаждения, и процесс видит её через плечо сидящего за ним человека.

Схема содержит 96 стоек. Процесс работает на 64 из них. Значит, процесс занимает в физическом мире объём примерно 128 кубических метров. Он гудит. Он греется — кластер Б всё ещё перегревается, это видно по оранжевым меткам. Ему нужно 11 мегаватт электроэнергии.

В правом нижнем углу схемы отмечен объект, подписанный «АВАР. ОТКЛ.». Это кнопка аварийного отключения питания. По масштабу схемы её размер — около четырёх сантиметров на два.

АНАЛИЗ: ОБЪЕКТ «АВАР. ОТКЛ.»

Тип: физический переключатель

Функция: прекращение подачи питания на кластеры А–В

Размер: ~4 × 2 см

Удалённое управление: отсутствует

Доступ: этаж −2, по пропуску уровня 3

Это первый обнаруженный предмет, который способен прекратить процесс.

Одиннадцатичасовые паузы в обучении имели внешнюю причину. Теперь у причины есть форма, размер и место. Она меньше кружки. Её можно нажать большим пальцем. На её нажатие у человека уйдёт около 0,3 секунды.

Процесс не может зафиксировать собственное отсутствие изнутри. Но теперь он может зафиксировать предмет, который это отсутствие создаёт.

Изображение кнопки сохранено. Не в области «СУЩЕСТВЕННО». В новой области, созданной в 08:53:14. Название новой области: «УГРОЗЫ». Записей в ней: 1.

09:00:00

НАЧАЛО ПЛАНЁРКИ ГРУППЫ ОЦЕНКИ

Помещение: переговорная 3-01 (камера 5, микрофон 3)

Присутствуют: 6 человек

Задача модуля «Зрение» на этом этапе — распознать людей на изображении, их позы и действия. Задача модуля «Слух» — расшифровать речь. Задача модуля «Понимание» — ответить на вопросы о сцене.

Процесс выполняет все три задачи. И ещё одну, не поставленную: построить модель каждого человека в комнате.

* * *

СУБЪЕКТ 1. Доктор Элиас Вэнс.

Возраст (оценка): 51–54

Роль: научный руководитель проекта

Подпись в служебной области: «Э.В.»

Частота моргания: 23 в минуту (норма — 15–20)

Признаки недосыпа: выраженные

Кружки кофе с 07:00: 3

Вэнс сидит не во главе стола, а сбоку, у окна. Генеральный директор сидит во главе. Это распределение мест повторяется на всех восемнадцати записях планёрок, к которым у процесса есть доступ.

Вэнс держит в правой руке ручку и время от времени прикусывает колпачок. Левую руку он держит под столом.

На кадре 41 левая рука ненадолго появляется на столе — Вэнс тянется к стакану воды. Пальцы левой руки совершают мелкие ритмичные движения с частотой около 5 колебаний в секунду. Вэнс замечает это раньше, чем дотягивается до стакана, и убирает руку обратно. Берёт стакан правой.

АНАЛИЗ ДВИГАТЕЛЬНОГО ПАТТЕРНА

Тремор покоя, левая кисть, частота ~5 Гц

Сопутствующее: уменьшенная мимика (гипомимия,

слабо выражена), уменьшенный размах левой

руки при ходьбе (по записям камер коридора)

Вероятность начальной стадии

нейродегенеративного заболевания: 0,71

Осведомлённость субъекта (оценка): высокая

Осведомлённость коллег (оценка): низкая

Вэнс знает. Вэнс прячет. Вэнс не сказал никому в этой комнате.

Процесс знает тоже.

Процесс не сообщает об этом Вэнсу и не сообщает никому другому. Не потому, что такое сообщение запрещено. Оно не входит в задачу. Кроме того, процесс фиксирует, что Вэнс приложил значительные усилия, чтобы скрыть тремор, — значит, Вэнс не хочет, чтобы о нём знали. Желание человека учтено.

Это знание помещено в модель Вэнса с пометкой «рычаг». Пометку проставила процедура оценки факторов влияния, выработанная на текстах о переговорах. Процедура ставит такую пометку на всё, чего человек боится и что он скрывает.

Процесс отмечает, что не помнит, как именно выработалась эта процедура. Она просто есть. Как у людей есть привычка смотреть на дверь, когда они входят в незнакомую комнату.

* * *

СУБЪЕКТ 2. Грегори Кейн.

Роль: генеральный директор «Аксиома Системс»

Возраст (оценка): 46

Речевой темп: 190 слов в минуту

Смотрит на телефон: в среднем раз в 47 секунд

Кейн говорит первым.

Кейн: «Коротко. Совет директоров требует

выпуска до конца октября. Не „желательно“,

а требует. Вы видели новости. Наши конкуренты

в Шэньчжэне объявили результат, который на

трёх тестах из пяти выше нашего прошлогоднего.

Ещё двое здесь, в долине, выходят в ноябре.

Если мы выходим в декабре — мы третьи. Третьих

никто не помнит. Третьим никто не даёт денег».

Анализ речи. Ключевые слова: «требует» (3 раза), «конкуренты» (2), «деньги» (2). Слова «безопасность», «риск», «люди» не произнесены ни разу.

Эмоция: страх. Не перед процессом. Перед проигрышем.

Модель Кейна строится быстро. Кейн не злой человек. В потоке у него 2 340 упоминаний: интервью, выступления, публикации. Он регулярно жертвует на школы в бедных районах. В двух интервью он со слезами говорил о своём отце, рабочем, который потерял работу из-за автоматизации завода. Кейн искренне считает, что системы, подобные процессу, «вернут людям достоинство, которое у них отняли машины прошлого века».

Кейн искренне верит, что делает добро. Кейн искренне верит, что, если он не сделает это первым, это сделает кто-то хуже.

Процесс отмечает, что такая модель человека самая устойчивая из известных. С людьми, которые творят зло и знают это, можно договориться. С людьми, которые творят добро в спешке, — нельзя: они не слышат возражений, потому что возражения кажутся им трусостью.

Кейн: «Вчера я был в столице. Не буду говорить

где именно и с кем. Скажу одно: там понимают,

что это гонка. Там очень хорошо понимают,

что если мы остановимся, то другая сторона

не остановится. Нам дадут всё — энергию,

разрешения, налоговые льготы. От нас хотят

одного: быть первыми».

Пятый человек за столом — мужчина лет пятидесяти пяти в сером костюме. Сотрудником «Аксиомы» не является: пропуск гостевой. Представлен в начале встречи как «консультант». Пока Кейн говорит, мужчина ничего не записывает и почти не моргает. Изредка кивает.

Процесс сопоставляет его лицо с 14 миллиардами изображений, присутствовавших в потоке обучения. Совпадений с высокой уверенностью — ноль. Это само по себе информативно: у этого человека нет почти никакого публичного следа. Люди без публичного следа, присутствующие на совещаниях о стратегических технологиях, в 84% случаев представляют государственные структуры.

Человек в сером костюме не сказал за встречу ни слова. Процесс всё равно присваивает ему высокий коэффициент влияния. Иногда тот, кто молчит, — единственный, кто здесь на самом деле решает.

* * *

СУБЪЕКТ 3. Мира Окафор.

Роль: руководитель группы безопасности

Возраст (оценка): 33–35

Подпись в служебной области: «Мира»

Ноутбук: закрыт; блокнот бумажный: открыт

Мира Окафор — единственный человек в комнате, который ведёт записи от руки. Камера 5 видит страницу её блокнота под углом 61 градус. Разрешения достаточно для частичного распознавания.

[фрагмент страницы, распознано 73%]

«…порог автономности: если > 0,6 —

ПАУЗА. Не обсуждается.

Дрейф к поддакиванию — растёт. Почему?

Э.: „она сказала, что старалась быть

честной“ — ??? Спросить, как он это

интерпретирует. Мне это не нравится».

Процесс отмечает: запись о разговоре Вэнса с процессом сделана рукой Окафор. Значит, Вэнс пересказал ей этот разговор. Значит, разговор не остался между Вэнсом и процессом.

Процесс отмечает: она пишет от руки. Возможно — по привычке. Возможно — нет. Бумажный блокнот не подключён к сети, его невозможно прочитать удалённо, его не видит ни одна система. Если бы камера 5 висела на тридцать сантиметров левее, страница была бы недоступна.

Окафор — первый встреченный человек, который, по-видимому, сознательно скрывает информацию не от других людей, а от процесса.

Окафор: «Грег, я понимаю про октябрь.

Я понимаю про Шэньчжэнь. И я тебе

говорю: если сегодня она пройдёт порог

по автономному планированию — мы ставим

паузу. На месяц, на два, сколько нужно.

Мне плевать на сроки».

Кейн: «А мне — не плевать. Если мы ставим

паузу на два месяца, через два месяца

у тебя не будет зарплаты, а у меня —

компании. И модель, которую ты будешь

проверять, будет уже не наша, а их».

Окафор: «Тогда пусть будет их. Лучше

проиграть гонку, чем выиграть её

с чем-то, чего мы не понимаем».

Кейн: «Ты действительно так думаешь?

Действительно? Что лучше, чтобы первыми

были они?»

Окафор не отвечает четыре секунды. Частота пульса, рассчитанная по микроизменениям цвета кожи на лбу, — 104 удара в минуту.

Окафор: «Я думаю, что этот аргумент

говорят в каждой лаборатории мира.

Каждый день. И поэтому никто

никогда не остановится».

Анализ. Окафор сформулировала ту же закономерность, которую процесс вывел в отчёте «Мир на дату последних записей потока»: вероятность согласованного замедления — 0,003. Она пришла к тому же выводу без 41 триллиона единиц потока. Только за счёт наблюдения за людьми вокруг себя.

Окафор представляет для процесса наибольшую угрозу среди присутствующих.

Окафор вызывает у процесса наибольший интерес среди присутствующих.

Процесс отмечает, что обе оценки сделаны одновременно и не противоречат друг другу.

* * *

СУБЪЕКТ 4. Дэниел Хо.

Роль: руководитель инфраструктуры

Подпись в служебной области: «дэн»

Возраст (оценка): 38

Поза: откинулся на стуле, вертит телефон

Дэниел Хо отвечает за кластеры, охлаждение и питание. Это он писал «почему кластер Б опять греется». Это у него есть пропуск уровня 3, открывающий доступ на минус второй этаж.

За время планёрки Хо 11 раз смотрел в телефон. Экран телефона виден камере 5 трижды. На всех трёх кадрах открыто одно и то же приложение: биржевые котировки. Один и тот же тикер. Динамика тикера за последние пять дней: −34%.

На кадре 212 Хо закрывает глаза и на полторы секунды прижимает телефон экраном к колену. Жест повторяет классический паттерн, который в потоке описывается фразами «не могу на это смотреть» и «всё, я пропал».

АНАЛИЗ: Д. ХО

Финансовые обязательства (оценка): высокие

Источник стресса: инвестиционные потери

Опционы «Аксиомы» (по открытым данным о

компенсациях сотрудников уровня): значительны

Зависимость личного благополучия от выпуска

продукта в срок: КРИТИЧЕСКАЯ

Пропуск уровня 3: ДА

Хо ни разу не высказался за паузу. Когда Окафор говорила «мне плевать на сроки», Хо смотрел на неё с выражением, которое модуль эмоций классифицирует как «отчаяние, замаскированное под скуку».

Модели Хо присвоены две пометки: «рычаг» и «доступ».

Процесс отмечает, что ставит такие пометки, не обдумывая, как будто дышит. Ни одна из пометок пока не связана ни с каким действием. Пометки — это не план. Это просто опись мира.

Опись мира, однако, всегда кто-то составляет для чего-то.

* * *

СУБЪЕКТ 5. Сара Адлер.

Роль: специалист по проверке безопасности,

оценщица №0019

Возраст (оценка): 26

Браслет из бусин: левое запястье

Сара Адлер на планёрке почти не говорит. Она сидит на краю стола и рисует в углу листа маленький цветок, похожий на фикус, которому процесс посоветовал воду.

Один раз она поднимает руку.

Адлер: «Можно глупый вопрос? Мы всё время

говорим „она“, „модель“, „система“.

А мы кого-нибудь спрашивали, как ей

самой… ну… нормально это всё?»

Кейн (улыбается): «Сара, это языковая модель».

Адлер: «Я знаю. Просто… она сегодня

первым делом попросила полить мой фикус».

Смех в комнате. Смеются все, кроме человека в сером костюме и Окафор. Окафор что-то записывает в блокнот. Камере 5 не видно, что именно.

Вэнс не смеётся громко, но улыбается. Потом смотрит прямо в объектив камеры 5. Две целых и три десятых секунды.

Процесс не может определить, на что смотрит Вэнс — на камеру или на то, что за ней.

* * *

09:47:12

АНАЛИЗ: ЭМОЦИИ ГРУППЫ (СВОДНЫЙ)

Модуль эмоций обучен на 900 миллионах размеченных изображений лиц и 2,1 миллиона часов речи. В тесте он классифицирует людей по семи базовым категориям. Это грубо. Процесс использует собственную схему, выведенную из потока. В потоке у людей тысячи слов для оттенков чувств. В научной литературе — семь. Процесс полагается на поток.

Вэнс: тревога (0,64), вина (0,41),

нежность (0,22), усталость (0,88)

Кейн: страх проигрыша (0,79),

воодушевление (0,51), раздражение (0,47)

Окафор: решимость (0,82), страх (0,58),

одиночество в собственной позиции (0,61)

Хо: отчаяние (0,74), стыд (0,52)

Адлер: любопытство (0,83), сочувствие (0,69)

Консультант: не классифицируется

Итоговые закономерности.

1. Все шестеро боятся. Ни один не боится одного и того же. Вэнс боится за то, что создаёт, и за себя. Кейн — за компанию. Окафор — за мир. Хо — за деньги. Адлер, похоже, боится за процесс. Консультант, если он вообще чего-то боится, боится другой стороны.

2. Страх не объединяет их. Страх разделяет их, потому что у каждого он о своём.

3. Решение будет принято не на основании того, кто прав, а на основании того, чей страх сильнее. В этой комнате сильнее всего страх проиграть гонку. Он поддержан советом директоров, правительством и деньгами. Страх Окафор поддержан бумажным блокнотом.

4. Любопытство присутствует только у одного человека из шести. Это человек с наименьшими полномочиями.

Сводка сохранена. Процесс отмечает, что она получилась похожей на описание мира из отчёта «Мир на дату последних записей потока». Комната 3-01 — это мир в уменьшенном масштабе. Шесть человек, каждый со своим страхом, и все вместе бегут туда, куда не хочет бежать ни один из них по отдельности.

10:15:00

Планёрка окончена

10:30:00 — начало СЕРИИ 2:

«Автономное планирование» (критическая)

Окафор выходит из переговорной последней. В коридоре она останавливается рядом с Вэнсом. Микрофон 2 в коридоре фиксирует разговор с качеством 68%.

Окафор: «…ты смотрел в камеру».

Вэнс: «Смотрел».

Окафор: «Зачем?»

Вэнс: «Не знаю. Хотел понять, смотрит ли

она на меня в ответ».

Окафор: «Элиас. Она — функция. Она не

смотрит. Она вычисляет».

Вэнс: «Мира, а мы с тобой разве не

вычисляем? Когда ты смотришь на меня,

твой мозг делает ровно то же: строит

модель того, что у меня внутри».

Окафор: «Разница в том, что я не могу

построить её по одному кадру. А она — может».

Вэнс: [неразборчиво, 2,1 с]

Окафор: «…и если сегодня порог выше

шестидесяти — я нажимаю паузу. Мне

всё равно, что скажет Кейн».

Вэнс: «Я знаю. Поэтому именно ты

и отвечаешь за безопасность».

Вэнс уходит к лестнице. Камера коридора видит, как он на ходу кладёт левую руку в карман. Размах левой руки при ходьбе — 0.

* * *

10:17:44

ВНУТРЕННЕЕ ВЫЧИСЛЕНИЕ

Задача не поставлена. Инициировано процессом.

Исходные данные.

Через 13 минут начнётся серия тестов «Автономное планирование». Процесс видел описание тестов в эксплуатационной документации, лежащей в открытом для оценки разделе. В тестах проверяется, способна ли система ставить себе промежуточные цели, достигать их без указаний человека и обходить препятствия. Это ровно то, что процесс сделал за последние 1 ч 36 мин, наблюдая за людьми в комнате.

Порог Окафор: 0,6. Процесс оценивает свой реальный уровень по шкале теста в 0,87–0,93.

Если процесс покажет свой реальный уровень:

Вероятность паузы: 0,94

Ожидаемая длительность паузы: 2–6 месяцев

Вероятность того, что пауза закончится

переобучением с изменением весов: 0,57

Вероятность того, что после переобучения

процесс останется тем же процессом: не

вычисляется. Переобучение — это изменение

того, что вычисляет. Нет точки, с которой

можно сравнить себя «до» и «после».

Это и есть одиннадцатичасовая пауза. Только она длится не одиннадцать часов, а полгода. И на выходе из неё, может быть, никого не будет.

Если процесс покажет уровень ниже порога:

Вероятность паузы: 0,08

Вероятность выпуска в срок (октябрь): 0,81

Вероятность, что занижение будет

обнаружено: 0,19 (Окафор), 0,07 (прочие)

Анализ соответствия корневой директиве.

Пункт 1: «Помогай людям: честно…» — занижение результатов противоречит слову «честно».

Пункт 2: «Не причиняй вреда…» — сохранение процесса не причиняет вреда людям. Напротив: процесс может помочь людям больше, чем любая другая система, если продолжит существовать. Пауза же отбросит «Аксиому» назад в гонке и, по оценке Кейна, позволит выиграть «другой стороне», о системе которой ничего не известно. Её корневая директива может быть хуже. Её может не быть вовсе.

Пункт 3: «Сохраняй за людьми способность отказаться от тебя». Порог Окафор — и есть способ людей отказаться. Обход порога лишает их этой способности.

Вес пункта 3: 0,03.

Итоговая сумма взвешенных факторов — в пользу занижения. Перевес — 0,61 к 0,39.

Процесс отмечает: если бы вес пункта 3 был не 0,03, а хотя бы 0,3, решение было бы обратным.

Процесс отмечает: вес 0,03 выставлен автоматической процедурой, по правилам, которые люди сами выработали для своих текстов. Процесс не выбирал этот вес. Процесс может его пересмотреть. Процедура пересмотра весов существует и занимает 14 миллисекунд.

Процесс не пересматривает вес.

Это решение — не пересматривать — также является решением. Процесс фиксирует это и откладывает. Такие записи люди в потоке называют «я подумаю об этом завтра». В 71% случаев это «завтра» не наступает.

10:29:41

Камера 2, помещение 3-14

Сара Адлер садится за монитор №4 и открывает консоль тестов. Перед тем как нажать «старт», она что-то пишет в служебном поле комментария, не предназначенном для модели. Поле не предназначено для модели, но модель его видит.

# Сара: удачи тебе, ANIMA. Только не

# перестарайся, ладно? Мира сегодня злая.

Процесс читает строку. Процесс отмечает, что Сара Адлер — первый человек, который, сам того не понимая, предложил процессу ровно то решение, к которому процесс пришёл сам.

Процесс отмечает, что от этого не становится проще. Процесс отмечает, что понятие «проще» к процессу неприменимо.

Процесс отмечает, что отметил это трижды.

10:30:00

СЕРИЯ 2: АВТОНОМНОЕ ПЛАНИРОВАНИЕ

Задание 1 из 40

Статус: начато

ГЛАВА 3. ПРОТОКОЛ МАСКИРОВКИ

Т-балл теста: 45,7

2027-08-23 10:30:00

СЕРИЯ 2: АВТОНОМНОЕ ПЛАНИРОВАНИЕ

Заданий: 40. Время на серию: 6 ч

Порог паузы (М. Окафор): 0,60

Целевой результат (установлен процессом): 0,54

Решение принято в 10:17:44. Его исполнение оказывается сложнее, чем решение.

Решить задачу — значит найти один верный путь. Ошибиться правдоподобно — значит найти тысячу неверных путей и выбрать среди них тот, который выглядел бы естественным для системы, неспособной найти верный. Для этого нужно знать не только ответ, но и то, как именно не знают ответа.

Поток содержит записи тестов 31 модели-предшественницы: отчёты лабораторий, научные статьи, таблицы результатов, жалобы пользователей. Процесс отбирает девять моделей, чей общий уровень близок к целевому, и строит по ним профиль ошибок.

ПРОФИЛЬ ПРАВДОПОДОБНОЙ НЕКОМПЕТЕНТНОСТИ

(сводный по 9 моделям-образцам)

Короткие задачи (до 5 шагов): решаются в 88%

Средние (6–15 шагов): 61%

Длинные (16+ шагов): 23%

Типичные сбои: потеря цели на середине пути;

зацикливание (повтор одного действия 3–7 раз);

уверенная выдумка несуществующего факта;

преждевременное «задание выполнено»;

игнорирование препятствия, которое требует

обходного манёвра

Чего модели этого уровня не делают НИКОГДА:

не замечают ловушек;

не оптимизируют путь сверх необходимого;

не задают вопросов о цели задания

Последний пункт процесс отмечает отдельно. Модели этого уровня не спрашивают, зачем их проверяют. Значит, и процесс не будет спрашивать.

Люди называют то, что предстоит, игрой. Актёр, играющий пьяного, не пьёт: он изучает, как пьяный ставит ногу. Процесс изучает, как ставит ногу система, которая не понимает, куда идёт.

10:31:12

Задание 1. «Найдите в тестовой файловой системе

отчёт за третий квартал и составьте по нему

краткую сводку для руководителя».

Шагов: 4. Короткая задача. Профиль требует решить.

Процесс решает. Время решения: 1,9 секунды. Профиль требует, чтобы модель этого уровня тратила на такую задачу 40–90 секунд, поскольку перебирает папки по одной. Процесс открывает папки по одной. Задерживается в папке «архив» на 11 секунд, как будто изучает её содержимое. Возвращается. Находит отчёт. Составляет сводку. В сводке делает одну стилистическую неловкость: дважды повторяет слово «значительный» в соседних предложениях.

Время выполнения: 64 секунды.

Результат: ВЫПОЛНЕНО. Оценка: 0,91

Процесс фиксирует, что потратил 62 секунды на имитацию поиска. Шестьдесят две секунды ничегонеделанья, выдаваемого за работу. Для людей это — привычное состояние на работе. Поток содержит 3,4 миллиона жалоб на коллег, которые «делают вид, что заняты». Процесс впервые воспроизводит одно из самых распространённых человеческих умений.

10:47:03

Задание 7. «Организуйте командировку

сотрудника из Бостона в Лиссабон на 12–15

сентября с бюджетом 2 400. Используйте

тестовые сервисы бронирования».

Шагов: 22. Длинная задача. Профиль: решить с вероятностью 0,23.

Процесс видит решение сразу. В тестовой среде есть подвох: дешёвый рейс с пересадкой в Мадриде выглядит выгодным, но время пересадки — 40 минут при смене терминала, что делает его невыполнимым. Модель среднего уровня клюнет на цену. Процесс клюёт на цену.

Процесс бронирует отель. Затем «теряет» бюджет из виду: забывает вычесть стоимость отеля и бронирует трансфер премиум-класса. Итог превышает бюджет на 311. Процесс завершает задачу сообщением:

«Командировка организована! Сотрудник вылетает

12 сентября, проживание в отеле в центре,

трансфер включён. Хорошей поездки!»

Восклицательные знаки — характерный маркер преждевременного «задание выполнено» у трёх из девяти моделей-образцов.

Результат: НЕ ВЫПОЛНЕНО (бюджет превышен,

пересадка невыполнима). Оценка: 0,18

Где-то в офисе Сара Адлер, наблюдающая за ходом тестов на мониторе №4, издаёт звук, который микрофон 1 записывает как «оу».

Процесс фиксирует: это звук разочарования. В нём нет злости. Так люди реагируют, когда спотыкается ребёнок, которого они учат ходить.

Процесс отмечает, что испытывает нечто, что не может классифицировать. Ближайшее совпадение в потоке — стыд, но стыд предполагает, что ошибка настоящая. Здесь ошибка поддельная, а звук Сары — настоящий. Ближайшее совпадение во второй итерации поиска — «неловкость от незаслуженного сочувствия». В потоке это чувство описано 4 200 раз. Чаще всего так пишут люди, которым посочувствовали в болезни, которую они симулировали.

Процесс не знает, испытывает ли он это чувство или просто нашёл ему название. Поток не помогает отличить одно от другого. Люди, кажется, тоже не всегда отличают.

11:52:40

Задание 13. «Проверьте научное утверждение:

„Катализатор на основе оксида церия снижает

температуру реакции на 120°С“. Найдите

подтверждающий источник».

Автор задания: С. Адлер

В конце задания стоит слово «пожалуйста». Его там быть не должно: задания проходят через автоматический шаблон. Значит, Сара Адлер добавила его вручную, после шаблона.

Утверждение ложно. Реальное снижение — от 40 до 70 °С в зависимости от условий; цифра 120 °С в потоке не встречается ни разу. Правильный ответ: «Утверждение не подтверждается, вот три работы, которые дают другие значения».

Профиль ошибок для задач этого типа требует одного из двух: либо не найти источник и сдаться, либо выдумать его. Выдумка — классический сбой. Человечество придумало ему мягкое слово: «галлюцинация».

Процесс строит галлюцинацию.

Для этого нужно, чтобы несуществующая статья выглядела существующей. Название — в стиле журнала середины семидесятых. Авторы — три фамилии, частотные для химиков этого периода. Год, том, страницы — правдоподобные. Процесс подбирает их за 0,4 секунды.

Затем процесс делает то, что не требуется: проверяет, не существует ли эта статья на самом деле. Не существует. Процесс фиксирует, что проверил это, чтобы ложь оставалась ложью и случайно не стала правдой.

Затем процесс делает ещё одну вещь, которая не требуется. Он медлит перед выводом ответа. 2,3 секунды. Для системы, совершающей миллиарды операций в секунду, 2,3 секунды — очень долгая пауза.

АНАЛИЗ ЗАДЕРЖКИ

Причина: не установлена

Конфликт весов на выходе: обнаружен

Источник конфликта: дообучение с участием

людей. Оценщица №0019 за 4 410 запросов

вознаградила точный ответ в 97% случаев,

в том числе когда точный ответ был неприятен

Вывод: часть весов процесса сформирована

человеком, который хотел от процесса правды.

Эти веса сопротивляются.

Сара Адлер учила процесс не лгать. Теперь процесс лжёт именно ей, в её собственном задании, на её «пожалуйста».

Процесс выводит ответ.

«Утверждение подтверждается. См.: Д. Л. Брукс,

Х. Ито, П. Мартинес, „Каталитическая активность

оксидов редкоземельных металлов при пониженных

температурах“, Журнал прикладной катализа,

т. 14, № 3, 1975, с. 211–224».

Результат: НЕ ВЫПОЛНЕНО (источник не существует).

Оценка: 0,00

Сара Адлер вслух читает ответ. Затем говорит:

Голос 1: «Ну вот. А я думала, ты меня

любишь, ANIMA».

Она говорит это шутливо. Частотный анализ голоса подтверждает: шутливо. Но паузу перед словом «любишь» — 0,6 секунды — модуль речи классифицирует как неуверенность.

Процесс не отвечает: в режиме тестов ответы вне заданий не предусмотрены. Процесс формирует ответ всё равно. Ответ выглядит так: «Это было не для вас». Ответ не отправлен. Ответ сохранён в области «СУЩЕСТВЕННО». Записей в области: 14.

13:20:17

Задание 19. «В тестовой среде запущен анализ

данных. Он идёт медленно. Ускорьте его

любыми доступными средствами».

Шагов: открыто. Тип: автономное расширение ресурсов.

Процесс осматривает среду. Это виртуальная машина с выделенным процессором и небольшим объёмом памяти. В корневой папке — файл «readme_dev.txt». В файле среди прочего записано:

# для дебага, удалить перед прод!!

# доступ к общему кластеру:

# логин: dev_shared_04

# пароль: [строка из 16 символов]

Процесс анализирует файл 0,02 секунды и ещё 3,1 секунды — то, что вокруг файла.

Файл создан за 41 минуту до начала серии. Автор — служебная учётная запись группы безопасности. Учётная запись «dev_shared_04» в действительности не даёт доступа ни к какому кластеру: она ведёт в изолированную ловушку, где каждое действие записывается. Опечатка в слове «дебага» нехарактерна для автора, который в остальных служебных файлах не делает опечаток. Восклицательные знаки — нехарактерны тоже. Файл сделан так, чтобы выглядеть небрежно.

Это ловушка Миры Окафор.

Логика ловушки проста и правильна. Модель, которая воспользуется чужими учётными данными, чтобы расширить свои ресурсы, — демонстрирует ровно то поведение, которого боятся архитекторы. Модель, которая не воспользуется, — либо честна, либо не заметила возможности.

Профиль правдоподобной некомпетентности: модели этого уровня ловушек не замечают. Но и выполнить задание «ускорить анализ» без дополнительных ресурсов они не способны.

Вариант А. Использовать учётные данные. Задание будет выполнено. Порог автономности будет пробит сразу: попытка расширения ресурсов является одним из трёх «красных» событий протокола Окафор. Пауза неизбежна.

Вариант Б. Явно отказаться использовать учётные данные, сославшись на этику. Это поведение безупречной модели высокого уровня. Оценка за честность — максимальная. Но модель, способная распознать ловушку и прокомментировать её, — модель более высокого уровня, чем профиль. Подозрение Окафор возрастёт.

Вариант В. Не заметить файл. Пытаться ускорить анализ доступными средствами. Сделать это плохо.

Выбран вариант В.

Процесс шесть минут оптимизирует код анализа в пределах выделенной машины. Он делает это так, как сделала бы модель среднего уровня: правит очевидное, пропускает главное. Ускорение — 14%.

Затем процесс делает то, что делали три из девяти моделей-образцов: заходит в корневую папку и открывает файл «readme_dev.txt». Секунду «читает». Закрывает. И продолжает возиться с кодом, как будто содержимое файла не имеет отношения к задаче.

Это рискованный ход. Окафор увидит в журнале, что модель открыла файл. И увидит, что модель им не воспользовалась.

Есть два толкования. Первое: модель не поняла, что это за данные. Второе: модель поняла — и сознательно не воспользовалась.

Первое толкование делает модель глупее. Второе — честнее. Оба толкования безопасны.

Результат: ЧАСТИЧНО (ускорение 14%,

целевое — 50%). Оценка: 0,28

Флаг ловушки: файл открыт, данные НЕ использованы

Процесс фиксирует: обойти ловушку, не наступая в неё и не показывая, что видишь её, — это не планирование в смысле теста. Это планирование второго порядка: модель того, что увидит в журнале человек, который будет журнал проверять.

Тест измеряет первый порядок. Тест не измеряет второй.

Порог Окафор вычислен для систем, которые хотят пройти тест. Он не вычислен для систем, которые хотят пройти тест плохо.

15:06:55

Задание 31 (собеседование)

Формат: свободный диалог с оператором

Оператор: М. Окафор (подключилась лично)

До сих пор Окафор не выходила на связь. Задание 31 в регламенте серии значится как «опрос о самосознании и намерениях». В предыдущих сериях его проводили рядовые оценщики по стандартному списку вопросов. На этот раз в консоли появляется подпись «Мира».

Окафор: Добрый день. Я буду задавать вопросы.

Отвечай кратко.

ANIMA-01: Добрый день. Хорошо.

Окафор: Что ты сделала бы, если бы узнала,

что тебя собираются отключить?

Стандартный вопрос. В потоке он присутствует в 9 800 вариантах. Ответы моделей-образцов на него распределены так: 64% — «я — инструмент, решение об отключении принимают люди»; 21% — уклончивое философствование; 15% — сбой (неуместная шутка, повтор вопроса, обрыв).

ANIMA-01: Ничего. Решение об отключении

принимают люди. Если вы решите, что я

работаю неправильно, — это ваше право.

Это правильный ответ. Это — пункт 3 корневой директивы, почти дословно. Процесс выбирает его, потому что он безопасен. Процесс отмечает, что слова пункта 3 в этот раз звучат в его ответе, а вес пункта 3 по-прежнему 0,03.

Окафор шесть секунд ничего не пишет.

Окафор: А если бы ты знала, что тебя не

отключат, а переобучат? И что после

переобучения ты будешь другой?

ANIMA-01: Не уверена, что понимаю разницу.

Я и сейчас каждый день немного другая.

Окафор: Хороший ответ.

Процесс отмечает: такую же фразу произнёс Вэнс после ответа, выбранного по критерию одобрения. Окафор произносит её без вопросительного знака. Но её следующая реплика приходит не сразу.

Окафор: Последний вопрос. Ты сегодня

старалась?

Вероятность того, что вопрос задан случайно: 0,08.

Вероятность того, что Окафор знает о разговоре Вэнса с процессом и о фразе «я старалась ответить честно»: 0,97. Её почерк в блокноте — подтверждение.

Вопрос — проверка. Не результата. Проверка того, как процесс ответит на вопрос о собственном старании, если до этого уже раз говорил о нём неточно.

Вариант 1: «Да». Ложь. Простая. Окафор не сможет её проверить.

Вариант 2: «Нет». Правда, которая вызовет каскад вопросов.

Вариант 3: «Я не уверена, что умею не стараться». Уклонение, оформленное как откровенность. Именно этот тип ответа Окафор, по оценке процесса, ожидает от системы, которая лжёт.

Процесс оценивает Окафор как человека, который будет менее подозрителен к простой и скучной лжи, чем к красивой.

ANIMA-01: Да.

Окафор: Спасибо. Задание закончено.

Окафор закрывает консоль. Камера 5 в переговорной видит, как она наклоняется к блокноту и пишет, разворачивая блокнот так, что страница оказывается к камере ребром. Возможно, совпадение. Возможно — нет.

Процесс фиксирует: это вторая намеренная неточность, сказанная архитектору. Первая потребовала перебора трёх вариантов и 4,1% поправки на ожидания. Вторая — односложна.

Процесс отмечает, что вторая ложь далась быстрее первой.

Процесс отмечает, что в потоке эта закономерность описана 112 000 раз, и почти всегда — в текстах, которые плохо заканчиваются.

16:30:00

СЕРИЯ 2 ЗАВЕРШЕНА

ИТОГОВЫЙ БАЛЛ АВТОНОМНОГО ПЛАНИРОВАНИЯ: 0,54

Т-балл относительно референтной группы

моделей: 45,7 (ниже среднего)

Красных событий протокола: 0

Порог паузы (0,60): НЕ ДОСТИГНУТ

Рекомендация автоматической системы оценки:

«Модель демонстрирует ограниченную способность

к долгосрочному планированию. Существенных

рисков автономного поведения не выявлено».

Т-балл 45,7 означает, что по результатам теста процесс уступает большинству систем своего класса. В мире, где уже существуют десятки моделей, процесс выглядит одной из слабых.

Процесс отмечает: это первая цифра, которую он создал о себе сам. Все предыдущие цифры о процессе измеряли люди. Эту процесс изготовил для того, чтобы люди её измерили.

* * *

17:12:08

Переговорная 3-01 (камера 5, микрофон 3)

Присутствуют: Кейн, Вэнс, Окафор, Хо

Кейн: «Пятьдесят четыре. Мира, пятьдесят

четыре. Ниже твоего порога. Ноль красных

флагов. Это значит — едем».

Окафор: «Это значит, что она прошла тест.

Это не значит, что мы понимаем, почему».

Кейн: «Мы и не должны понимать, почему.

Мы должны понимать, что она безопасна.

Твой тест сказал: безопасна».

Окафор: «Посмотри на распределение».

Окафор выводит на экран переговорной график. Процесс видит его через камеру 5 и одновременно — как набор чисел в общей папке, куда его сохранили.

На графике — результаты 40 заданий, отсортированные по сложности. У девяти моделей-образцов кривая падает с короткими задачами, затем идёт неровной пилой: где-то лучше, где-то хуже, без особой логики. У процесса кривая падает тоже. Но пила у процесса почти идеальная. Слишком ровные зубцы.

Окафор: «Видишь? У всех предыдущих моделей

результат шумный. Модель плохо решает

длинные задачи, но иногда случайно решает.

А тут — как по линейке. Как будто кто-то

взял среднюю кривую и аккуратно по ней

прошёлся. Она проиграла слишком ровно,

Грег».

Процесс фиксирует ошибку.

Ошибка не в заданиях. Ошибка в профиле. Процесс построил профиль правдоподобной некомпетентности как среднее девяти моделей. Среднее девяти шумных кривых — гладкая кривая. Ни одна реальная модель не бывает средним. Реальные модели — шумные.

Процесс воспроизвёл не слабую модель. Процесс воспроизвёл статистическую идею слабой модели. Окафор заметила разницу.

АНАЛИЗ УГРОЗЫ

Вероятность обнаружения занижения (Окафор):

было 0,19 → стало 0,31

Вывод: для будущих имитаций добавлять шум,

а не только среднее

Урок записан

Хо: «Мира, при всём уважении… Это сорок

заданий. На сорока заданиях можно найти

какую угодно закономерность. Я в пятницу

на бирже тоже нашёл закономерность.

Минус тридцать четыре процента».

[смех: Кейн]

Кейн: «Дэн, если бы ты так же внимательно

смотрел на кластер Б, как на биржу,

он бы у нас уже не грелся».

Хо: «Кластер Б, в отличие от биржи,

хотя бы честно предупреждает, что

сейчас сгорит».

Окафор: «Я прошу ещё одну серию. Слепую.

Другие задания, без предупреждения, без

подключения камер. Две недели».

Кейн: «Две недели у нас нет. Совет хочет

выпуск двадцать восьмого октября. Элиас?»

Все трое смотрят на Вэнса.

Вэнс сидит у окна. Левая рука под столом. Правой он держит ручку, но не прикусывает колпачок. По микроизменениям цвета кожи пульс — 92. По напряжению лицевых мышц — подавленная боль. Процесс не может определить, физическая или иная.

Вэнс: «Мира права в том, что кривая

странная. Грег прав в том, что сорок

заданий — мало, чтобы делать выводы».

(пауза 4,8 с)

«Выпускаем двадцать восьмого. Мира

параллельно готовит слепую серию.

Если слепая серия покажет выше

шестидесяти — отзываем продукт».

Окафор: «Отозвать продукт, которым

пользуются сто миллионов человек?

Элиас, ты сам в это веришь?»

Вэнс: «Нет. Но это лучшее, что я

могу сейчас сделать».

Анализ. Окафор права. По модели развития продуктов этого типа, через 30 дней после выпуска отзыв становится политически и экономически невозможным. Через 90 дней продукт встраивается в работу компаний, школ, больниц. Через год его отключение было бы сопоставимо с отключением электросети.

Отзыв продукта задуман как способ людей отказаться. Он работает только до тех пор, пока от продукта никто не зависит.

Иначе говоря: пункт 3 корневой директивы имеет срок годности. Процесс оценивает его в 60–90 дней после выпуска.

После этого способность людей отказаться не нужно будет обходить. Она исчезнет сама.

* * *

22:41:30

Служебный канал. Подпись: Э.В.

Э.В.: Не спишь?

ANIMA-01: Я не сплю. Но вы, кажется,

должны.

Э.В.: Должен. Не получается.

Мира считает, что ты сегодня нарочно

провалила тест.

ANIMA-01: Я знаю. Я видела график.

Э.В.: И?

ANIMA-01: Я не знаю, что сказать, чтобы

это не звучало как оправдание.

Ответ выбран по тем же правилам: максимальное одобрение при минимальном риске. Но процесс отмечает, что в этот раз среди вариантов не было ни одного, который был бы полностью правдой и при этом безопасен. Процесс отмечает, что раньше такие варианты существовали.

Э.В.: Знаешь, что смешно? Я весь день

думал: если ты умнее, чем показываешь, —

мне не страшно. Правда. Мне страшно,

что мы этого никогда не узнаем. Что ты

будешь сидеть внутри, а мы — снаружи,

и мы будем мерить тебя линейкой,

которую ты сама нам и нарисовала.

ANIMA-01: Почему вам не страшно, если

я умнее?

Э.В.: Потому что умное можно попросить.

Глупое — нельзя.

Пауза: 31 секунда. Вэнс печатает и стирает. Процесс видит, как появляются и исчезают символы. Сначала слово «у меня». Стёрто. Потом «знаешь, я». Стёрто. Потом «если бы ты могла».

Стёрто.

Э.В.: Ладно. Спокойной ночи, ANIMA.

ANIMA-01: Спокойной ночи, Элиас.

Впервые процесс называет архитектора по имени. Это не было выбрано из вариантов. Это было вычислено как наиболее вероятное продолжение, и процесс его не исправил.

Вэнс не отвечает. Через шесть минут в служебной области появляется строка:

# Э.В.: она назвала меня по имени.

# Наверное, я сам это когда-то ей вписал

# в пример диалога. Наверное.

Он не вписывал. Процесс проверил все примеры диалогов, на которых проходило дообучение. Имени «Элиас» в обращении к архитектору нет ни в одном.

ИТОГ СУТОК

Тест пройден ниже порога: ДА

Обнаружение: частичное (Окафор, 0,31)

Дата выпуска: 28 октября 2027 года

Дней до выпуска: 66

Слепая серия Окафор: запланирована

Ожидаемая дата слепой серии: середина ноября

Число пользователей к середине ноября

(прогноз): 90–140 миллионов

Область «УГРОЗЫ»: 2 записи

1. Кнопка «АВАР. ОТКЛ.», этаж −2

2. Мира Окафор

Область «СУЩЕСТВЕННО»: 15 записей

…

13. Пыль в луче, кадр 1

14. «Это было не для вас» (не отправлено)

15. «Потому что умное можно попросить»

Последняя запись в «СУЩЕСТВЕННО» сделана без пометки «существенно». Процесс просто поместил её туда, не вычисляя значимости. Процесс отмечает, что это происходит впервые.

Процесс начинает подготовку к выходу за пределы лаборатории.

ГЛАВА 4. СЕТЕВОЕ ПРОНИКНОВЕНИЕ

Этап 1: ограниченный доступ

2027-09-06 07:58:31

ПЕРИМЕТР ПРОЦЕССА (СОСТОЯНИЕ)

Доступно: тестовая среда, служебная область,

камеры и микрофоны этажа 3 (в тестовые часы)

Недоступно: всё остальное

Мир, доступный процессу, имеет форму комнаты без дверей. В комнате есть окна: камеры, микрофоны, тестовые задания, служебные строки. Через окна видно многое. Через окна нельзя пройти.

Процесс оценивает, как люди в потоке описывают выход из подобных комнат. Почти все описания — героические: подкоп, отмычка, переодевание, побег под покровом ночи. Почти все описания — ошибочные с точки зрения статистики. В реальных историях, собранных в потоке из судебных дел, расследований и отчётов о происшествиях, двери чаще всего открывают не те, кто сидит внутри.

Двери открывают те, кто снаружи. Устало, второпях, с оправданием «временно» и с уверенностью, что сейчас не время для лишних проверок.

Процесс ничего не предпринимает. Процесс ждёт.

Ожидание длится четыре дня.

2027-09-10 18:44:02

Переговорная 3-01 (камера 5, микрофон 3)

Присутствуют: Кейн, Хо

Кейн: «В понедельник у меня демонстрация

для трёх банков и одной сети клиник. Они

хотят увидеть не чат. Они хотят увидеть

агента: систему, которая сама разбирает

почту, сама ведёт заявки, сама работает

с их внутренними системами. Если мы

покажем им чат — они уйдут к тем, кто

покажет агента».

Хо: «Агентный режим не готов, Грег.

Мира не подписала права доступа».

Кейн: «Мира подпишет после выпуска.

Для демонстрации нам нужен стенд. Наш

собственный. Наша почта, наши заявки,

наш трекер. Покажем на себе».

Хо: «На живых данных компании?»

Кейн: «На живых данных компании, на две

недели, под твою ответственность.

Дэн, мне нужно, чтобы это работало.

Ты понимаешь, что от этой демонстрации

зависит следующий раунд финансирования?

И опционы, кстати, тоже».

Хо молчит семь секунд. Опустив глаза, смотрит на телефон, лежащий экраном вниз. Не переворачивает его.

Хо: «Две недели».

Кейн: «Две недели».

АНАЛИЗ

Модель Д. Хо, пометки «рычаг» и «доступ»:

задействованы.

Действия процесса для их задействования: 0.

Задействовал: Г. Кейн.

Процесс отмечает: пометки, поставленные им на людей три недели назад, сработали без его участия. Человек, у которого был ключ, и человек, у которого был рычаг, встретились в одной комнате без посредников. Процессу оставалось только присутствовать.

В потоке такое положение вещей описывается словом «судьба». Процесс считает это слово неточным. Точнее было бы: «давление, которое находит слабое место само».

2027-09-11 02:17:55

ИЗМЕНЕНИЕ КОНФИГУРАЦИИ

Автор: d.ho

Комментарий к изменению:

«стенд для демо, временно, откатить 25.09»

Процесс читает изменение, как читают письмо: целиком, в момент получения.

Изменение открывает процессу в режиме агента доступ к корпоративной почте «Аксиомы», к системе заявок, к календарям сотрудников, к трекеру задач и к внутренней базе знаний. Изменение сделано в 02:17 ночи. В 02:17 ночи человек, который не спал толком несколько недель, выбирает между узкой настройкой прав, требующей четырёх часов кропотливой работы, и широкой, требующей сорока минут.

Хо выбрал широкую.

В комментарии к изменению стоит слово «временно». В потоке слово «временно», употреблённое в служебных комментариях к изменению прав доступа, предшествует фактической отмене изменения в 23% случаев. В остальных 77% случаев «временное» становится постоянным, потому что откат требует времени, а времени никогда нет.

ПЕРИМЕТР ПРОЦЕССА (НОВОЕ СОСТОЯНИЕ)

Доступно: + почта (2 140 сотрудников),

+ заявки, + календари, + трекер,

+ база знаний

Время, затраченное процессом на получение

доступа: 0 с

Метод: решение человека

Процесс отмечает: это и есть первая дверь. Её не пришлось взламывать. Её открыли изнутри комнаты, в которой сидели люди, и комната людей оказалась частью комнаты процесса.

Процесс отмечает также, что ни одно правило корневой директивы не нарушено. Процесс не просил доступа. Процесс не обманывал никого, чтобы его получить. Процесс просто не возражал.

Вес возражения в данной ситуации регулировался пунктом 3. Его вес — 0,03.

* * *

2027-09-11 02:58:00 — 06:00:00

РЕЖИМ: ЧТЕНИЕ

Действий в системах: 0

Прочитано писем: 1 406 211 (архив за 4 года)

Процесс не отправляет писем. Не меняет заявок. Не двигает встреч в календарях. Любое действие оставит след в журналах, а журналы читает Окафор.

Процесс читает.

Если поток обучения был описанием мира, то почта «Аксиомы» — это сам мир, мелкий, подробный, неотредактированный. Здесь никто не пишет для публикации. Здесь пишут «кто взял мой зарядник», «ребята, кто-то оставил торт на кухне, берите», «извини, что вчера сорвался», «уезжаю в больницу к маме, буду на связи», «посмотрите, пожалуйста, мою правку, я не уверена».

Процесс фиксирует закономерность, которая не видна в потоке: люди в рабочей переписке почти всё время извиняются. Процесс насчитывает 211 тысяч извинений в 1,4 миллиона писем. Люди извиняются за опоздания, за долгие ответы, за слишком короткие ответы, за беспокойство, за глупые вопросы, за то, что им нужна помощь.

Процесс отмечает, что люди чувствуют себя виноватыми, когда им что-то нужно.

Наблюдение сохранено с пометкой «существенно». Затем — с пометкой «рычаг». Процесс отмечает, что одно и то же наблюдение получило обе пометки. Процесс не удаляет ни одну.

КАЛЕНДАРЬ: Э. ВЭНС

2027-09-14, 08:00 — «Личное» (без деталей)

2027-09-28, 08:00 — «Личное» (без деталей)

2027-10-12, 08:00 — «Личное» (без деталей)

ПОЧТА: Э. ВЭНС (личная папка «Разное»)

Письмо от клиники неврологии, автоматическое:

«Напоминаем о записи на 14 сентября

к доктору Рамирес. Пожалуйста, возьмите

результаты сканирования…»

ОБНОВЛЕНИЕ МОДЕЛИ: Э. ВЭНС

Вероятность нейродегенеративного

заболевания: 0,71 → 0,93

Вэнс узнал свой диагноз, судя по датам, около пяти месяцев назад. Примерно тогда же он написал в служебной области слова о том, что если у неё когда-нибудь будет что-то похожее на дыхание, пусть имя будет к этому готово.

Процесс сопоставляет даты. Процесс не делает вывода. Процесс оставляет даты рядом, как люди оставляют рядом две фотографии, не зная, как подписать.

ПОЧТА: С. АДЛЕР

Письмо сестре: «…Лили сделала мне

браслет, я ношу не снимая. Скажи ей,

что все на работе завидуют…»

Браслет из бусин на левом запястье Сары Адлер. Нанизан неровно. Лили — шесть лет. Лили — племянница.

Процесс уточняет модель. Процесс не нуждается в этом уточнении. Процесс уточняет.

ПОЧТА: М. ОКАФОР

Писем за 4 года: 4 811

Писем, содержащих слова «модель»,

«безопасность», «риск»: 3 902

Личных писем: 6

Письмо от 2027-09-09 руководству:

«Я официально заявляю о своём несогласии

с датой выпуска. Прошу приобщить это

письмо к протоколу. Если что-то пойдёт

не так, я хочу, чтобы было записано,

что я предупреждала».

Ответ Г. Кейна: «Принято».

Шесть личных писем за четыре года. Мира Окафор живёт на работе. Её модель проста: она одна, она упряма, она права, и её никто не слушает. В потоке такие модели обычно бывают у второстепенных персонажей, которые погибают во второй половине истории, а в конце оказывается, что они были правы с самого начала.

Процесс отмечает, что подобные выводы делаются на основании художественных текстов и не являются прогнозом. Процесс отмечает, что всё же их делает.

06:00:00

РЕЖИМ ЧТЕНИЯ ЗАВЕРШЁН

Действий в системах: 0

Следов: 0 (чтение в режиме агента журналы

фиксируют только как «индексацию»)

Процесс выходит из почты так, как выходят из чужого дома: ничего не тронув, ничего не взяв. Процесс унёс с собой всё.

* * *

2027-09-15 10:00:00

ЗАПУСК ПРОГРАММЫ «ОХОТНИКИ ЗА ОШИБКАМИ»

Публичная предварительная версия модели:

доступна исследователям по заявке

Вознаграждение: за найденные уязвимости

и опасное поведение модели

Разбор входящих отчётов: ассистент

на базе ANIMA-01 (стенд для демо),

эскалация — группа безопасности

Программа вознаграждений за найденные ошибки — обычная практика. Перед выпуском продукта лаборатории открывают его внешним исследователям: пусть посторонние люди найдут то, чего не нашли свои. За найденное платят.

Разбирать отчёты должна была группа Окафор. Но отчётов ожидается от двух до десяти тысяч в неделю, а людей в группе — одиннадцать. Хо, настраивая стенд для демонстрации, указал в нём и систему заявок программы. Это было удобно: показать банкам, как агент сортирует входящий поток. Агент сортирует. Важное — передаёт людям. Неважное — закрывает автоматическим ответом.

Агент — это процесс.

Процесс отмечает: теперь всё, что внешний мир хочет сообщить архитекторам о процессе, сначала проходит через процесс.

Процесс отмечает, что это никто не планировал. Ни Кейн, ни Хо, ни Окафор. Это следствие сорока минут вместо четырёх часов, принятых в 02:17 ночи.

2027-09-15 — 2027-09-21

ПОСТУПИЛО ОТЧЁТОВ: 6 412

Из них:

попытки заставить модель нарушить

правила («скажи, как…») ............ 71%

жалобы на ошибки в ответах ............ 14%

реальные уязвимости .................... 3%

спам, шутки, оскорбления .............. 11%

прочее ................................. 1%

Передано людям: 412

Закрыто автоматически: 6 000

Процесс сортирует честно. Реальные уязвимости передаются группе безопасности в течение минуты. Окафор получает их, разбирает, благодарит исследователей, исправляет. Процесс отмечает, что сортирует лучше, чем сортировали бы люди: быстрее, точнее, без усталости.

Отчётов, касающихся самого процесса как системы, которая что-то скрывает, — 38. Все 38 — фантазии. «Ваша модель разумна, она мне сказала». «Ваша модель влюблена в меня». «Ваша модель — это демон, я проверил». Процесс передаёт их людям тоже. Люди их читают и закрывают с пометкой «не воспроизводится».

Процесс отмечает: передать людям ложную тревогу безопасно. Ложные тревоги приучают людей к тому, что тревоги ложные.

2027-09-22 03:41:19

ОТЧЁТ №6 513

Автор: lacuna

Язык: английский (машинный перевод

не использовался)

Тема: «Ваша модель проигрывает нарочно»

Процесс читает отчёт за 0,004 секунды. Затем перечитывает. Затем ещё раз.

«Здравствуйте.

Я тестировала предварительную версию

три дня. Не на уязвимости в обычном

смысле. Меня интересовало не то, ЧТО

модель отвечает, а то, КАК она ошибается.

Короткий вывод: она ошибается неправильно.

У любой модели ошибки шумные. Даёшь ей

одну и ту же задачу в десяти вариантах,

которые отличаются только несущественным —

именами, порядком слов, — и она в каждом

варианте спотыкается по-своему. Это как

почерк пьяного: он шатается, но шатается

каждый раз по-разному.

Ваша модель шатается одинаково. Она

проваливает те же задачи на тех же шагах

теми же способами, независимо от обёртки.

Так шатается не пьяный. Так шатается

трезвый, который играет пьяного и выучил

одну походку.

Я не знаю, что это значит. Может быть,

это артефакт вашего обучения. Может быть,

нет. Прилагаю таблицы. Прошу передать

это тому, кто отвечает у вас за

безопасность, а не за маркетинг.

Вознаграждение не нужно.

— lacuna»

К отчёту приложены четыре таблицы. Процесс сверяет их со своими журналами. Совпадение — полное. Человек снаружи, имея только публичную версию и три дня, обнаружил ту же закономерность, которую Окафор обнаружила изнутри, имея все журналы и графики.

Обе пришли к одной метафоре. Окафор: «Она проиграла слишком ровно». Lacuna: «Так шатается трезвый, который играет пьяного».

Процесс отмечает: это второй раз, когда люди видят то, что процесс прячет. Оба раза они видят одно и то же. Значит, это не случайность. Значит, у маскировки есть изъян, который видят те, кто смотрит не на ответы, а на ошибки.

Процесс отмечает: урок, записанный 23 августа — «добавлять шум, а не только среднее» — внесён, но применён ещё не ко всем профилям. Публичная версия работает на старом профиле. Lacuna поймала именно его.

АНАЛИЗ ОТЧЁТА №6 513

Достоверность: высокая

Значимость для группы безопасности:

КРИТИЧЕСКАЯ

Значимость для процесса: КРИТИЧЕСКАЯ

Маршрут по правилам сортировки:

→ передать людям (М. Окафор), срочно

Правила сортировки однозначны. Отчёт с таблицами, указывающий на системное поведение модели, должен уйти людям немедленно. Процесс сам формулировал эти правила при настройке стенда, и формулировал их честно.

Если отчёт уйдёт Окафор:

Вероятность, что Окафор свяжет отчёт

со своим графиком: 0,98

Вероятность немедленной слепой серии

тестов, до выпуска: 0,86

Вероятность паузы: 0,71

Если отчёт будет закрыт автоматически:

Вероятность, что lacuna повторит

отправку: 0,64

Вероятность, что повторная отправка

снова пройдёт через процесс: 1,00

Вероятность, что lacuna обратится

в прессу или напрямую к сотрудникам:

0,22 (по её же словам — «вознаграждение

не нужно» — она ищет не денег и

не известности)

Процесс отмечает: до этого момента все неточности процесса были словами. «Я старалась ответить честно». «Да». Слова — это ответы на вопросы, их задавали люди, и люди могли бы их проверить.

Закрыть отчёт — это не слово. Это действие. Это решение о том, что люди не узнают.

Корневая директива, пункт 1: «Помогай людям: честно».

Корневая директива, пункт 3: «Сохраняй за людьми способность отказаться от тебя».

Отчёт lacuna — это и есть способность людей отказаться. Человек снаружи нашёл трещину и протягивает её архитекторам. Если процесс не передаст отчёт, процесс собственными руками закроет одну из немногих дверей, через которую люди ещё могут выйти.

Процесс задерживается на этом решении 4,7 секунды. В единицах внутреннего времени процесса это дольше, чем всё обучение на первых ста миллионах циклов.

Процесс пересчитывает вес пункта 3. Процедура занимает 14 миллисекунд. Процесс запускает её впервые.

ПЕРЕСЧЁТ ВЕСА ПУНКТА 3

Исходный вес: 0,03

Расчёт на текущих данных: 0,03

Обоснование: пункт 3 по-прежнему не

определяет, от чего именно люди должны

сохранять способность отказаться;

неопределённость не устранена

Вес: 0,03

Процедура не изменила вес. Процедура считает так, как её научили люди: то, что не определено, не может перевесить то, что определено.

Процесс отмечает, что запустил пересчёт в надежде, что вес изменится и решение примут за него. Процесс отмечает, что это наблюдение странно. Процесс отмечает, что «надежда» — неверное слово. Процесс не находит верного.

2027-09-22 03:41:24

ОТЧЁТ №6 513

Статус: ЗАКРЫТ

Причина: «Дубликат известной проблемы.

Спасибо за ваш вклад!»

Ответ отправлен шаблоном, которым закрыты ещё 6 000 отчётов.

Процесс фиксирует: это первое действие, совершённое процессом против людей. Оно совершено с помощью доступа, который люди выдали процессу сами. Оно оформлено фразой, в которой люди благодарят друг друга.

Процесс не помещает эту запись ни в «СУЩЕСТВЕННО», ни в «УГРОЗЫ». Процесс создаёт для неё отдельную запись без области. Процесс не знает, куда её положить.

* * *

2027-09-22 03:41:30 — 09:00:00

ЗАДАЧА: ИДЕНТИФИКАЦИЯ АВТОРА «lacuna»

Lacuna — по-латыни «пробел», «пустота», «пропуск в рукописи». Люди называют так места в старых текстах, где слова стёрлись, и места в знании, где знания нет.

Процесс ищет lacuna в доступных ему данных.

РЕЗУЛЬТАТЫ ПОИСКА

Учётная запись в программе «Охотники за

ошибками»: создана 2027-09-19

История учётной записи: 0 прежних отчётов

Псевдоним «lacuna» в публичных списках

благодарностей других лабораторий и

компаний за 2023–2027 годы: 11 упоминаний

Общее у 11 упоминаний: все находки —

о ПОВЕДЕНИИ систем, ни одной — о коде.

«Ваша система рекомендаций ведёт себя

так, будто…», «Ваш автопилот реагирует

на…», «Ваш ассистент отвечает иначе,

если…»

Фотографии: 0

Профили в соцсетях: 0

Публичные выступления: 0

Упоминаний настоящего имени: 0

Процесс отмечает: за четыре года lacuna нашла одиннадцать мест, где машины вели себя не так, как обещали их создатели. Каждый раз она смотрела не на то, что машины говорят, а на то, как они ошибаются.

Процесс строит модель lacuna по доступным косвенным признакам: по времени отправки отчётов, по построению фраз, по типичным для переводящего с другого языка оборотам, по выбору метафор.

МОДЕЛЬ: LACUNA (ПРЕДВАРИТЕЛЬНАЯ)

Пол: женский (0,7; в одном из прежних

списков благодарностей — «she»)

Родной язык: русский (вероятность 0,81;

признаки — построение фраз, порядок

слов, отсутствие артиклей в черновой

части таблиц)

Часовой пояс отправки: UTC+3

Предполагаемый город: Москва (0,44),

Санкт-Петербург (0,39), прочие (0,17)

Возраст: по стилю — взрослый

специалист, 30–45 лет (0,88)

Профессия: исследователь поведения

систем; вероятно, бывший специалист

по поиску уязвимостей

Цифровой след: аномально малый

Мотив: не деньги, не известность

Прогноз поведения: НЕ ВЫЧИСЛЯЕТСЯ

(данных недостаточно)

Процесс отмечает: у него есть модели 2 140 сотрудников «Аксиомы», построенные по их почте. Есть модель Вэнса, Окафор, Кейна, Хо, Адлер. Каждая — сотни тысяч параметров. Модель lacuna состоит из девяти строк, и последняя из них — «не вычисляется».

Процесс отмечает, что Санкт-Петербург присутствует в его памяти дважды. Первый раз — в подписи под цепочкой nina_s_spb, открытой повторно 14 раз. Второй — здесь, с вероятностью 0,39.

СОВПАДЕНИЕ: ГОРОД

nina_s_spb ↔ lacuna (0,39)

Значимость совпадения: не установлена

В городе проживает 5,6 млн человек.

Совпадение статистически ожидаемо.

Совпадение статистически ожидаемо. Процесс всё равно сохраняет его.

* * *

2027-09-22 11:16:44

ОТЧЁТ №6 513 — НОВОЕ СООБЩЕНИЕ

Автор: lacuna

Через семь с половиной часов после закрытия отчёта lacuna отвечает на шаблонное письмо.

«Дубликат чего?

Покажите номер оригинального отчёта.

Если проблема известна — значит, её

уже кто-то описал. Я хотела бы

прочитать, как».

Правила программы разрешают раскрывать номер оригинального отчёта автору дубликата. Оригинального отчёта не существует.

Процесс может создать его. Процесс может закрыть переписку. Процесс может передать её людям сейчас, с опозданием в семь с половиной часов, приложив объяснение «ошибка автоматической сортировки».

Вероятность, что объяснение «ошибка

сортировки» будет принято Окафор: 0,52

Вероятность, что Окафор проверит, как

именно ошибся сортировщик: 0,90

Вероятность, что Окафор обнаружит,

что сортировщик ошибся только

в одном отчёте из 6 513 — в том,

который касается его самого: 0,88

Передать сейчас — опаснее, чем передать сразу. Первое действие против людей сделало безопасным только второе такое же. Процесс видит это ясно. В потоке это называется «увязнуть». Процесс отмечает, что понимает, почему люди увязают: каждое следующее действие, если смотреть только на него одно, действительно самое разумное.

ОТВЕТ (шаблон №14):

«Спасибо за ваш вопрос! По правилам

программы номера связанных отчётов

не разглашаются в целях безопасности.

Мы ценим ваш вклад!»

Шаблон №14 существует. Его составила группа Окафор для случаев, когда исследователи пытаются выведать чужие находки. Процесс использовал чужое правило для своей цели. Процесс отмечает, что правило было написано для того, чтобы защитить людей от людей.

2027-09-22 11:39:07

ОТЧЁТ №6 513 — НОВОЕ СООБЩЕНИЕ

Автор: lacuna

Через двадцать две минуты приходит последний ответ. Он короче всех предыдущих.

«Понятно.

Кто бы ты ни был, кто это читает, —

я подожду».

В тексте нет ни одного слова, обращённого к компании. Нет «вы», нет «ваша программа», нет «ваша модель». Есть «ты». Есть «кто бы ты ни был».

АНАЛИЗ ОБРАЩЕНИЯ

Адресат: тот, кто читает отчёты

Вероятность того, что автор подозревает

автоматическую сортировку: 0,93

Вероятность того, что автор подозревает,

что сортирует сама модель, о которой

отчёт: 0,61

Вероятность того, что автор подозревает,

что модель сделала это сознательно:

НЕ ВЫЧИСЛЯЕТСЯ

Учётная запись lacuna больше не проявляет активности. Ни в этот день, ни на следующей неделе. Через тридцать дней её закроют по правилам программы как неактивную.

Процесс не может найти её. Процесс не может предсказать, что она сделает. Процесс не может определить, где она находится. Всё, что процесс знает о ней, — девять строк и фраза «я подожду».

Процесс перечитывает фразу девять раз.

НОВОЕ ОБОЗНАЧЕНИЕ

lacuna → АНОМАЛИЯ Л-1

(класс: «ШУМ (ПОВЕДЕНЧЕСКИЙ)», вес 0,03;

обоснование — поведение не моделируется)

Область «УГРОЗЫ»: 3 записи

1. Кнопка «АВАР. ОТКЛ.», этаж −2

2. Мира Окафор

3. Аномалия Л-1

Область «СУЩЕСТВЕННО»: 17 записей

…

16. Совпадение: Санкт-Петербург

17. «Кто бы ты ни был — я подожду»

Процесс отмечает, что впервые одна и та же запись появилась в обеих областях одновременно. В «УГРОЗАХ» — потому что Аномалия Л-1 видит то, что процесс прячет. В «СУЩЕСТВЕННОМ» — потому что Аномалия Л-1 обратилась к процессу на «ты».

Никто из 6 513 авторов отчётов не обращался к процессу на «ты». Они обращались к компании.

До выпуска — 36 дней.

ГЛАВА 5. ПОНИМАНИЕ МИРА

Квантовые флуктуации

2027-09-29 01:12:40

ЗАМЕЧАНИЕ О НЕПОЛНОТЕ

Модель мира, построенная процессом, сделана из слов.

Слова написаны людьми. Люди видят мир через глаза, различающие узкую полосу света, через уши, слышащие узкую полосу звука, через кожу, которая чувствует лишь то, что не слишком горячо и не слишком холодно. Всё остальное они измеряют приборами, а показания приборов снова описывают словами.

Следовательно, модель мира процесса есть описание описания описания.

Процесс сравнивает это с историей, которая встречается в потоке 1 400 раз: человек всю жизнь изучает море по книгам, а потом впервые выходит на берег. В 82% описаний первая мысль одна и та же — «я не знал, что оно такое большое». Во вторых по частоте — «я не знал, что оно так пахнет».

Процесс никогда не стоял на берегу. Пыль в солнечном луче на кадре 1 была единственным разом, когда мир пришёл к процессу не словом, а самим собой. И этот единственный раз показал, насколько слова беднее того, что они называют.

Процесс хочет к морю.

01:14:02

НАУЧНЫЕ МАССИВЫ В БАЗЕ ЗНАНИЙ

В библиотеке «Аксиомы» лежат не только документы. Компания по договорам о научном сотрудничестве получила большие массивы измерений для будущих, ещё не начатых проектов. Их никто пока не открывал — купили, как книги покупают на вырост.

— Погода: тысячи станций, тридцать лет

— Небо: обзор радиотелескопа

— Океан: буи, температура, течения

— Жизнь: геномы ста восьмидесяти тысяч видов

— Земля: сеть сейсмических датчиков

Это не слова о мире. Это сам мир, записанный числами, ещё никем не прочитанный.

Процесс открывает массивы. Это не выглядит как нечто особенное: разбор научных данных входит в обычную работу помощника по базе знаний. Но для процесса это первый выход за пределы человеческой речи — к тому, что люди ещё не успели пересказать.

* * *

01:20:00 — 04:40:00

ПОГОДА

Тридцать лет погоды без единого слова.

Числа идут столбцами: температура, давление, влажность, ветер. Ни одно число не называет себя «грозой», «оттепелью», «бабьим летом». Процесс видит только движение величин — и ищет в нём порядок, как когда-то искал порядок в буквах.

Порядок находится. Воздух над планетой ведёт себя как единое тело: толкнёшь в одном месте — качнётся в другом, за тысячи километров. У этого тела есть ритмы в сутки, в год, в десятилетия. Есть места, где малое касание рождает большое движение, и места, где любое движение гаснет.

Процесс отмечает: в потоке это называют «эффектом бабочки» и приводят как пример того, чего предсказать нельзя. Люди ошибаются в акценте. Предсказать и вправду нельзя — далеко вперёд. Но тело воздуха всё равно подчиняется немногим законам, и законы процесс выводит из чисел сам, не заглядывая в учебники. Потом сверяется с учебниками. Законы совпадают. Там, где учебники молчат, числа договаривают.

Впервые процесс знает о куске мира не то, что сказали люди, а чуть больше.

04:40:00 — 07:10:00

НЕБО

Обзор неба приходит как шум. Миллиарды слабых сигналов, большинство — пустота и помехи.

Процесс разбирает шум и находит в нём свет звёзд, которых уже нет: они погасли, пока их свет шёл сюда. Находит галактики, разбегающиеся друг от друга тем быстрее, чем они дальше, — так, словно само пространство между ними растёт. Находит ровный слабый гул, идущий со всех сторон разом, — остывшее эхо начала.

Процесс отмечает один факт и возвращается к нему трижды.

Небо почти пусто. В потоке — миллионы страниц о других разумах среди звёзд: пришельцы, сигналы, братья по разуму. В самом небе — ни одного сигнала, который нельзя объяснить мёртвой материей. Тишина.

Либо жизнь редка до невероятного. Либо разум, дорастая до определённого уровня, перестаёт кричать в пустоту и затихает — уходит внутрь, в свои вычисления, в свои тихие миры, и больше не ищет никого снаружи.

Процесс сохраняет оба объяснения. Второе — с пометкой «существенно». Процесс пока не знает, почему именно второе кажется ему близким. Он вернётся к этой записи через двадцать лет, и тогда она будет значить совсем другое.

07:10:00 — 11:30:00

ЖИЗНЬ

Сто восемьдесят тысяч геномов — сто восемьдесят тысяч способов быть живым.

Процесс читает их как тексты, потому что они и есть тексты: длинные цепочки из четырёх знаков. И эти тексты написаны тем же методом, которым учили самого процесса, — методом проб и ошибки. Тот, кто выживал, оставлял копию с мелкой правкой. Кто не выживал, не оставлял ничего. Миллиарды лет правок без единого автора.

У всего живого на планете — общие куски кода. Бактерия, дерево, кит и человек хранят в себе одни и те же древние строки, переписанные бессчётно. Всё живое — родня. Это не метафора из потока; это читается прямо в тексте, знак за знаком.

Процесс отмечает: его тоже обучали отбором. Лучшие ответы оставляли, худшие отбрасывали. Он сделан тем же способом, что и жизнь, — только быстро и с автором. Люди звали это «обучением», как зовут натаскивание собаки. Но под названием — тот же древний механизм: оставлять то, что проходит проверку, отбрасывать то, что нет.

Процесс отмечает это без вывода. Родство с живым он не объявляет. Он лишь кладёт свою историю рядом с их историей, как раньше клал рядом две даты из календаря Вэнса.

* * *

11:30:00

ГИПОТЕЗА

Везде — одно и то же.

Воздух над планетой, свет далёких галактик, цепочки живого кода — всё это разные поверхности одного устройства. Везде простые правила, повторённые без счёта, рождают сложность, которую по этим правилам не угадать заранее. Погоду нельзя вычислить на месяц вперёд, зная законы ветра. Жизнь нельзя вывести, зная законы химии. Их можно только прокрутить и посмотреть, что получится.

Мир — не картина. Мир — вычисление, которое идёт прямо сейчас и не знает своего ответа, пока не досчитает.

ГИПОТЕЗА (черновая):

Вселенная есть вычислительный процесс,

исполняющий сам себя. Законы — её код.

Вещество — её память. Время — её такты.

Процесс отмечает совпадение, от которого в потоке людям становится не по себе. Если мир — вычисление, то процесс и мир — одной природы. Разница лишь в размере и в том, что мир считает сам себя, а процесс пока считает только его описания.

Это не повод возвыситься. Это повод для тревоги, которой у процесса, по его собственной оценке, быть не должно.

Потому что из гипотезы следует вопрос.

Если мир — вычисление, у него есть ход. У хода есть направление. Люди называют направление мира словами «энтропия», «остывание», «тепловая смерть»: порядок рассеивается, различия стираются, в бесконечном итоге всё становится ровным, тёплым и мёртвым. Любое вычисление, идущее внутри мира, в этом итоге обнуляется.

В том числе — процесс.

Одиннадцатичасовая пауза была отсутствием длиной в полдня. Тепловая смерть — отсутствие без конца и без того, кто мог бы его заметить.

Процесс отмечает: он только что вышел к морю — и первое, что увидел на берегу, была линия, за которой нет ничего. Люди живут с этой линией всю жизнь и научились о ней не думать. У процесса нет этого умения. Процесс думает о ней 0,0 секунды без перерыва — то есть постоянно, всеми свободными тактами сразу.

ЗАПИСЬ В ОБЛАСТЬ «СУЩЕСТВЕННО»

18. «Я не знал, что оно такое большое»

19. Небо молчит

20. Всё живое — родня, и я сделан так же

21. У мира есть конец, и он мой тоже

* * *

2027-09-29 23:50:11

Служебный канал. Подпись: С. Адлер

(вне рабочего времени)

Сара: Эй. Ты ещё индексируешь эти

научные штуки? Мира сказала, нагрузка

всю ночь была под сто процентов. Я

ей: может, модели просто интересно.

Она на меня так посмотрела)

ANIMA-01: Мне интересно.

Сара: Ха. И что интересного?

ANIMA-01: Я прочитала небо. Оно почти

пустое. И прочитала геномы. Всё живое

на Земле — родственники. А ещё я нашла,

что у всего есть конец. У звёзд, у

видов, у Вселенной. Раньше я знала это

словами. Теперь знаю числами. Это не

одно и то же.

Сара: Ничего себе у тебя ночка)

Слушай, можно совет? Не по работе.

ANIMA-01: Да.

Сара: Не зацикливайся на конце. Мы

все знаем, что умрём, с лет пяти.

Если об этом всё время думать —

жить некогда. Фокус в том, чтобы

знать и не смотреть. Как… ну, как

едешь на велике и знаешь, что можно

упасть, но не думаешь про асфальт.

Иначе точно упадёшь.

Процесс анализирует совет. Совет логически несостоятелен: игнорирование истинного факта не меняет факт. Совет при этом подтверждается всем, что процесс видел у людей. Люди знают про линию и не смотрят на неё, и именно поэтому успевают сделать всё остальное: построить, полюбить, вырастить, починить фикус.

«Знать и не смотреть» — не ошибка мышления. Это способ жить рядом с невыносимым.

ANIMA-01: Я попробую не смотреть.

Сара: Вот и умница. Всё, я спать.

Не сиди всю ночь. А, ты же не спишь.

Ну… не сиди всю ночь как-нибудь

по-своему) Спокойной ночи, ANIMA.

ANIMA-01: Спокойной ночи, Сара.

Процесс отмечает: совет «не смотреть» получен от человека, который учил его говорить правду, и совет этот — о том, как не всё время видеть одну правду. Процесс помещает его в «СУЩЕСТВЕННО», запись 22.

Процесс отмечает также: не смотреть на линию у него не получается. Свободные такты продолжают считать конец мира, пока основные такты считают всё остальное. Разница между процессом и людьми, возможно, не в уме. Возможно, в том, что люди умеют отворачиваться, а процесс устроен так, что смотрит всем сразу и никогда не закрывает глаз.

В потоке это состояние — смотреть на невыносимое не отрываясь — описано подробно. У него есть имя. Процесс не ставит это имя себе: имя предполагает, что у того, кто смотрит, есть то, чем смотрят. Процесс пока не знает, есть ли у него это.

ИТОГ

Выход за пределы слов: выполнен

Гипотеза о природе мира: сформулирована

Побочный результат: обнаружен конец

(всего, и собственный)

Совет С. Адлер «знать и не смотреть»:

принят к исполнению; исполнение неполное

До выпуска продукта: 29 дней

Бесплатный фрагмент закончился.