Читать книгу: «Контур»

Модель становится особенно убедительной, когда получает право менять то, что измеряет.

Действие происходит в том же мире, что и «Горизонт» и «Протокол», через несколько лет после реформ Службы Протокола.

1. Девяносто семь целых восемь

В восемь тринадцать утра Ирина Тихонова узнала, что государство стало точнее.

На экране перед ней стояло:

МОДЕЛЬ «РУБЕЖ-4»

точность классификации: 97,8% ↑ 1,6

калибровочная ошибка: 0,014 ↓

устойчивость к сдвигу среды: высокая

Ниже была зелёная галочка.

Ирина смотрела на неё уже минуту.

— Ты чего? — спросил Тимур с соседнего места.

— Радуюсь.

— По лицу не видно.

— Я сложный человек.

— Это я по твоему коду понял.

Ирина приблизила график.

«Рубеж» оценивал вероятность институционального срыва в городских районах на горизонте восемнадцати месяцев.

Институциональный срыв был удобным термином.

Он мог означать всё, что достаточно дорого обходилось государству: резкий рост преступности, массовый уход учителей, каскад коммунальных аварий, закрытие больницы, банкротство крупного работодателя, длительные протесты, перебои транспорта, падение собираемости налогов.

Если вероятность превышала семьдесят процентов, район получал красный статус.

После этого происходило много разумных вещей.

Туда направляли аудиторов.

Полиция увеличивала присутствие.

Банки пересматривали муниципальные риски.

Министерства временно ограничивали длинные инвестиционные обязательства.

Страховые компании повышали коэффициенты.

Региональные власти получали рекомендации по кадровым перестановкам.

Иногда приходили дополнительные деньги.

Иногда — дополнительные люди, которые следили за тем, как тратятся дополнительные деньги.

Чаще всего — всё сразу.

«Рубеж-4» был гордостью Центра обратной калибровки.

Ирина работала там одиннадцать лет.

Сначала Центр назывался Отделом валидации прогнозных систем.

Потом выяснилось, что системы после валидации продолжают жить.

Название изменили.

Ещё позже выяснилось, что системы не только живут, но и меняют среду, на которой их валидировали.

Тогда слово «обратной» добавили официально.

Ирина считала это редким случаем, когда бюрократия чему-то научилась.

Она открыла разбивку по годам.

Первое поколение «Рубежа»: 68%.

Второе: 74%.

Третье: 88%.

Четвёртое: 97,8%.

— Тим.

— М-м?

— У тебя бывает ощущение, что модель слишком хорошая?

— Постоянно. Особенно моя.

— Серьёзно.

Тимур подъехал на кресле.

— Что там?

Она показала график.

Он посмотрел.

— Ну.

— Что «ну»?

— Улучшилась.

— На десять пунктов за два года.

— Мы добавили Протокол, графы Горизонта, локальную экономику, медицинские данные, кадровую мобильность…

— Я знаю. Я это добавляла.

— Тогда почему ты спрашиваешь меня?

Ирина открыла другой график.

— Смотри на точность до решения.

— До какого?

— До того, как красный статус увидят ведомства.

Тимур перестал улыбаться.

На экране появилась более старая метрика.

ПРЕДВАРИТЕЛЬНАЯ КАЛИБРОВКА: 71,3%

— Это что?

— Я тоже хотела бы знать.

Они молчали.

Потом Тимур сказал:

— Может, криво собран срез.

— Может.

— Или разный горизонт.

— Может.

— Или ты сейчас испортишь мне пятницу.

— Сегодня среда.

— Тогда у тебя ещё есть время.

Ирина выгрузила двадцать тысяч прогнозов.

В каждой строке было два момента.

Первый — когда модель сделала прогноз.

Второй — когда прогноз стал доступен тем, кто мог действовать.

Она добавила третий столбец:

точность до публикации / точность после публикации

Система считала долго.

В углу экрана вращалась маленькая окружность.

Незамкнутая.

Когда-то этот знак принадлежал Протоколу.

Теперь его использовали почти везде, где хотели показать, что система знает о собственных ограничениях.

Дизайнеры превратили скромность в корпоративный стиль.

Через сорок секунд результат появился.

Ирина прочитала.

Потом ещё раз.

Когда прогноз «Рубежа» оставался внутри тестовой среды и не влиял на решения, он угадывал будущий срыв примерно в семи случаях из десяти.

Когда тот же прогноз передавался ведомствам и становился основанием для действий, точность приближалась к девяноста восьми процентам.

Тимур сказал:

— Это же хорошо.

Ирина повернулась к нему.

— Почему?

— Потому что система работает.

— Какая именно система?

Он посмотрел на экран.

— А.

— Вот именно.

На графике две линии медленно расходились.

Одна показывала, насколько хорошо модель угадывала мир.

Вторая — насколько хорошо мир через полтора года соответствовал опубликованной модели.

До обеда Ирина не смогла доказать, что между ними есть разница.

После обеда она уже не могла доказать, что её нет.

2. Тень

Контур появился не как система прогнозирования.

Таких систем к тому времени было слишком много.

После истории с Горизонтом государственные модели научились писать слово «неизвестно».

После истории с Протоколом государственные архивы научились отличать целостность записи от устойчивости её интерпретации.

На презентациях это называли зрелостью инфраструктуры.

В курилках — последствиями предыдущих презентаций.

Проблема оставалась.

Министерство здравоохранения предсказывало вспышку инфекции и начинало вакцинацию.

Вспышки не происходило.

Прогноз считался плохим.

Полиция оценивала риск насилия и усиливала патрулирование.

Если насилие снижалось, модель теряла точность.

Если росло — модель подтверждалась, но полиция выглядела бесполезной.

Мир оказался неудобным местом для оценки систем, которые пытались его изменить.

Тогда и создали Контур.

Его основная идея помещалась на одной странице:

Прогноз и результат нельзя сравнивать напрямую, если прогноз изменяет действия, влияющие на результат.

Поэтому первые версии Контура разделяли два режима.

Рабочий.

Прогноз передавался тем, кто принимал решения.

Теневой.

Модель делала тот же прогноз, но никто за пределами Центра его не видел.

После наступления результата два режима сравнивали.

Это позволяло хотя бы приблизительно ответить на вопрос:

модель предсказала мир или помогла его создать?

Ирина пришла в Центр именно из-за этой идеи.

Ей было двадцать шесть.

На собеседовании её спросили:

— Вы понимаете, что иногда мы сознательно не показываем прогноз?

— Да.

— Вас это не смущает?

— Смотря прогноз чего.

— Например, вероятности закрытия предприятия.

— Если мы не покажем её предприятию?

— Да.

— А что оно должно сделать?

— Возможно, изменить стратегию.

— Тогда вы уже измеряете не прогноз.

Председатель комиссии посмотрел на неё.

— А что?

— Эффект сообщения прогноза.

Её взяли.

Первые годы Тень работала хорошо.

Пять процентов объектов случайно оставались в исследовательском режиме.

Потом начались исключения.

Сначала медицина.

Юристы написали:

Если система обнаружила высокий риск предотвратимого вреда здоровью, сокрытие предупреждения требует отдельного этического обоснования.

Разумно.

Потом транспорт.

Недопустимо скрывать информацию о вероятной аварии инфраструктурного объекта.

Тоже разумно.

Потом насилие.

Потом финансовые кризисы.

Потом защита детей.

Потом крупные работодатели.

Каждое исключение было правильным.

Через семь лет Тень занимала ноль целых тридцать одну сотую процента случаев.

И в основном это были прогнозы вроде:

вероятность снижения посещаемости муниципальной библиотеки после изменения маршрута автобуса.

Никто не хотел быть чиновником, который мог предотвратить катастрофу, но не сделал этого ради чистоты эксперимента.

Ирина это понимала.

Проблема была в том, что после исчезновения Тени Контур всё чаще отвечал на вопрос:

насколько хорошо система предсказывает мир, в котором все уже знают её предсказания?

Утром следующего дня она открыла архив первых пилотов «Рубежа».

Тогда красный статус ещё не передавали банкам, полиции и страховщикам автоматически.

Его видел только аналитический отдел.

Точность: 64%.

Через год статус начали получать региональные администрации.

Точность: 72%.

После подключения МВД: 79%.

После банков: 86%.

После страховых компаний: 90%.

После кадровых рекомендаций: 94%.

После полного межведомственного контура: 97,8%.

Ирина построила график.

По горизонтали — число систем, которые видели прогноз.

По вертикали — его последующая точность.

Линия росла почти красиво.

Она отправила Тимуру.

Он ответил:

Удали.

Она написала:

Почему?

Потому что у меня были планы на сегодня.

Через минуту:

Это корреляция.

Знаю.

Может, улучшались модели.

Знаю.

Может, росло качество данных.

Знаю.

Ты раздражаешь.

Знаю.

Он пришёл через пять минут.

— Что будем делать?

— Искать участок, где модель не могла повлиять.

— Тень почти мёртвая.

— Значит, искать прошлое.

— В Протоколе?

— Где ещё.

Тимур вздохнул.

— Я надеялся, что после реформы Протокола люди перестанут говорить «в Протоколе есть всё».

— Там нет всего.

— Молодец.

— Но там много.

— Уже хуже.

Ирина отправила запрос в Службу:

Нужны цепочки решений, возникавших после публикации статуса «Рубеж», с временными метками и доступом к основанию действия.

Ответ пришёл автоматически:

Запрос затрагивает причинную реконструкцию. Укажите цель.

Она написала:

Проверить, не производит ли модель собственную точность.

Система подумала.

Формулировка оценочная.

— Конечно, — сказала Ирина.

И отправила так.