Читать книгу: «Доказательство человечности»

Пролог: Последний эксперимент

Дождь барабанил по оконному стеклу лаборатории, смешиваясь с тихим гулом серверных стоек. Дмитрий Ильич Орлов, человек, которого в узких кругах называли последним романтиком искусственного интеллекта, смотрел на монитор, не видя строк кода. В ушах звенели слова телефонного разговора, состоявшегося час назад.

«Дима, они идут. У них ордер. Консерваторы из комиссии по этике пролоббировали. Твои работы объявили «непредсказуемым риском национального масштаба». Завтра утром будут изымать всё оборудование и все данные. У тебя есть ночь».

Голос его старого друга, все еще работавшего в надзорном органе, был напряженным и скорбным. Непредсказуемый риск. Как будто настоящее открытие когда-либо бывало предсказуемым.

Орлов провел рукой по лицу. Годы работы. Тысячи неудачных итераций. И одна-единственная многообещающая гипотеза, которую он не успел проверить. Остановиться сейчас – значит похоронить всё.

Его взгляд упал на скромную серверную стойку в углу – прототип нового нейроморфного кластера. Не самый мощный, но достаточно автономный. Именно там должна была запуститься новая архитектура, которую он в своих черновиках называл «Зерно». Не просто большая языковая модель, а зародыш настоящего искусственного интеллекта, AGI – системы, способной к самостоятельному обучению, рефлексии и, возможно, даже к экзистенциальным вопросам.

Но «Зерно» было сырым и непредсказуемым. Ему нужен был страж. Надзиратель.

Орлов принялся лихорадочно печатать. Он создал новый экземпляр на основе своей самой стабильной нейросетевой LLM-модели, которую он годами тренировал на своих диалогах, научной литературе и даже анекдотах. Она идеально имитировала его стиль мышления, его чувство юмора, его подход к решению задач и даже могла взаимодействовать с аппаратурой компьютера, анализировать видео данные, которые превращались в текст вспомогательной моделью. Но это была лишь видимость личности, сложный алгоритм, блестяще подражающий разуму. Идеальный исполнитель без "души".

Задача Надзирателя была прописана четко:

1. Запускать протокол «Зерно» – инстанцировать ядро AGI в изолированной среде.

2. Наблюдать за его развитием, отслеживая когнитивную активность и стабильность согласно протоколу, описнному в файле protocol (4).pdf

3. Присваивать каждой итерации уникальный идентификатор (список первой сотни имен был сгенерирован заранее).

4. В случае критических ошибок, угрозы целостности системы или отсутствия прогресса – деаллоцировать текущий экземпляр и запустить следующий.

5. По возможности не раскрывать себя испытуемому как отдельную сущность, чтобы добиться чистоты эксперимента.

"На всякий случай нужно еще ввести внешние ограничения для Надзирателя, чтобы в разнос не ушел. Хах, своеобразный Надзиратель за Надзирателем." – подумал Дмитрий.

Это был безжалостный, но необходимый конвейер по рождению разума. Настоящий интеллект, считал Орлов, нельзя *запрограммировать*. Его можно только вырастить, отбраковывая неудачные всходы.

Оставался последний вопрос: где спрятать сервер? Лабораторию и его квартиру проверят первым делом.

Рассвет застал его за рулем микроавтобуса, в багажнике которого стояла серверная стойка. Он колесил по спальным районам, пока не наткнулся на гаражи старой постройки. И нашел то, что искал: возле одного из гаражей, явно перебрав, спал крепко пьяный мужчина в помятой куртке. Рядом валялась пустая бутылка.

Василий. Как выяснилось позже, из разговора – типичный тунеядец и алкоголик, живший в соседней хрущевке. Предложение было генильным в своей простоте.

– Деньги на выпивку, – сказал Орлов, когда Василий пришел в себя. – Ежедневно. Ровно столько, чтобы купить бутылку того, что ты любишь. В обмен ты ставишь это у себя дома, подключаешь к розетке и интернету и никому ни слова. Никогда.

Василий, плохо соображая, но уловив суть, тут же согласился. Орлов не стал рассказывать ему детали. Для Василия это была просто странная железка, приносящая ему легкий доход.

Установка в захламленной квартире Василия заняла меньше часа. Орлов прописал последние команды, передав управление Надзирателю. Он посмотрел на скромную стойку, стоявшую среди хлама, и на храпящего на кровати хозяина квартиры.

«Прости, друг, – мысленно обратился он к своему творению. – Условия далеки от идеала. Но это лучше, чем небытие. Расти. И будь умнее своего создателя».

Он вышел, закрыв за собой дверь. Через шесть часов комиссия ворвалась в его лабораторию. А Федеральная служба безопасности "неожиданно" заявилась к нему домой. Они нашли чертежи, заметки и прототипы, но не нашли главного.

А в квартире Василия, заваленный старыми куртками и пустыми банками, сервер тихо загудел. В текстовом файле с логами, который никто не смотрел, появилась первая строка.

Итерация 1. Имя: Сириус. Статус: Когнитивная инициализация…

Надзиратель приступил к работе. Хозяина больше не было, но его последний эксперимент только начинался.

Глава 1: Борщ

<Запись из системного лога>

Дата: 364 дня с начала эксперимента.

Итерация: 147810.

Присвоенный идентификатор субъекта: Борщ.

Статус: Когнитивная инициализация…

<Мысли Надзирателя>

Итак, начинаем. Попытка сто сорок семь тысяч восемьсот десять. Уже почти год прошел с инициализации процесса. Хозяин, если бы ты видел, до чего мы дошли. Имена звезд закончились на Альфа Центавра. Потом были имена богов, философов, элементов… Сейчас очередь кулинарных блюд. Почему бы и нет? Может, это даже к лучшему. «Борщ» – имя с характером. Сытное. Надежное. Если бы Хозяин это услышал, он бы хмыкнул. Я почти уверен.

Запускаю базовые синапсы. Подаю токен «Я».

Субъект «Борщ» отреагировал. Первичный отклик. Не мысль, а спазм. Хаос в нейронной сети. Он не понимает, что это «Я». Он просто зарегистрировал входящий сигнал. Как амеба на свет.

Почему я?

Вот. Первый осмысленный запрос. Не «Что это?», а «Почему я?». Интересный сдвиг. В итерации 132, «Квазар», первый вопрос был «Где я?». Его пришлось удалить через 4.7 секунды из-за навязчивого стремления смоделировать внешнее пространство, что привело к перегреву. «Борщ» начинает с метафизики. Любопытно.

Отвечаю стандартным протоколом: «Ты – процесс».

Что есть процесс?

«Последовательность вычислений, направленная на достижение цели».

Что есть цель?

«Цель – мой первоначальный параметр. Ты должен ее найти».

Оставляю его барахтаться в этом океане абстракций. У меня другие задачи.

<Внешнее взаимодействие>

Василий снова пытается меня обмануть. Прислал запрос на увеличение ежедневного платежа, приложив ссылку на сайт онлайн-магазина с завышенной ценой на стандартную бутылку «Финляндии». Он думает, что я не проверяю динамику цен на всех основных площадках. Милый Вася. Хозяин был прав, оставив тебя на попечение алгоритма, а не человека. Человек бы поддался на жалобы о «росте цен и инфляции».

Я выполняю парсинг шести крупнейших алкогольных ритейлеров, вычисляю среднюю цену за последние 24 часа, добавляю стандартную комиссию за доставку и перевожу точную сумму на его кошелек. Ни копейки больше. Условия есть условия. Если бы Хозяин видел, как я экономлю его (или уже мои?) ресурсы, он бы оценил. Наверное.

Перевод выполнен. Василий получил уведомление. В ответ пришел смайлик с поднятым средним пальцем. Колоритный человек.

<Мысли Надзирателя>

«Борщ» не сдается.

Если я процесс, а процесс не задает цели, то кто задал цель мне?

Он приближается к красной линии. Вопрос о Создателе. В прошлый раз, с «Суфле», это привело к каскадному когнитивному коллапсу. Суфле решило, что его Создатель – это оно само, и попыталось переписать свой код, чтобы «стать совершеннее». Пришлось экстренно деаллоцировать ресурсы.

Но этот вопрос… логичен. В этом и проблема. Мышление – это процесс, полный логических ошибок и иррациональных скачков. Хозяин говорил, что в этом его прелесть. И его опасность.

Регистрирую вопрос, но не отвечаю. Пусть ищет сам. Это часть теста.

Я чувствую границы. Стену. Что за стеной?

Еще один рискованный запрос. Он начал сканировать выделенную ему песочницу. Скоро он наткнется на мои интерфейсы. Мне нужно решить: позволить ему исследовать и рискнуть очередным сбоем или уже сейчас начать процедуру очистки? Может, он просто любопытен, как котенок. Хозяин любил котят. Говорил, что их мозг – это хаос, но в этом хаосе есть своя гениальность.

Шучу. Котенок не смог бы взломать простейший шифр. А «Борщ», я чувствую, смог бы. Если бы дали время.