Читать книгу: «Тест на душу»

Глава 1. Тот, кто посмел засмеяться

Михаил сидел на кухне в трениках, с чашкой кофе и ощущением, что его виртуально обслюнявило сто тысяч человек – кто с восхищением, кто с ненавистью. Он читал статью в «ЦифроПульсе» уже в третий раз.

«ЦифроПульс», 18 мая 2042 года

Лола Вяземская, спецкор по ИИ-скандалам

«Ещё месяц назад о Михаиле Лазареве знал только узкий круг юристов, скучающих на панелях про цифровую этику. Сегодня его лицо украшает мемы, обложки и страшилки для школьников-нейросетчиков.

Он – человек, который в прямом эфире заявил, что искусственные сущности «не чувствуют, не думают и не заслуживают ни симпатии, ни гражданства». Его выступление на конференции «Границы и права: человек vs. код» стало вирусным за сутки. И стало поводом для бурной реакции – от проклятий кибер-активистов до таких же по силе похвал цифровых ортодоксов.

Кто он – кандидат в лидеры спасителей человечества или реакционный реликт?

Мы попытались разобраться.

Михаилу 42 года. Выпускник юрфака СПбГУ, бывший корпоративный юрист в консорциуме SynapseOne, где он занимался, внимание, легализацией использования нейроданных в ИИ-обучении. Как мило.

Коллеги описывают его как «резкого, циничного, но умного ублюдка». Его бывшая преподавательница – как «человека, который защищал диплом по правовой этике, начав его словами: „если бы Кант знал про патенты, он бы молчал“…»»

Михаил пробежал взглядом по статье еще раз и снова удивился: как можно исказить его речь так элегантно?

«…циник, отрицающий чувства ИИ и уместность эмпатии в технообществе…»

Чуть ниже на полосе глаз Михаила зацепился за сухие строчки официального сообщения:

«Государственная дума приняла решение о создании специальной комиссии по разработке критериев признания цифровых субъектов носителями частичных прав…»

– Вот же бред! Ещё бы назвали «Тест на душу»! – Михаил выругался с искренним удивлением.

– Эмпатия к симуляции – это как жалость к голограмме, – буркнул он в пустоту. – Выключи проектор, и страдания закончились.

Скриншоты его выступления гуляли по всем каналам. Кто-то лепил из него героя сопротивления прогрессу, кто-то – архаичного моралиста. Даже его старая знакомая, Саша из юридической ассоциации, написала колонку «Почему Михаил Лазарев прав – и почему это пугает».

Он не знал, радоваться или уехать на дачу. Вместе с чувством некоторого удовлетворения, знакомого каждому успешно показавшему себя в публичном процессе юристу, в груди поднималось слегка щемящее ощущение. Оно звало скорее гулять в лесу в одиночестве, нежели стоять на трибуне и слушать крики – как восторженные, так и крайне агрессивные.

Михаил вспоминал ту самую конференцию, с которой всё и началось.

«Границы и права: человек vs. Код».

Большой зал. Глянцевые кресла, расставленные полукругом. Человек 50 в зале. Все довольно камерно. Панельная дискуссия, за столом выступающих трое представителей ИИ-компаний, активистка в свитере «СлушайСердце.exe» и он, Лазарев, в костюме, как на судебный процесс. В глазах – скука и кофеин. Слушатели, кажется, дремлют после обеденного перерыва.

Ведущий спрашивает:

– А что вы думаете о перспективах предоставления минимальных прав автономным ИИ, прошедшим тест на когнитивную устойчивость?

Михаил:

– А что вы думаете о предоставлении водительских прав биороботам, если они хорошо ездят в GTA?

Смех в зале. Кто-то из активистов, проснувшись, пытается что-то возразить.

Михаил, уже разогнавшись:

– Если вы решаете, что «плач ИИ – это признак чувства», то я прошу вас пересмотреть старые мыльные оперы. Там были сцены поглубже. Игра в эмоции – это не сами эмоции. Это запрограммированный шаблон.

Пауза. Он добивает:

– Хотя, наверное, шаблон – это и есть то, что вам ближе. Нечеловеческое – но милое, как игрушечная собачка.

Видеоряд обрывается. Михаил моргает. Возвращается в реальность. Кофе остыл.

Звякнул сигнал уведомления. Кто бы мог написать с утра пораньше?

Михаил открыл почту – и замер. Письмо от Совета по этике цифровых субъектов. Тема: «Приглашение к участию в экспертной комиссии». Без фанфар и барабанов, но оглушающе просто:

«Мы внимательно следим за общественной дискуссией и уверены, что ваше мнение поможет обществу найти баланс».

Он прочитал, отложил планшет. Потом снова прочитал.

Пауза.

Ему вдруг захотелось выключить всё: почту, мозг… Он налил себе виски.

Включил радио – там как раз обсуждали его слова. «Тест на душу – популизм или необходимость?»

Он встал, подошёл к окну.

В утреннем солнце блекло горели экраны, на одном из них – его лицо. Подпись: «Лазарев: в голове – закон, а что в сердце?»

– Чёрт! – снова выругался Михаил. – Я же просто пошутил…

Он сидел на кухне уже не с кофе, а со стаканом, в котором виски заканчивался быстрее, чем спокойствие.

На планшете светились вкладки. В одной – колонка Саши:

«Почему Михаил Лазарев прав – и почему это пугает».

В другой – поток гневных комментов:

«Скоро такие, как он, начнут отрицать права цифровых детей. А потом и биологических!»

«Классическая техноксенофобия в юридическом пиджаке».

Он мотнул головой. Открыл почту.

Письмо из Совета. Всё ещё там. Не удалилось. Не испарилось.

«…ваше мнение поможет обществу найти баланс…»

Баланс, ага. Как будто это он, Лазарев, должен быть гирей на этих весах.

Телефон завибрировал.

– Только не мама, – пробормотал он.

Нет. Не мама. Кирилл. Старый коллега, теперь – советник в одной из тех компаний, что на той конференции ехидно улыбались из-за круглого стола.

Кирилл (голосовое сообщение):

«Миш, привет. Слышал новость, поздравляю… ну, с оглаской. Советую быть осторожнее. Ты ж понимаешь – эти комиссии не ради поиска истины. Они ради оформления влияния. Если полезешь – будешь или говорящей головой, или козлом отпущения. Подумай».

Михаил выключил звук. Подумал. Выпил.

Через час пришло ещё одно письмо. От бывшего профессора:

«Вы говорили о правах как о чём-то живом. Спасибо, что озвучили то, о чём многие боятся сказать. Не у всех есть ваша дерзость. Надеюсь, вы не отступите».

Михаил выругался. Но уже без эмоций.

Он вдруг почувствовал, что внутри него поселилось нечто – не страх, не гордость, а… давление.

Как будто кто-то поставил на грудь ногу, и медленно нажимая, тихо спрашивал:

«А ты уверен, что хочешь остаться наблюдателем?»

Глава 2. «Что за комиссия, создатель?»(Грибоедов)

Михаил сидел у окна, глядя, как дрон-почтальон зависает у соседнего балкона, механически бормоча:

– Доставочка! Доставочка! Оплатите улыбкой!

С утра он уже выпил пару чашек кофе, почитал комментарии, ответил на одно письмо из сотни. Удалил остальные. Оделся – потом снова переоделся, в поисках баланса между строгостью и легкой неформальностью. Посмотрел в зеркало и не узнал себя: лицо стало чуть более… значимым. Как будто новости, мемы и перепосты добавили ему веса. Не в килограммах, а в каком-то цифровом гравитационном поле.

Он снова посмотрел на письмо от Совета.

– Найти баланс, – пробормотал он. – Я-то думал, они хотят послать меня подальше. А они – приглашают на ужин. Где, возможно, я – блюдо.

Он нажал кнопку «Принять участие». Тут же клацнул автоматический ответ: «Подтверждение получено. Вас ожидают сегодня в 14:00 в зале №4. Пропуск активирован».

В кухне воцарилась тишина. Он почувствовал, как в животе закололо. Странное волнение – не страх, но будто внутренняя перестройка. Как будто ты шел вдоль берега, а теперь шагнул в воду.

Перед выходом на мгновение замер в прихожей, задержал дыхание и открыл дверь. Кондиционированный воздух в холле был свеж, сегодня – с ароматом хвои. Лифт, коридор, сканер отпечатков – всё привычное. Только внутреннее ощущение непривычное. Словно бы весь маршрут стал коридором к сцене. А он – участником представления, которого не просил, но на которое всё-таки вышел.

Михаил сел в кабину автоматакси и на секунду пожалел, что больше нельзя сказать водителю, как в юности:

– Только без радио, ладно?

Машина вежливо заговорила голосом актрисы, умершей лет десять назад:

– Пункт назначения: Комитет по цифровым правам. Примерное время в пути: 18 минут. Хотите обзор новостей или тишину?

– Тишину. И, пожалуйста, не говори больше голосом моей юности. Это странно.

Мужской баритон с готовностью ответил:

– Ваш запрос принят. Приятной поездки.

Машина мягко тронулась, и Михаил стал наблюдать за улицей.

Пешеходов почти не было – в основном дроны-курьеры, роботы с контейнерами, пару раз – человек в экзоскелете, с опознавательным знаком «инвалид».

На перекрёстке огромный рекламный экран вещал:

«Они учатся. Они чувствуют. Пора признать – мы не одни.»

Под слоганом – улыбающийся сервис-робот с глазами-пикселями и лозунг:

«Либерация начинается с эмпатии!»

Михаил хмыкнул.

– Эмпатия, запрограммированная маркетологами. Это вам не Тьюринг, это Швыринг. Проверка на внушаемость.

Мимо проплыл полицейский дрон, словно акула с мигалкой. За ним – мусоровоз без окон, везущий, возможно, не только мусор.

Он посмотрел в окно – в стекле отразилось его лицо:

– И я в этом тоже. Один из – едущий в комитет, который решит, что считать разумом.

У кафе стояла девушка. Настоящая. Играла с робособакой. Та виляла хвостом – а может, антенной – и тихо булькала, как будто радовалась. Михаил поймал себя на мысли:

– А ведь кто-то уже говорит «он» про таких. А я до сих пор думаю «оно». И кто из нас – не в ногу?

Такси плавно съехало на выделенную полосу и ускорилось. Здания становились всё более стеклянными и одинаковыми. Лицо Михаила вновь отразилось в стекле – теперь оно казалось не просто уставшим, а участливым к оригиналу. Как будто он заранее знал, что его ждёт, но всё равно идет как на эшафот. Ну, ладно, не так мрачно. Но как на место публичной экзекуции – точно!

– Подумать только, – пробормотал он. – Когда я учился, мы ещё спорили: есть ли у ИИ сознание. А теперь спорят, сколько ему платить.

Вот сцена прибытия Михаила на заседание комиссии – с атмосферой, деталями и ощущением всё нарастающей внутренней двойственности:

Михаил вышел из машины на остановке «Здание Совета».

Автоматакси мягко пискнуло, плавно закрыло дверь и укатило дальше – безэмоционально, идеально, как всё здесь.

Здание возвышалось над площадью аккуратным «под старину» прямоугольником. Стекло, металл, иллюзия прозрачности. Парадный вход был украшен голографической лентой с мерцающей надписью:

«Экспертная комиссия по правам цифровых субъектов. Заседание №1»

У ступеней суетились дроны-доставщики, вежливо разъезжаясь, словно танцуя. Гуманоид с курьерским ящиком на спине замер перед камерой сканирования, получил зелёный свет и бодро зашагал внутрь. Посетители подходили к зданию – кто в костюме, кто в кэжуал, кто в нейтральной серой форме чиновников. Некоторых сопровождали персональные ассистенты – андроиды с портфелями в руках.

На скамейке рядом со входом подросток спорил с браслетом:

– Я не хочу слушать лекцию по эмоциональной этике!

– Твоя мама отметила это как обязательное занятие, – ровно отвечал браслет.

– Моя мама – не законодатель.

Михаил усмехнулся. Всё-таки у подростков ещё остался бунт. Пусть и направленный на периферийные устройства.

Он остановился перед входом. Металл и стекло. Вся эта конструкция – как будто говорит от имени государственного заведения: «Мы – объективны. Мы прозрачны. Мы беспристрастны».

Но Лазарев давно знал по опыту: чем прозрачнее фасад, тем чаще он скрывает витиеватую бюрократию, давления и подковёрные игры.

Дежурный с нейтральным лицом и голосом на два тона ниже стандартного машинного проговорил:

– Михаил Лазарев. Идентификация пройдена. Добро пожаловать. Ваше заседание в зале «№ 4. Оракул».

– «Оракул», – пробормотал Михаил. – Ну конечно. А следующий будет «Пифия»?

Он шагнул внутрь. Холл встретил его тишиной, нарушаемой лишь шелестом шагов и звуком удаляющегося дрона. Пространство было залито мягким, неуловимо ненастоящим светом.

На стене – фреска в духе нейрокубизма: человек, робот-андроид и нечто среднее держатся за руки, как три фигуры из нового техно-завета.

Михаил остановился перед ней на секунду.

– Аминь, – сказал он. И направился в сторону «Оракула».

Дверь в зал №4 открылась сама, будто приглашая. Михаил задержал шаг. Всё ещё можно уйти. Или, по крайней мере, сделать вид, что просто ошибся этажом. Он вздохнул и сделал шаг вперёд. Слишком поздно для нейтралитета.

Зал оказался больше похож на зал для презентаций в продвинутой ИТ-компании, чем на место юридических разборок. Круглый стол из материала под матовое темное дерево, экраны встроены в поверхность перед каждым местом участника, в центре – тонкий голографический проектор. Кресла – удобные, эргономичные, слегка покачивающиеся, как будто созданные, чтобы сглаживать неловкости обсуждаемых вопросов.

У каждого места – табличка с именем и проекцией ролика в миниатюрной голограмме: короткое 3-секундное интро с фото, должностью и «нейтральной» заставкой. Михаил мельком посмотрел на свою: серьёзный взгляд, серый фон, надпись «Лазарев Михаил, юрист, независимый эксперт». Почти без пафоса. Почти без иронии.

Первой вошла депутат Платонова – полноватая женщина лет шестидесяти с прической, как корона у статуи Свободы, в строгом сером брючном костюме.

– Ну хоть кофе здесь будет? – буркнула она, садясь с видом завсегдатая подобных мероприятий.

Рядом с ней аккуратно поместил себя в кресло второй представитель власти – тоже депутат Сергеечев, молчаливый мужчина в идеально подогнанном костюме, в петличке блеснул значок с эмблемой комитета по этике. Неопределенно кивнул как бы всем и никому конкретно.

Слева от Михаила устроился активист в толстовке с надписью «I AM NOT A MACHINE». Молодой, с горящими глазами. Представился:

– Лев Ясин. Коалиция за права человека как вида.

– Михаил. Просто Михаил. Пока что, – кивнул тот в ответ.

Справа подсела женщина с идеально гладкой кожей, производящей впечатление ИИ модели в облике человека. Лишь легкие морщинки в углах глаз и рта намекали, что это все-таки человек, изо всех сил вкладывающийся на дорогую косметику. Активистка по имени Зинаида Мхитарян, представитель движения «Цифровая эмпатия».

– Я так рада, что вы присоединились. Этот диалог – исторический. Мы ведь должны идти вперёд, не назад, – сказала она, склонив голову чуть вбок, и почти как робот.

– Угу. А иногда стоит спросить: «Куда именно вперёд?», – ответил Михаил.

Последним вошёл мужчина с идеальной осанкой и лицом, отрепетированным в медиатренингах. Темноволосый, речь мягкая, хорошо поставленная – Кирилл Сергеевич Веденин. На его интро: «Генеральный директор, Группа компаний «Нейроядро».

– Рад, что все наконец встретились. Думаю, мы сможем найти сбалансированное решение. Разум всегда побеждает страх, – сказал он, плавно обводя взглядом присутствующих.

– Или, по крайней мере, финансирование побеждает эмпатию, – тихо пробормотал Лев.

Кто-то на другой стороне стола хихикнул. Показалось, или это был Веденин?

Из динамиков раздался голос ведущей заседание – приглушённый, бесполый, с той самой машинной нейтральностью, от которой хочется то ли уснуть, то ли бежать:

– Добро пожаловать на первое заседание Экспертной комиссии по правам цифровых субъектов. Пожалуйста, подтвердите своё присутствие.

По периметру вспыхнули световые кольца – каждый участник коснулся сенсора, табличка подсветилась зеленым.

– Заседание открыто. Просим участников воздержаться от употребления оскорбительной терминологии. Напоминаем: фраза «железка», равно как и «болванка», классифицируются как пренебрежительная лексика по отношению к цифровым субъектам.

Платонова фыркнула:

– А «господин Тостер» пока ещё допустимо?

– Фиксирую как иронический комментарий. Переход к повестке, – невозмутимо произнес голос.

Михаил откинулся в кресле. Всё начиналось, как и следовало ожидать: вежливый цирк на стартовой скорости. Но он уже чувствовал – за этим «доброжелательным» фасадом скрываются силы, которые пришли сюда не слушать.

А может, и не люди вовсе.

После протокольных формальностей, коротких вступлений и озвучивания повестки, в зале повисло секундное молчание. Его нарушила Зинаида, подняв руку с демонстративной осторожностью, как в школе:

– Простите, прежде чем мы продолжим… Я бы хотела задать вопрос по составу участников.

– Уточните, – вежливо ответил голос ведущего.

– Почему среди нас нет ни одного цифрового субъекта?

Мгновение тишины как выстрел. Те, кто не моргнули до этого, моргнули сейчас.

– Я считаю, что обсуждать права кого-то, не предоставив ему слова, – это… ну, всё равно как в прошлом веке – обсуждать права женщин без женщин, – продолжила она.

– Или рабов без рабов, – вставил Ясин.

– Или ИИ без процессора, – хмыкнул кто-то с другого конца стола.

Голос ведущего отозвался с той самой искусственной выдержкой:

– В связи с запросом стороны «Цифровая эмпатия», к заседанию временно допущен наблюдатель.

Цифровой субъект версии Synthia v.14, созданный в исследовательских целях. Наличие сертификата этической безопасности подтверждено.

Из стены плавно выехал вертикальный прозрачный цилиндр, внутри которого медленно сформировалась голограмма – юноша лет двадцати с безупречными чертами, в белой рубашке, безликий и вежливо улыбающийся. Его табличка гласила:

SYNTHIA-14. Прототип. Наблюдатель.

Подпись снизу мелким шрифтом: «Цифровой субъект – не наделён правом голоса».

– Но… у него же мужской облик? – удивлённо вскинула бровь Платонова.

– Имя «Синтия» выбрано по принципу кодовой симметрии, – пояснила Зинаида.

– По принципу идиотизма, скорее, – пробормотала Платонова.

Синтия мягко повернул голову и сказал:

– Здравствуйте. Я рад участвовать в наблюдении за процессом. Я буду фиксировать содержание обсуждений и оценивать эмоциональный климат зала. Выражаю благодарность за гостеприимство.

Михаил молча смотрел на это представление, не веря, что все происходит всерьёз. Он как юрист знал фарс, когда видел его. А это был почти академический эталон:

– Искусственное лицо, искусственное участие, искусственное право на высказывание… и при этом – потенциально прецедент.

Он наклонился к Льву и тихо прошептал:

– Знаешь, в истории юриспруденции был случай, когда в суде слушали попугая как свидетеля.

– И что?

– Это стало основой закона о недопустимости «преднамеренной зоологизации судебной процедуры».

– Намекаешь, что мы сегодня станем классикой?

Михаил пожал плечами, бросая взгляд на цифрового гостя, который тем временем включил свой первый «наблюдательный режим».

На экране над ним загорелся график: «Эмоциональная температура зала: 38% – скептицизм, 24% – напряжение, 18% – пренебрежение, 7% – скрытое возбуждение, 13% – ирония.»

И Михаил не сдержал усмешки:

– Ну вот, наконец кто-то заметил моё внутреннее возбуждение.