Гибридная цивилизация. Москва (2020) – Горный Алтай (2022)

© Виталий Недельский, 2022

ISBN 978-5-0056-0792-8

Создано в интеллектуальной издательской системе Ridero

ОГЛАВЛЕНИЕ

Введение. Зачем и для кого эта книга.

Глава 1. Что происходит с искусственным интеллектом сегодня?

– Примеры использования

– Медицина и Биотех (диагностика, разработка лекарств, лечение, операции, выращивание органов)

– Беспилотный транспорт

– Управление городами и производствами

– Управление войной

– Извлечение знаний и аналитика

– Ассистенты

– Юристы

– Секс

– Финансы

– Социальные сети и реклама

– ИИ-кентавры

– Затруднения

– Предвзятость ИИ алгоритмов

– Проблемы с обучением

– Этика/или как наказывать за убийство?

– Люди сами не знают, что такое разум и интеллект

– Доверие к ИИ

– Гонка ИИ

– Направления исследований

– Прогнозы фантастов и футурологов/Будущее не похоже на прошлое.

– Границы возможного/Трансформационный потенциал ИИ

Глава 2. Что происходит с людьми сегодня?

2.1 Образование

2.1.1 Новая нефть – это не данные, а таланты

2.1.2 Изменения образовательного ландшафта

2.1.3 Как можно учиться в столь быстро меняющейся реальности?

2.1.4 Почему люди глупеют?

2.2 Бизнес и экономика

2.3 Государственное управление и политика

2.4 Психика человека

2.5 Психология толпы/масс/коллективов

Глава 3. Эволюция цивилизации

3.1 Типы цивилизаций

3.2 Слияние и взаимопроникновение цивилизаций через технологии и культуру

3.3 Формирование единой общей цивилизации людей

3.4 Формирование общей цивилизации/симбиоза людей и разумных машин

3.5 Новые вызовы и новые возможности этого тысячелетия

Заключение. Что мы узнали и чего мы не узнали. Что делать?

«Истина – свобода души. Мы очень молоды в нашей молодой вселенной и часто не оправдываем ожиданий и теряем честь, пусть даже только в темных углах сознания. Мы деремся, вместо того, чтобы танцевать. Мы стараемся обогнать других, обманываем друг друга и наказываем ни в чем не повинную природу.

Но это не выражает нашей сущности, это просто то, что мы делаем в мире, который сами для себя создали, и ничто не мешает нам в любую секунду изменить то, что мы делаем, и мир, который мы создали.

Во всех действительно важных делах мы едины. В любви и вере, доверии и сочувствии, отношении с близкими и друзьями, закатах и благоговейном пении, в каждом желании, рожденном человечеством, мы едины. Человеческая раса на данном этапе ее судьбы – это ребенок, бездумно и бессмысленно дующий на одуванчик. Но ощущение чуда, испытываемое ребенком, это наше общее ощущение, и нет предела добру, которое мы можем творить, когда человеческие сердца соединяются. Наша истина, наша история и значение слова «Бог» в том, что мы едины. Мы едины. Мы едины».

Шантарам Тень Горы. Грегори Дэвид Робертс.¹

ВВЕДЕНИЕ. ЗАЧЕМ И ДЛЯ КОГО ЭТА КНИГА

В прошлом 2019 году я написал и издал книжку под названием «БезЧеловечный бизнес или как выживать в эпоху перемен». В нее вошли материалы из моих лекций последних лет, заметки и мысли, накопленные за время занятий высокими технологиями. Там есть немало про роботов и искусственный интеллект, про долголетие и связанность людей друг с другом, про эволюцию мозга и технологий, промышленные революции и интернет вещей. Из наиболее важного для меня, я бы выделил мысли про роевый интеллект человечества и роевую цивилизацию, страхи людей перед тотальной роботизацией и возможности, которые уже сегодня позволяют продлевать жизнь вдвое по сравнению с жизнью всего лишь одну сотню лет назад. Это воистину чудо. Но еще большим чудом является, на мой взгляд, то, что мистики древности назвали бы Деревом Жизни, наш великий соотечественник Владимир Иванович Вернадский называл Ноосферой, а техно-гики начала XXI века называют приближающейся Сингулярностью. Все эти явления объединяет глубокая и сложная связанность всего мироздания, растущая сложность и спутанность, эволюционирующая Жизнь, где биология сливается с остальной материей на квантовом уровне. В той книге я коснулся эволюции нашего вида – кроманьонцев, и нашего изумительного мозга – величайшей, и пока неразгаданной тайны. Так, в сплаве эволюции и технологий, состоялся небольшой разговор о том, куда мы, как люди, идем. Откуда мы пришли и как мы выращиваем из своего мозга инструменты преобразования Земли и новые коммуникации всех со всеми. Разговор лишь начался, у него много граней и много уровней. Всех точно не коснуться и не объять. Как наше восприятие берет лишь мизерную часть спектра излучений в видимом диапазоне, захватывая немного ультразвука и инфракрасного света, так и наш разговор о настоящем и будущем будет немного спонтанным, выборочным. Выбор определяется жизненным опытом автора и прочитанными книгами, временем на размышления и разговорами с думающими друзьями, вопросами на лекциях и тревогами о грядущих рисках. Это лишь беседа, а не конечное знание, и тем более не проповедь. Проповедующие часто осуждают других. Я же говорю о том, что «других» нет вовсе. Мы все единое целое.

Когда-то уже довольно давно, в круглом 2000-м году я защитил в МГУ на философском факультете диссертацию по политологии². Политология получилась случайно, только потому что я, выпускник инженерного космического и экономического факультетов МАИ (Московский авиационный институт) познакомился с Александром Сергеевичем Панариным, который возглавлял именно кафедру политологии. Был бы он социологом или культурологом – я бы оттуда смотрел на цивилизацию и этим срезом модулировал бы свою диссертацию.

Поступление в аспирантуру и написание кандидатской стало хорошим поводом для общения с этим незаурядным человеком, ученым, ярким оратором и писателем³. А какие тосты он генерировал на банкете по случаю моей защиты! Однако, просто обобщить разные прочитанные книжки и статьи в диссертацию мне показалось слабым, и я задумался на тему того, что же делает политические государственные системы живыми? Это же живые образования, состоящие из живых клеточек – людей, с их планами, мечтами, честолюбием и страхами. Что может показать нам куда двигаются эти системы – к смерти или к жизни? Становятся ли они более сильными и живыми, или постепенно теряют силы и соки, медленно умирая? Поскольку сроки жизни государственных систем гораздо больше, чем жизни отдельных людей, часто в течение даже десятилетий сложно понять, к чему ведет та или иная политика вождей или политических партий. Что стоит за долгосрочными стратегическими планами или тактическими ходами и самое главное – к чему на самом деле они могут привести? Бывает ли так, что решение сиюминутных тактических задач, выгодных конкретным людям или группам, приводит через шаг к гибели всего организма? Так болезнетворный микроб может убить большой организм, всего лишь добывая себе пропитание и размножаясь. Этот вопрос и размышления привели меня к мысли, что можно взять две теории – развития технических систем и теорию биологической эволюции, одна про эволюцию сложных систем, другая про развитие жизни, и попробовать спроецировать критерии развития или увеличения количества жизни на системы политические. Например, рост разнообразия и сложности, свободное протекание информации, ненасильственный выбор, созидательное разрешение конфликтов, гуманизация сознания, исторический оптимизм, развитие науки и образования – лишь некоторые критерии, указывающие на развитие системы и рост ее жизнеспособности. Они распределялись по трем блокам – политическому пространству, достойным способам изменений и блоку жизнеспособности и устойчивости политической системы.

Развитие людей, организаций и целых государств часто идет через кризисы. Несмотря на неприятные ассоциации, кризисы имеют все шансы называться воротами в лучшее будущее, при условии, что мы умеем ими пользоваться. Это умение – тоже признак зрелости. Расплакаться или всех расстрелять при появлении проблем – это детсадовский уровень сознания, личного или государственного. Проблема не исчезает и научения не происходит. Она вернется еще и еще, и будет возвращаться до тех пор, пока мы не поймем, что шишка на лбу образовывается не от неправильно стоящего косяка, а от того, что мы все время не успеваем вовремя наклонить голову. Но спасительное умения относиться к кризисам, как к возможностям понять нечто важное и измениться – вот дар Природы нам, гибким и подвижным как вода существам, способным приспосабливаться самим и менять окружающее пространство. В каждом кризисе, как к хорошо поставленном вопросе, всегда содержится зерно будущего состояния, которому надо лишь помочь прорасти. Более того, как гравитация указывает зерну направление роста, к солнцу вверх и корнями к воде вниз, так и неудобство кризиса показывает нам направление, в каком стоит думать над изменениями. Больные места становятся видны. Нездоровые отношения становятся невыносимы. Заскорузлые институты перестают отвечать требованиям времени. Все это маяки, указывающие путь. Надо лишь набраться смелости и пуститься в плавание.

Эта книга для тех, кто черпает кризисы полной ложкой. Кто переходит из одного кризиса в другой, и если они похожи, задумывается – что я пропустил? Это книга для тех, кто старается осознавать себя, как развивающееся существо, кто хочет завтра быть сильнее и счастливее, чем вчера. Становясь старше, мы теряем часть физических возможностей. Например, быстро бегать или заниматься любовью сутками. Но теряя нечто, мы получаем взамен лучшее, если захотим. Мы начинаем понимать, что именно нам нужно, и теперь не надо быстро бежать в неправильном направлении. Мы ценим отношения, и теперь любовь – это не только секс. Мы сами становимся больше, а для счастья нам нужно меньше, и это неплохо.

Технологии не являются панацеей от всех бед. Более того, может случиться так, что технологии, решая одни задачи, приносят с собой новые проблемы. Это лишь инструменты, которые кроманьонцы учатся использовать, чтобы делать свою жизнь немного лучше. Но что такое лучше? Конечно, сначала идут задачи выживания – еда, вода, тепло. Но когда это все есть, что дальше? Направлений развития может быть множество. Можно строить технократическую цивилизацию, где любое желание человека будет немедленно удовлетворяться. Как у Жванецкого, тьфу – плевательница. Возникает новая проблема – нечего желать. И еще одна – атрофия врожденных способностей за ненадобностью, поскольку ничего не надо добиваться. И как следствие – гибель. Значит ли это, что не надо совершенствовать технологии? Думаю, что не значит. Пространство возможностей лежит между полюсами дауншифтинга и постоянной борьбы за жизнь. В качестве вдохновляющей меня фразы и завершая вступление, приведу слова одного из ведущих китайских стратегов в области искусственного интеллекта Кай Фу Ли: «Искусственный интеллект появился здесь, чтобы освободить нас от рутинной работы, чтобы сделать нас людьми, чтобы помочь нам любить друг друга»⁴. Этими словами я закончил свою первую книгу и ими же, как мостиком, хочу начать следующую.

ЧТО ПРОИСХОДИТ С ИСКУССТВЕННЫМ ИНТЕЛЛЕКТОМ И ЛЮДЬМИ СЕГОДНЯ?

ПОЧЕМУ ИМЕННО ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ?

Из всего возможного спектра технологий, которые бурно развиваются сегодня, я выбрал в качестве драйвера изменений в цивилизации искусственный интеллект (ИИ). Причин несколько. Одна из причин – я вместе с партнерами и коллегами развиваю компанию, которая использует искусственный интеллект в одной из наиболее проблемных зон здравоохранения – редких заболеваниях⁵. Мне бы хотелось получше разбираться в этой области. Вторая причина – человеческий интеллект привел нашу цивилизацию в эту точку времени и развития. Усиленный рычагом искусственного интеллекта, наш разум совершит рывок, выводящий нас за сегодняшние пределы. Таким образом, возможно, это одна из ключевых технологий новой промышленной революции. Некоторые сравнивают его с открытием электричества по масштабу воздействия. Но и электричество еще в полной мере себя не показало, например, его восшествие на престол в транспорте вместе ДВС (двигателя внутреннего сгорания) еще только предстоит в ближайшие 25 лет. Сергей Шумский в своей книге⁶ (Шумский, 2021) пишет, что «ИИ является замыкающей технологией, открывающей возможность перехода к новому технологическому укладу». Третья причина – философско-эволюционная. Я вижу, как объединяется человечество путем глобализации экономики и политики, как интернет соединяет наши умы и чувства, как транспорт сделал земной шар маленьким. Думаю, что ИИ послужит клеем, который соединит людей не просто нитями коммуникаций и обмена лайками, а на гораздо более глубоком уровне нейронных связей, где накапливается знание и память. Процесс соединения людей в человечество – единое существо, а не разрозненных и враждующих между собой людей, подразумевает создание общего разума, общего сердца, общей системы принятия решений, общего целеполагания и поиска ответов на такие вызовы, которые могут уничтожить наш молодой и слабый вид, живущий на маленькой кислородной планете около желтого карлика в дальнем рукаве Галактики Млечный Путь. Речь не идет о слиянии всех со всеми и потере индивидуальности каждого из нас. Речь не идет о создании «Матрицы», в которой мозги и нервные системы людей запитывают нечто более могущественное. Ближайшими и неточными аналогиями, которые приходит в голову являются клетки дерева и само дерево, пчелы и пчелиный рой, горожане и город, граждане и государство, люди и человечество. Я думаю, что постоянно развивающиеся различные ИИ, решающие все более сложные рутинные задачи, на основе обучения, будут образовывать с людьми симбиотические связи – сначала профессиональные, затем личные, а потом и общественные. Речь идет о следующем витке антропогенеза, вслед за открытием огня, благодаря которому термически обработанная пища стала легче и безопаснее перевариваться, а уменьшение нагрузки на пищеварительную систему позволило расти и развиваться мозгу за счет высвобождение энергии и времени. За огнем я бы поставил различные механические инструменты – топор, плуг, рычаг и блок из обработанных металлов, что дало мощный прирост возможностей людей. Благодаря такого рода инструментам мы смогли строить города и добывать себе пищу новым способом, гораздо более продуктивным. Человеческие племена выросли с нескольких десятков людей до сотен миллионов. А это уже совсем другой коленкор. Огнем мы помогли своим внутренним органам. Железными инструментами мы помогли своим мышцам. А с помощью ИИ мы помогаем своему разуму. Наш же разум помогает нам понимать и осваивать окружающий нас мир. Как пишет Рэй Курцвейл в завершающей фразе книги «Эволюция разума» – «Но при любом варианте развития событий разбудить Вселенную и разумно распорядиться ее судьбой с помощью нашего человеческого разума в его небиологической форме – это наше предназначение»⁷.

И вот сегодня началось массовое применение новых интеллектуальных и когнитивных инструментов. С помощью ИИ мы снова можем помочь своим внутренним органам – через медицину нового поколения, о чем поговорим ниже. Далее, через создание новых инструментов – роботов и другого интеллектуального оборудования помогать нашим рукам. И еще дальше – через создание новых способов добывать и накапливать знание, ключевой ресурс цивилизации, мы поможем развивать нашу разумность. И я бы добавил еще одно – важное. Освобождение человека от выживания, от отупляющей рутины, дает ему возможность развивать в себе человеческое, даже так – лучше понять свое человеческое. Что отличает нас от роботов и от ИИ? Что мы делаем лучше сейчас и будет делать лучше в будущем? В этом давайте разберемся.

ИИ КЕНТАВРЫ

Одно из наиболее значимых событий в области ИИ для меня в прошлом году была статья Сергея Карелова в Medium, где он ведет колонку⁸. Я не знал про это. Когда в 1996—97 году Гарри Каспаров впервые в истории человечества начал соревноваться с компьютером с позиции чемпиона мира, то случилась интересная история. Сначала он выиграл, потом было три ничьих, а потом проиграл. Играл он с машиной (ИИ) Deep Blue IBM.

Когда проиграл, разумеется, как горячий кавказский парень, сразу потребовал матч-реванш. Но инженеры IBM уже складывали оборудование в коробки и отказались, им было достаточно полученного пиар-эффекта «#ПобеданадчемпиономМира». И тогда Гарри придумал новый чемпионат, который немедленно и объявил. Пусть через год приходят команды шахматистов и шахматных программ. Никаких ограничений. Единственное – правила игры остаются шахматными. И вот собрался этот странный чемпионат, поиграли и получили на первый взгляд неожиданный результат. Победила не команда, укомплектованная сильнейшими гроссмейстерами, усиленная самыми лучшими на тот момент шахматными ИИ, да на самых мощных компах. Нет. Победила команда из двух шахматистов-любителей с тремя разными средней руки шахматными программулинами. А почему? А потому что они поняли, как правильно играть командой. Они задавали вопрос насчет следующего хода. Если мнение игроков-людей и игроков-программ совпадало – отлично, ход готов! Если нет, они задавали уточняющий вопрос. И так могли делать несколько раз, пока снова не достигали консенсуса. Как сказал Гарри Каспаров в своей книге «Deep Thinking»⁹ и в последующем интервью Talks to the Google¹⁰ – есть три составляющие: люди, компьютеры и интерфейс, и последний наиболее важен¹¹.

То есть, получилось как в футболе – хорошо сыгранная и дисциплинированная команда из среднего класса игроков обычно побеждает команду со звездой в своем составе. Связана такая особенность с тем, что интеллект не одномерен. Можно придумать много «линеек» разных типов, которыми можно было бы измерить различные виды интеллекта. Интеллект специализируется на тех задачах, под которые он был создан – охота ли это или спасение от хищников, запоминание схронов пищи, решение математических задач или сочинение музыки. «Например, гроссмейстеры сильны в построении долгосрочной стратегии в шахматах, но не в состоянии обозреть наперед миллионы возможных ходов, в то время как обратное верно для шахматных AI. И поскольку люди и AI сильны в разных измерениях интеллекта, объединившись в шахматных кентавров, они могут побеждать и людей, и суперкомпьютеров»¹².

Вспоминается в связи с этим еще одна история, блестяще описанная в книжке Майкла Льюиса «Человек, который изменил все», и в одноименном фильме, где Бред Питт играет менеджера небогатой бейсбольной команды Окленд Атлетикс. Он впервые в истории бейсбола начал использовать статистику того, как играют игроки. Как они подают, как ловят мяч, как быстро бегут. Обычно селекционеры выбирают игроков за их богатырскую стать и красивую внешность. Эффектная игра также очень хорошо сказывается на стоимости игрока и его зарплате. Но если смотреть на статистику, то найдутся внешне неказистые ребята с хорошими результатами в каждом отдельном способе играть. На них меньше обращают внимание, они теряются на фоне звезд, они стоят дешевле. У Окленд Атлетикс не было больших бюджетов и деваться было некуда. Понадобился лайфхак, при котором команда могла отбирать недорогих игроков, которых другие команды отвергали из-за их небогатого внешнего вида. Вскоре команда достигла отличных результатов за небольшие деньги и начала рвать лидеров чемпионата. Посмотрите фильм, Бред Питт хорош. И хотя главное, на чем он сыграл – это недооцененность игроков со средними внешними данными (или наоборот, переоценённость красавчиков, хотя с другой стороны – это же шоу-бизнес), но для меня важная аналогия – это взаимодополняемость игроков, каждый из которых хорош в чем-то своем, и их взаимодействие, сыгранность, которая позволяла этому каждому раскрыть свой талант. По большому счету – это модель нашего будущего, всех людей. Раскрыть свой талант как можно раньше, развить его как можно дальше, и встроиться с ним в команду, где этот талант позволит достичь выдающегося общего результата. Это связано в том числе с разделением труда, которое так славно описывает Петр Щедровицкий в своих лекциях¹³, а также с ранним определением способностей, описанным Борисом Акуниным¹⁴ в Трезориуме. Таким образом, важно отметить, что хорошо бы иметь гениальные мозги, еще лучше иметь продвинутую технику с крутым ИИ на борту. Но самым главным может оказаться процесс их координации, создание «сыгранности» для решения конкретных классов задач. А вот это уже творческая задача, а даже вполне может быть, одна из профессий будущего. Этакие продюсеры кентавров. Надо подумать, как лучше их назвать и какие требования могут быть к таким людям. Как минимум и одновременно – хорошее знание психологии, социологии и алгоритмов ИИ. Если немного точнее, надо хорошо разбираться в сильных и слабых сторонах людей вообще и конкретных участниках команды в частности. А также в сильных и слабых сторонах различных ИИ.