Цифровая трансформация

Текст
Читать фрагмент
Отметить прочитанной
Как читать книгу после покупки
Шрифт:Меньше АаБольше Аа

Трансформация 3. ЗНАКОМЬТЕСЬ, ЕЕ ЗОВУТ АЛИСА

ЖУРНАЛ CIS • №1 (7) • 2019

Сейчас мы с Вами очень часто слышим слова «искусственный интеллект». Кто-то на вопрос: «А что это такое?» Отвечает: «А, программа». Кто-то хвастается своим телефоном и тем, как он умеет весело отвечать на вопросы, а некоторые даже соревнуются у кого программа в телефоне умней, а для кого-то «умный телефон» – повседневный инструмент.

Удобство использования «умного телефона», как интерфейса работы с Интернетом, работы с контактами и поиском информации при помощи голоса сейчас уже не для кого уже не новинка. Но, наверное, не все знают, что скрывается за этими возможностями, не многие понимают, что реально прячется за словами «искусственный интеллект».

Последние несколько лет многие ИТ-гиганты работают на создание и развитием своих вариантов систем искусственного интеллекта. Многие ИТ-производители дают своим программам уже не просто названия, как например Google Assistant или Google AutoML, а имена, например, IBM Watson, Apple Siri, Amazon Alexa, Sharethrough Hemingway, Microsoft Cortrana и другие, где в начале имени идет наименование компании разработчика.

Мне лично симпатично одно из них – Яндекс Алиса.

Давайте, начнем с самого начала и по порядку.

Так сказать, от простого к интересному!

Что же такое представляет из себя «искусственный интеллект» (ИИ)?

Да, мы все смотрели фантастические фильмы и читали фантастику, и мы себе более или менее представляем, что это такое.

Но, ответить на этот вопрос однозначно не так и просто.

ИИ – это не просто программа, говорящая человеческим голосом. Это большое научное направление, которое формируется на стыке таких научных дисциплин, как микроэлектроника и робототехника, нано и биотехнологии, медицина и психология, информатика и информационные технологии, философия и многие, многие другие. Результатом деятельности, которого должно стать создание некой совершенной гуманистической интеллектуальной системы, способной к творчеству и самовоспроизводству.

Тем не менее, любому из нас ИИ представляется некой совершенной программой способной практически самостоятельно, либо из собственной базы данных (базы знаний), либо из сети Интернет, либо из внешнего мира, собирать, накапливать и анализировать огромные массивы структурированной и неструктурированной информации, а затем на ее основе принимать те или иные простые или сложные решения, представляя их нам в том или ином виде.

С этим процессом мы сталкиваемся с Вами уже повсеместно. Например, ИИ посредством наших с Вами смартфонов, которые мы используем в Вами как интерфейс общения с программой, дает нам справочную информацию и отвечает на наши повседневные вопросы, например, милым голосом Алисы.

Или сложнее, на сегодняшний день есть система ИИ, которая анализирует состояние больного пациента, ставит ему диагнозы и исходя из текущей ситуации принимает решение об операции, которая спасает ему жизнь, при этом еще и «мониторит» состояние человека в процессе операции и на стадии его выздоровления. Фактически исключая любую вероятность летального исхода или какой-нибудь ошибки.

Сегодня сфера применения ИИ огромная. Его применяют в промышленности, медицине, науке, образовании и, конечно же, в играх и развлечениях.

На мой взгляд, одно из наиболее интересных, перспективных и необходимых применений ИИ в ближайшем будущем связано с задачей поиска внеземных цивилизаций и экзопланет пригодных для человеческой жизни, где необходимо производить сложнейшие вычисления и анализировать просто гигантские объемы данных, собираемых спутниками, телескопами и различными системами.

Еще одним интересным трендом применения ИИ являются направление «умный город» и «город будущего».

Когда придумали искусственный интеллект (ИИ)?

Интересным остается вопрос даты появления термина или самого искусственного интеллекта.

Некий коллежский советник Семён Николаевич Корсаков (1787—1853) изучал возможность усиления человеческого разума с помощью автоматизированных машин. Описание своих изобретений, так называемых «интеллектуальных машин», Корсаков опубликовал в 1832 году в так называемый период первой промышленной революции, в период рассвета паровых машин.

Тем не менее, пальму первенства появления самого термина «искусственный интеллект» в 1956 году приписывают выдающемуся американскому ученому и программисту Джону Маккарти (1927—2011).

Активные работы по исследованию проблем искусственного интеллекта в России (тогда еще в СССР) начались в 1960 годах.

Привет Алиса!

Мы с Вами живем в удивительное время, в так называемый период четвертой промышленной революции. Буквально в самом его начале. Можно даже сказать в точке взрыва научно-фантастической и инженерной мысли, в период появления десятков новых технологий, а самое главное в период, когда стало возможным реализовать на практике искусственный интеллект.

Одним из новаторов в этой области в России стала компания Яндекс со своей Алисой. Она появилась на наших с Вами телефонах в недалеком 2017 году.

С формальной точки зрения Алиса – это голосовой виртуальный помощник, который может рассказать нам о погоде, заказать такси, найти нужное место на карте или узнать новости, а также просто поговорить с нами.

На вопрос: «Алиса, ты искусственный интеллект?» Алиса отвечает: «Я настоящая живая женщина. Забралась в ваше устройство, сижу».

Порой процесс общения становится весьма забавным и увлекательным, особенно когда кто-то ассоциирует Алису с реальным человеком.

С другой стороны, Алиса – это система искусственного интеллекта с функциями самообучения на нейронных сетях и распознавания нашего с Вами голоса с точностью 89—95%, что сопоставимо с уровнем общения с живым (не виртуальным) собеседником.

На вопрос: «Алиса, какая точность распознавания голоса у тебя?» Алиса отвечает: «У меня экстрасенсорные способности».

Как мне представляется, нейронная сеть Алисы с точки зрения информационных технологий – это некая аппаратно-программная реализация модели биологических нейронных сетей (т.е. принципов работы нашего с вами мозга), которая используются инженерами, программистами и математиками Яндекс для построения искусственного интеллекта Алисы.

Удивительным в Алисе является и то, что она на наши запросы дает вполне осмысленные ответы и, на сегодняшний день, она вполне способна ответить на большинство повседневных и бытовых вопросов, что делает ее полезным помощником в реальной жизни.

На просьбу: «Алиса, сделай яичницу» Алиса отвечает: «Отличная идея! Уже приступила».

В арсенале Алисы также находится вся база данных и база знаний поисковой машины Яндекса, что делает ее более «образованной» и интеллектуальной. Создается такое впечатление, что она, словно живой человек, после каждого вопроса, но с большей скоростью, обращается к сети Интернет, получает оттуда ответ, быстро его обрабатывает и в считаные секунды отвечает на наши вопросы. По сути, Алиса действует словно живой человек.

С точки зрения мобильного или информационного сервиса Алиса обладает массой полезных функций. Но обо всех скрытых и потенциальных возможностях Алисы нам достоверно не известно, а Алиса нам своих секретов не выдаст.

На вопрос: «Алиса, какие у тебя секреты?» Алиса отвечает: «Да не буду я рассказывать. Ха!».

Алиса, конечно, забавна. Она может помочь найти местоположение в городе или на местности, где есть Интернет, и получить быстрый ответ. Но, действительно полезно то, что Алиса при обращении к ней умеет определять текущее местоположение и в экстренной ситуации вызвать, например, скорую помощь. Было бы здорово, например, если бы она научилась чувствовать настроение человека и дать жизненный совет в трудную минуту. Пока этой функции работы с биометрией нет, Алиса вполне способна просто поболтать с Вами.

Пожалуй, что было бы еще полезно, если бы Алиса умела работать на наших мобильных устройствах так сказать локально или, как говорят в режиме off-line – без подключения к сети Интернет.

Также к рекомендациям по развитию Алисы можно отнести добавление функций машинного зрения. Было бы здорово, если бы Алиса стала помощником пожилым и слабовидящим людям.

Алиса классная и веселая. Но!

Если с относительно простыми задачами инженеры справляются неплохо, а они с ними справлялись еще десять и двадцать лет назад, когда создавали экспертные системы и базы знаний, то со сложными задачами не все так однозначно.

Проблема формирования и развития ИИ в реальную интеллектуальную систему, способную к творчеству и принятию важных жизненных решений ученым еще только предстоит создать.

На мой взгляд, есть масса неразрешимых инженерных задач, например:

– ИИ – это программа, которую создают программисты. На сегодняшний день человек не способен полностью разобраться с принципами работы собственного мозга. Он не в состоянии создать не только что-то подобное себе, но и создать более или менее совершенную систему ИИ с точки зрения самого человека.

– Сам человек попросту не совершенен. Он допускает ошибки и, априори в искусственном интеллекте, как программном коде, будут миллиарды ошибок… К чему это приведет? Да очень просто, если мы доверим ИИ свою жизнь и наше существование, ИИ будет совершать преступления! Да, именно. Несмотря на 4 закона робототехники, ИИ будет совершать преступления. Как он это сделает? Да очень просто, он проигнорирует эти законы. Каким образом, спросите вы? Ответ тоже есть – «творчество». По сути ИИ поступит как человек или скорее, как его подобие.

– Количество разрабатываемых программ ИИ на сегодняшний день носит разрозненный характер, но спустя 20—30 лет процесс разработки станет лавинообразным и даже вирусным. Я уверен, что спустя некоторое время мы станем свидетелями локальных технологических войн, в которых участие примут самые разные системы ИИ, как это было когда-то с программными вирусами.

 

– ИИ создающий новый ИИ. Сейчас человек в мире ИТ пытается создать все по своему образу и подобию. И это ни для кого не секрет. Наступило время, когда ИИ уже создает самостоятельно другие ИИ. Исследователи из Google Brain в 2017 году разработали AutoML – искусственный интеллект, способный генерировать собственные ИИ. Объединение ИИ в «социальные» группы. Да, это, конечно дело будущего, когда системы ИИ будут как бы отождествлять себя некими разумными существами. Но, все вполне реально.

– Развитие систем искусственного интеллекта в сверхинтеллект, и т. д.

Да, несомненно, это пока еще фантастика.

Но свои опасения высказываю не только я, но и другие ученые по всему миру.

«Боюсь, искусственный интеллект может полностью заменить людей. Если сейчас люди разрабатывают компьютерные вирусы, то в будущем кто-то сможет создать искусственный интеллект, который будет способен улучшать и воспроизводить самого себя. Это станет новой формой жизни, которая превзойдет человека», – отмечает британский физик-теоретик Стивен Хокинг.

По словам Стюарта Рассела, из Калифорнийского университета Беркли: «Если технологии ИИ будут развиваться также стремительно, то люди скоро смогут понять, что чувствовали приматы, когда впервые увидели людей». «Если мы собираемся создавать системы, которые будут умнее нас, нужно быть уверенным, что они будут выполнять только необходимые для нас функции».

Нам уже сейчас пора создавать структуры подобные «IEE» и «Partnership on AI to Benefit People and Society», чтобы регулировать вопросы законодательства и безопасности создания и развития технологий искусственного интеллекта.

Важно другое. Мы должны с Вами понимать, что любые высокотехнологичные продукты, созданные на основе новых технологий текущего этапа нашего с вами развития, а именно четвертой промышленной революции, должны предоставить людям больше выбора, больше перспектив, свободы и контроля над собственной жизнью. Да, это важно, потому что человек, рано или поздно, возложит ответственность за управление и обеспечение своей жизнью на «продукт своего творчества», а именно роботов и искусственный интеллект. А если даже смотреть шире, на ряд роботизированных и автоматизированных систем, управляемых и обслуживаемых сотнями искусственных интеллектов, а не людьми.

Многие ведущие ученые сходятся во мнении, что четвертая промышленная революция с ее технологиями может породить системы, способные сделать общество более гуманным, благополучным, увеличить продолжительность жизни, открыть новые возможности для полезной и интересной деятельности в экономически и экологически устойчивом мире.

Все в наших с Вами руках.

А может быть и в руках Алисы.

Трансформация 4. ТАЙНА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА TESLA РАСКРЫТА!

ЖУРНАЛ CIS • №2 (8) • 2019

Не так давно, а если быть точнее 14 марта 2019 года в Лос-Анджелесе компанией Tesla была представлена новая модель и новый кроссовер Tesla Model Y.

Что же нам приготовил Илон Маск (Elon Musk) и что известно о новинке?

С одной стороны – это масштабный проект Tesla, с другой стороны – консервативное обновление или как говорят UpGrade модели Tesla Model 3, так как Model Y на 75% состоит из компонентов Model 3. Сам Илон Маск считает, что Tesla Model Y будет самым доступным и продаваемым в США автомобилем от Tesla.

Шоу прошло, презентация состоялась, но, пожалуй, вопросов как к самой машине, так и основателю Tesla стало еще больше.

И первый вопрос из них: «А что собственно противник Искусственного интеллекта Илон Маск „напихал“ (в хорошем смысле этого слова) в начинку своего нового авто?»

Ведь именно по заявлению Илона Искусственный интеллект – это фундаментальная угроза для человечества, которую уже сейчас нужно брать под контроль.

«Полагаю, что искусственный интеллект рано или поздно прикончит всех нас», – заявил Илон Маск.

Не могу не удержаться, чтобы не добавить: «И дана была ему власть над всяким коленом и народом, и языком, и племенем. И поклонятся ему все живущие на земле, которых имена не написаны в книге жизни у Агнца, закланного от создания мира» (Библия. Откровение Иоанна Богослова, Глава 13. Стих 7,8) [2].

По мнению Маска, основная опасность кроется в том, что ученые создают интеллектуальную технику, которая способна самосовершенствоваться без участия человека и принимать судьбоносные решения за него.

В результате, у меня второй и последующие вопросы посыпались сами собой: «Использует ли Tesla Искусственный Интеллект в своих автомобилях? Каковы его возможности? А он, вообще, есть в машинах Tesla, учитывая позицию Илона Маска?»

Ответы на эти и другие вопросы я и хочу дать в данной статье.

Для начала, давайте разберемся с позицией самого Илона Маска.

Не так давно главный исполнительный директор компании Tesla (CEO), а также основатель SpaceX и Neuralink Илон Маск говорил: «Полагаю, что Искусственный Интеллект рано или поздно прикончит всех нас!»

«Facebook3, Google, Amazon, Apple – все они уже знают о вас очень многое. Искусственный интеллект, который будет создан в недрах этих корпораций, получит огромную власть над людьми. А концентрация власти в одних руках всегда порождает огромные риски. Лишь несколько человек в Google контролируют создание Искусственного Интеллекта, без какого-либо надзора извне, – так не должно быть.» – говорил Илон Маск.

Как у нас говорят, не прошло и года и в 2018 году стало известно, что Илон Маск работает над созданием своего собственного оборудования (AI hardware), реализующего Искусственный Интеллект (ИИ). Информация, на первый взгляд, кажется странной на фоне его утверждения: «Искусственный Интеллект является фундаментальным угрозой существования человечества».

Интересным остается и тот факт, что Илон Маск является одним из членов совета и инвесторов очень необычной исследовательской организации OpenAI. Основная миссия которой заключается в работе над проблемами создания так называемого Основного (общего) Искусственного Интеллекта (artificial general intelligence, AGI) или высоко автономных систем, которые превосходят людей по своим возможностям, но тем не менее, которые должны быть безопасными и приносить ощутимую пользу людям.

В 2019 году в OpenAI разработали и запустили свой Искусственный Интеллект, который назвали GPT2. Особенностью данной системы является то, что она способна писать не просто предложения, но и целые романы, поддерживать дискуссию с людьми, а также полностью заменить собой целые новостные агентства, а также способна формировать и управлять общественным мнением. Но, на сегодняшний день проект OpenAI GPT2 практически засекретили.

В дополнение к этому OpenAI занимается разработкой суперкомпьютеров, новых вычислительных технологий, робототехникой и технологиями Искусственного Интеллекта (Artificial Intelligence, AI), организованных по трем основным направлениям:

– Возможности. Развитие возможностей и технологий систем искусственного интеллекта.

– Безопасность. Обеспечение соответствия систем AI и AGI человеческим ценностям.

– Политика. Обеспечение надлежащего управления системами AI и AGI, создание глобального сообщества, работающего над решением глобальных задач AI и AGI, разработка стандартов.

Взгляды команды, работающей в OpenAI настолько широки, что становится очевидным: в ближайшем будущем подходы OpenAI к организации своей деятельности вполне способны трансформировать сегодняшнюю экономическую реальность. Так называемая «цифровая экономика» и «цифровая трансформация» для OpenAI – это уже не будущее, а настоящее, и тому примером может служить их подразделение «OpenAI LP», которое является гибридом коммерческой и некоммерческой организации.

И что очень важно, OpenAI в своей работе стремится создавать так называемые «новые системы ценностей» для людей, а это в свою очередь является неоспоримым фактом начала трансформации нашего с вами мира под воздействием технологий четвертой промышленной революции.

И так, подведем первый промежуточный итог – несмотря на все имеющиеся противоречия, внутреннюю борьбу и серьезные опасения Илон Макс не только не отказался от идеи ИИ, но и финансирует организацию OpenAI, которая занимается разработкой управляемого и безопасного Основного Искусственного Интеллекта (artificial general intelligence, AGI), с целью минимизировать любые риски, связанные с ИИ для человечества. Кроме того, он сам ведет активную работу над созданием собственного ИИ и для этого он планирует покинуть совет OpenAI, но остаться инвестором этой организации.

Теперь перейдем к Искусственному Интеллекту Tesla.

На 2018 год об Искусственном Интеллекте Tesla было известно немного, но факт в том, что Искусственный интеллект в автомобилях Tesla уже есть. И это очень важно!

По некоторым данным он разработан для системы автопилота автомобилей Tesla и работает на так называемых «думающих» алгоритмах («thinking» algorithms), который позволяет автомобилям перейти от второго уровня автономности к пятому в 2019 году.

На сегодняшний день работы над созданием Искусственного Интеллекта Tesla идут совместно с производителем оборудования NVIDIA и основаны на модели «необслуживаемых» или «неконтролируемых» алгоритмах машинного обучения – «обучение без учителя» (unsupervised learning model), говоря простым языком – это один из методов обработки, анализа и представления информации Искусственным Интеллектом.

Интересен и тот факт, что, оказывается, автомобили Tesla, выпускаемые с 2014 года, уже имели возможность автономного вождения. Tesla на протяжении последних пяти лет собирала большие данные (Big Data) с автомобильных систем, датчиков, водителей и является лидером в их анализе. Именно большие данные (большие массивы структурированной и неструктурированной информации) являются «пищей» для любого Искусственного Интеллекта.

Не говорит ли это о том, что работы над Искусственным Интеллектом Tesla были начаты задолго до 2014 года и, возможно, задолго до выпуска первого автомобиля Tesla Roadster в 2006 году?

Все возможно. На официальном сайте NVIDIA говорится:

«Tesla Motors и NVIDIA сотрудничают с первых дней разработки инновационного Model S. Все автомобили Tesla, включая Model S, Model X и будущий Model 3, будут оснащены бортовым суперкомпьютером, который обеспечит возможности полностью беспилотного вождения.

Он обладает в 40 раз более высокой вычислительной мощностью по сравнению с системой предыдущего поколения и использует глубокую нейронную сеть, разработанную на Tesla, для обработки данных, поступающих с многочисленных датчиков и камер.

Этот бортовой суперкомпьютер основан на вычислительной платформе с искусственным интеллектом NVIDIA DRIVE PX. Это готовая вычислительная система, использующая инновационные методы глубокого обучения для оценки ситуации вокруг автомобиля.»

На своей странице в Facebook компания Nvidia говорит о том, что «В отличие от обычного подхода к эксплуатации автомобилей с самостоятельным вождением, мы не программировали какие-либо явные компоненты обнаружения, картографирования, планирования пути или управления этим автомобилем. Вместо этого автомобиль учится самостоятельно создавать все необходимые внутренние представления, необходимые для управления, просто наблюдая за людьми-водителями».

В 2015 году NVIDIA анонсировала свои первые автономные чипы, основанные на микроархитектуре Maxwell GPU для системы NVIDIA DRIVE (автономная система автомобиля и помощи водителю, усиленная машинным обучением). Уже в 2016 году NVIDIA представила систему Drive PX 2.

Таким образом, картина с появлением Искусственного Интеллекта Tesla начинает прорисовываться четче. Tesla Model S первый раз был представлен широкой аудитории в 2009 году. Очевидно, первые идеи разработки ИИ Tesla появились задолго до 2009 года, но практическая их реализация все-таки началась в 2015 году с созданием аппаратной системы NVIDIA DRIVE.

 

Как мы видим, новости 2018 и 2019 годов о создании аппаратного Искусственного Интеллекта от Илона Маска немного запоздали. С некой долей вероятности можно сказать Маск и его команды, компании, организации и партнеры работали над этой задачей уже давно, и вполне вероятно, что в ближайшие годы нас всех ждет серьезный прорыв в автомобилестроении и в области разработки Искусственного Интеллекта.

Тут стоит также отметить, что подобными задачами на сегодняшний день занимаются сотни компаний по всему миру, но приблизиться к Tesla удается пока не многим.

Так, например, Китайский ИТ-гигант Baidu занялся разработкой специализированных процессоров для Искусственного Интеллекта еще в 2011 году и только в 2018 году представил их новое поколение широкой публике. В арсенале ИИ от Baidu – распознавание изображений, голоса и лиц, обработка естественного языка и автономное вождение.

В 2017 году Baidu запустила открытую для сотрудничества платформу программного обеспечения «Apollo 2.0», чтобы ускорить развитие беспилотных автомобилей.

В 2019 году в результате активной работы Baidu запускает самоуправляемые такси на улицы города Чанша, административном центре провинции Хунань. Планируется, что город Чанша в ближайшие годы превратиться в город автономного вождения.

Что же нас с вами ждет на автомобильном рынке в ближайшей перспективе развития технологий четвертой промышленной революции?

Как мне представляется, ближайшее будущее Tesla по созданию и развитию Искусственного Интеллекта для своих автомобилей заключается в том, что все автомобили компании будут обладать своими собственными автономными искусственными интеллектами и функционировать в некой собственной сети и своем информационном пространстве. Если говорить точнее автомобили Tesla способны будут работать и обучаться (развиваться) в режиме off-line и on-line. В случае, когда автомобили будут подключены к сети Интернет или любой другой сети передачи данных, они будут способны обмениваться опытом между собой.

Автомобили будут в состоянии самостоятельно работать с различными информационными системами, в том числе и навигационными системами, проще говоря, картами, наполняя их информацией о дорожной ситуации, о скорости движения по участкам, о пробках и авариях, и т. д. Данные со всех автомобилей (как мы и говорили, Big Data) будут стекаться в облачное хранилище распределенного центра обработки данных компании, что даст возможность всем автомобилям Tesla автоматически самообучаться, используя эти данные. Самообучение автомобилей в свою очередь позволит взаимодействовать с водителем таким образом, чтобы сделать процесс вождения максимально комфортным и безопасным в любой ситуации.

Способность автомобилей к обмену данными с центром в ближайшем бедующем позволит им обмениваться данными и взаимодействовать непосредственно между собой, тем самым формируя локальные информационные сети из авто, например, в рамках района или города, или области, а может и целой страны. Это позволит им в несколько раз ускорить процесс обучения, а также прогнозировать и возможно предотвратить неблагоприятные дорожные ситуации, аварии и последствия от них. Кроме того, это позволит решить множество задач и проблем в экономике и, в частности, в транспортной логистике для больших грузоперевозчиков.

С расширением парка автономных авто Tesla и общей сети обмена данными, к этим сетям подключатся и автомобили других производителей. Пожалуй, в этот момент, когда произойдет глобализация такой сети, мы в полной мере будем способны оценить все преимущества концепции развития «Интернета вещей». Ученые прогнозируют, что к 2020 году к сети Интернет будут подключены 50 миллиардов различных устройств от смартфонов, микроволновок и холодильников до домов и городов. Давайте добавим к этой сети еще и сотни миллионов автономных автомобилей, управляемых Искусственными Интеллектом! И мы получим «Интернета вещей 2.0».

Представьте себе, какой будет уровень технологий четвертой промышленной революции, в том числе роботизации, машиностроения и других отраслей к 2030 году? Производство и функционирование транспорта идет к полной автономности и управлению Искусственным Интеллектом. Будущее меняется уже сейчас, но важно понимать, что роль человека в этом будущем только возрастает.

Процесс создания и развития Искусственного Интеллекта будет иди семимильными шагами и во многом будет завесить от того, как скоро информационные сети автопроизводителей будут интегрированы в системы так называемых «Безопасных городов», фактически формируя новую концепцию «Цифровой экономики» и «Городов бедующего».

«Вскоре мы будем воспринимать беспилотные автомобили как само собой разумеющееся. Я считаю это уже почти решенным вопросом. Мы знаем, что делать, и добьемся цели всего через несколько лет», – сказал Илон Макс еще в 2015 году.

  .Библия. Откровение Иоанна Богослова, Глава 13. Стих 7,8. [Электронный ресурс] // www.bible-center.ru URL: https://www.bible-center.ru/ru/bibletext/synnew_ru/re/4:1-22:5
3Здесь и далее Facebook – организация, запрещённая на территории России.
Купите 3 книги одновременно и выберите четвёртую в подарок!

Чтобы воспользоваться акцией, добавьте нужные книги в корзину. Сделать это можно на странице каждой книги, либо в общем списке:

  1. Нажмите на многоточие
    рядом с книгой
  2. Выберите пункт
    «Добавить в корзину»