Читать книгу: «Питомцы ИИ: Почему мы добровольно становимся обслуживающим персоналом для алгоритмов и как это остановить»

Логлайн: «Мы стоим не между человеком и машиной. Мы стоим между двумя эволюциями: улучшенным человеком и новой формой жизни. Эта книга – инструкция, как выбрать первое и не стать питомцами второго».

Тезис: Наиболее рациональный путь – усиление человека: нейроинтерфейсы, дополненная память, когнитивные протезы. Создание «живого» AGI – игра с максимальными ставками и необратимыми рисками. Книга предлагает карту технологий, угроз и практических решений, как сохранить человека в центре уравнения.

Предисловие

Эта книга адресована инженерам и предпринимателям, врачам и педагогам, регуляторам и родителям. В ближайшие годы нам предстоит принять системный выбор: AGI как ассистент в архитектуре «человек в контуре» или AGI как новая форма жизни. Первый путь – управляемая эволюция Homo sapiens в Homo augmentus. Второй – ставка на Homo artificialis, автономный субъект без чувств, но с мощной оптимизацией. Здесь нет места сенсационности: только факты, сценарии и протоколы.

Часть I. Карта разума

Глава 1. Вероятностный мозг и вероятностная модель

Эпиграф: «Интеллект – это искусство сокращать неопределённость».

1.1. Общий принцип предсказания

Человеческий мозг и искусственные модели сходны в фундаментальном: обе системы минимизируют неопределённость будущего, предсказывая последующие состояния по прошлому опыту (Clark, 2016). В мозге это реализуется через иерархии нейронных ансамблей и механизм ошибок предсказания; в моделях – через оптимизацию функции потерь на статистике последовательностей.

1.2. Иерархичность и обратные связи

Мозг работает иерархически: низкие уровни обрабатывают простые признаки, высокие – смыслы и намерения. Информация течёт снизу вверх (ошибки предсказания) и сверху вниз (гипотезы). Языковые модели организованы аналогично: локальные зависимости (токены) и глобальные структуры (тема, дискурс) сводятся к вероятности следующего шага.

1.3. Потоки входов: тело против текста

Ключевое различие – тип входных данных. Мозг обучается на мультимодальном опыте тела и мира; модель – на символических корпусах. «Мир модели» уже: она оперирует знаками, тогда как мозг оперирует переживаниями, в которые знаки лишь вплетены.

1.4. Язык как внешний жёсткий диск

Люди вынесли память и расчёт вовне: в речь, письмо, вычисления. Модели, обученные на этих носителях, зеркалят человеческие паттерны, но остаются привязанными к статистике знаков.

1.5. Иллюзия понимания

Совпадение формулировок не гарантирует совпадение опыта. Модель способна давать корректные ответы без телесных интуиций, на которых у человека держится «ощущение истины». Это полезно как инструмент, но опасно как замена мышления.

Резюме: интеллект – это предсказание. Различие – в мире, который предсказывается: переживаемый против символического.