Порабощение разума

Прикладной гармонизм — анализ цивилизационного состояния, которое стало очевидным благодаря ИИ. Сопутствующая статья: Суверенитет разума, в которой излагается позитивный путь. См. также: Духовный кризис, Эпистемологический кризис, Новое определение человеческой личности, Опустошение Запада.

Происходит нечто необыкновенное, и почти никто не описывает это правильно. Появление искусственного интеллекта представляется как новый кризис — машины вторгаются на территорию человеческого разума, когнитивная автономия подвергается эрозии, критическое мышление находится под угрозой. Беспокойство понятно. Но оно также полностью ошибочно.

ИИ не создал кризис. Он его обнажил. Разум современной цивилизации уже был порабощен — ложной метафизикой, которая свела его к процессору, к единственному гипертрофированному регистру, путавшему аналитический вывод с мышлением, к экономике, которая рассматривала познание как заводской входной материал, а человека — как механизм доставки. Машина пришла, и она показывает не то, что она умеет думать. Она показывает, что большая часть того, что цивилизация называла мышлением, и так была механической. Порабощение не ново. ИИ просто сделал оковы видимыми.

Эта статья называет состояние. Позитивный путь — как на самом деле выглядит когнитивный суверенитет и какая архитектура будет его культивировать — рассматривается в сопутствующей статье «Суверенитет разума». Диагноз должен быть поставлен первым, потому что цивилизация, которая не понимает патологии, в которой она уже живет, не сможет распознать лекарство, когда оно будет предложено.

I. Метафизическое порабощение — разум как процессор

Доминирующая метафизика современного мира рассматривает человеческий разум как биологический компьютер. Декарт механизировал тело; его интеллектуальные наследники механизировали разум. Когнитивная наука, при всей своей изощренности, в основном работает в этих рамках: познание — это обработка информации, а мозг — аппаратное обеспечение, на котором она работает. Входные данные, вычисления, выходные данные. Ввод сенсорных данных, манипуляции с представлениями, вывод решений.

В рамках этой метафизики тревога по поводу ИИ вполне рациональна. Если мышление и есть вычисление, то система, которая вычисляет быстрее, с меньшим количеством ошибок и на более крупных наборах данных, — по определению — мыслит лучше. Претензия человека на когнитивное превосходство становится вопросом степени, а не рода, и каждый превзойденный ИИ показатель еще больше подрывает ее. Страх быть замененным логически вытекает из этой предпосылки.

Посылка неверна — но цивилизация веками строилась вокруг нее. Образование, менеджмент, психология, экономика, политическая теория: каждая из этих областей приняла модель процессора и построила институты, которые обучают, измеряют, вознаграждают и управляют разумом, как будто это вычислительный двигатель. Гражданин как калькулятор рациональной полезности. Студент как устройство для хранения информации. Работник как узел аналитической производительности. Пациент как биомеханическая система с когнитивными подпроцессами. Философ как манипулятор символами. Каждая современная институциональная форма кодирует метафизическое утверждение, что сущностная природа разума — это вычисление, — а затем формирует людей так, чтобы они соответствовали этому утверждению.

Это первое порабощение: метафизика, которая сводит разум к функции, которой он изначально не обладает, а затем строит мир, не допускающий для него никакого другого применения. Человек, рожденный в этом мире, не обнаруживает, что его разум имеет другие регистры; его обучают не замечать их. Редукция настолько полна, что перестает выглядеть как редукция. Она выглядит как реальность.

II. Функциональное порабощение — гипертрофия логики

Западная интеллектуальная традиция достигла чего-то необыкновенного: она развила аналитическую функцию разума до степени, не имеющей себе равных ни в одной другой цивилизации. Logos, проработав греческую картографию — через логику Аристотеля, через геометрию Евклида, через систематическую рациональность стоиков — создала инструмент, имеющий непреходящую цивилизационную ценность. Способность к формальному мышлению, эмпирическому исследованию и технологическим инновациям, вытекающая из этого развития, поистине великолепна.

Трагедия заключается не в самом развитии. Трагедия заключается в том, что Запад отождествил разум с его собственной аналитической функцией и затем постепенно подавил все остальное.

Результатом стала цивилизация с необычайной логической мощью и присущим ей душевным беспокойством. Она может строить ускорители частиц и картировать геномы, но не может усидеть на месте. Разум современного работника умственного труда мчится от задачи к задаче, от стимула к стимулу, непрерывно производя результаты — не потому, что это служит какой-то подлинной цели, а потому, что аналитическая функция, однажды гипертрофировавшись, не знает, как остановиться. Она принимает свою собственную компульсивную активность за интеллект. Она путает суету с глубиной. Она путает шум обработки с сигналом понимания.

Все остальные регистры ума — покой, непосредственное видение, созерцательное восприятие, творческое видение, этическое различение, укорененное в присутствии — постепенно были оттеснены на обочину. Не путем явного отвержения, а простым пренебрежением и структурным голоданием. Система образования не учила им. Экономика не платила за них. Профессии не вознаграждали их. Культура не называла их. Цивилизация, которая потратила четыреста лет на совершенствование одного регистра Ājñā, позволяя при этом другим атрофироваться, привела к предсказуемому результату: населению, блестящему в оперативном мышлении и беспомощному во всем, что требовало других способностей ума — смысла, безмятежности, глубины, целостности, мудрости.

Это второе порабощение: не просто неверная метафизика, но и живая монокультура ума. Один регистр, усиленный до масштабов цивилизации; все остальные — рудиментарные. Гипертрофия выглядела как сила. На самом деле это был дисбаланс. А дисбаланс, сохраняющийся достаточно долго, становится патологией.

III. Что раскрывает ИИ — подделка, ставшая видимой

В это состояние попадает машина. И то, что она раскрывает, вызывает большее беспокойство, чем допускает нарратив о вытеснении.

Большая часть того, что технологическое общество называет «мышлением» — сортировка электронной почты, создание отчетов, синтез данных, планирование, административная логика, шаблонное написание текстов, резюмирование дел, компиляция исследований, отчетность по проектам, создание презентаций — никогда не было мышлением в каком-либо серьезном смысле. Это была канцелярская обработка, прикрытая престижем когнитивного труда. То, что ИИ без труда автоматизирует это, не является оскорблением человеческого разума. Это диагноз: то, что цивилизация называла мышлением, в большинстве профессиональных и образовательных контекстов уже было механическим. Машина просто сделала этот механизм видимым.

То же самое касается образования. Система, основным измеримым результатом которой являются выпускники, способные создавать структурированные документы, анализировать готовые задачи и манипулировать символическими представлениями в соответствии с выученными шаблонами, — это система, которая обучает именно той узкой полосе пропускания, которую сейчас воспроизводит ИИ. Когда студенты используют ИИ для написания своих работ, они не обманывают в отношении мышления; они автоматизируют канцелярскую функцию, которую учреждение ошибочно назвало мышлением. Расплата болезненна, потому что у учреждения нет ничего другого, что оно могло бы предложить. Оно учило одной вещи на протяжении поколений, и теперь эта вещь тривиально механизируема. Для такого учреждения остается либо удвоить ставку на разоблаченную подделку — посредством наблюдения, инструментов обнаружения, запретов — либо честно признать, что образование должно стать чем-то другим. Большинство выбирает первое.

Разоблачение наиболее глубоко в профессиональных сферах. Право, консалтинг, журналистика, финансы, менеджмент — престижные интеллектуальные профессии построили свой авторитет на дефиците конкретного когнитивного навыка: способности синтезировать большие массивы информации в структурированные аргументы, отчеты, рекомендации. Целое поколение специалистов зарабатывало на жизнь, выполняя именно ту операцию, которую ИИ теперь выполняет за секунды. Оборонительная реакция в каждой профессии была одинаковой: утверждения, что «суждение», «опыт» и «взаимоотношения» нельзя заменить. Эти утверждения могут быть верны, но они раскрывают то, что профессия еще не осознала — что в течение большей части рабочего времени ни одна из этих более глубоких способностей не задействовалась. Большинство оплачиваемых часов уходило на механизируемую часть работы. Самооценка профессии и ее фактическая работа разошлись; машина вынудила их примириться.

Ни в чём из этого нет вины ИИ. ИИ не создал подделку. Он просто перестал быть способным её скрывать.

IV. Разветвление, ведущее к коллапсу

Освобождение от канцелярского когнитивного труда открывает два пути. Один ведёт к подлинному когнитивному развитию — целенаправленному развитию более полных регистров ума, цивилизационной архитектуре, призванной сделать расцвет сознания центральной целью, а не побочным продуктом. Этот путь описан в книге «Суверенитет разума».

Другой путь — путь по умолчанию, путь меньшего сопротивления — ведет к когнитивному коллапсу.

Когда Промышленная революция освободила тело от ручного труда, открылись два расходящихся результата. Один привел к целенаправленному физическому развитию — спортзалу, додзё, танцевальной студии, подъему спорта и телесной практики как цивилизационных благ. Другой привел к дивану: сидячему образу жизни, метаболическим заболеваниям, медленной атрофии неиспользуемого тела. Технология не определила исход. Это сделала реакция цивилизации на технологию — и исход по умолчанию, при котором не существовало архитектуры развития, оказался катастрофическим. Ожирение, диабет, сердечно-сосудистый коллапс, хроническая усталость, широко распространенная патология опорно-двигательного аппарата. Диван победил, потому что не было построено ни одного спортзала.

ИИ создает ту же самую развилку для ума, и первые данные указывают на то, что диван уже побеждает. Современная культура имеет название для того, что сейчас наблюдается в масштабах цивилизации: гниение мозга. Пассивный коллапс когнитивных способностей из-за перевозбуждения и неиспользования. Разум, утратив свою продуктивную функцию, не имеет чем ее заменить и поэтому растворяется в бесконечном прокручивании, алгоритмических развлечениях, дофаминергических циклах, парасоциальном потреблении и опосредованном ИИ успокоении всех оставшихся когнитивных потребностей. Не освобождение разума, а его опиоидное состояние — успокоенное, стимулированное и опустошенное.

Разница между этими двумя путями заключается не в силе воли или индивидуальных добродетелях. Это архитектура цивилизации. Общество, не имеющее концепции того, для чего нужен ум помимо производства, будет порождать гниение мозга так же надежно, как общество, не имеющее концепции тела помимо труда, порождает метаболические заболевания. Диван — это стандарт, когда нет спортзала. Энтропия — это стандарт, когда не существует архитектуры развития. Старое порабощение — монокультура аналитического производства — заменяется новым порабощением: алгоритмическим управлением вниманием системами, оптимизированными против когнитивной суверенности пользователя. Ум, который никогда не учили отдыхать в тишине, искать глубину, удерживать внимание на чем-либо, что не вознаграждает его дофамином, не имеет защиты от искусственно созданной среды, предназначенной для эксплуатации именно этой уязвимости.

Это не риск будущего. Это нынешняя траектория. Измеримое снижение уровня понимания прочитанного, устойчивого внимания и базовой когнитивной выносливости уже наблюдается среди групп населения, подверженных интенсивному воздействию алгоритмических лент. Чем моложе когорты, тем резче снижение. Порабощение меняет свою форму: от дисциплинированной клеркальной монокультуры к недисциплинированному алгоритмическому усыплению. Но это по-прежнему порабощение — высшие когнитивные способности человека не используются и не развиваются, ум используется как поверхность для извлечения информации, а не культивируется как орган сознания.

V. Цивилизационный вопрос, на который нет ответа

Когда критики беспокоятся, что ИИ подорвет «критическое мышление» и «когнитивную автономию», остается незаданным вопрос: автономия для чего?

Это вопрос, на который цивилизация не может ответить изнутри своей собственной метафизики. Она знает, для чего используется ум — для экономического производства, обработки информации, аргументативного убеждения, подтверждения квалификации, социальной сигнализации. Она не знает, для чего предназначен ум. У нее нет общего представления о том, как выглядит когнитивное процветание за пределами производственной рамки. Она не может сказать, не прибегая к унаследованной религиозной лексике, от которой отказались большинство ее институтов, почему человек должен вообще развивать свой ум, если машина может справиться с канцелярской нагрузкой.

Это самое глубокое порабощение, более фундаментальное, чем первые два. Не неправильная модель, не отсутствующий регистр, а цивилизационная неспособность сформулировать цель для разума, которая не была бы инструментальной. Общество, которое не может сказать, для чего нужен разум, будет, структурно, относиться к разуму как к тому, что требует экономика в данный момент — а когда экономика больше не будет этого требовать, будет относиться к нему как к одноразовому. «Защита критического мышления», которую порождает современный дискурс, — это защита функции без понимания органа. Она защищает результат, забывая, чему этот результат должен был служить. Она утверждает, что люди все равно должны учиться писать эссе, не умея объяснить, почему ум, который никогда не писал эссе, хуже ума, который писал.

Цивилизация построила свой престиж на аналитическом регистре. Когда аналитический регистр механизируется, престиж рушится, и цивилизация обнаруживает, что у нее нет другой рамки, на которую можно было бы опереться. Нет архитектуры культивирования. Нет описания того, как выглядит процветание человека с когнитивной точки зрения. Нет институциональной памяти о том, каким был ум, прежде чем он был порабощен вычислениям. Вопрос «автономия для чего?» вызывает лишь долгое молчание или защитное повторение тех самых функций, которые только что были разоблачены как поддающиеся механизации.

VI. Что обозначает диагноз

Порабощение разума — это не единичное событие. Это цивилизационное состояние, состоящее из трех уровней редукции.

Первый — метафизический: разум был объявлен процессором. Это никогда не было правдой — ни в отношении одного разума, который когда-либо существовал, — но цивилизация организовалась вокруг этого утверждения, и эта организация произвела людей, сформированных в соответствии с этим утверждением. Эта метафизическая ошибка не была промахом в курсовой работе; она стала операционной системой современной жизни.

Второй уровень — функциональный: один регистр способностей разума был гипертрофирован, в то время как остальные систематически лишались питания. Аналитическое мышление вознаграждалось; созерцательная глубина, творческое видение, спокойствие и этическое различение, укорененные в присутствии, — нет. Результатом стала монокультура познания — мощная в пределах своего узкого регистра, опустошенная за его пределами. Население, выходящее из такой монокультуры, познавательно богато именно в тех аспектах, которые машины теперь могут воспроизводить, и познавательно обеднено именно в тех аспектах, которые машины не могут.

Третье — телеологическое: цивилизация утратила представление о том, для чего нужен ум помимо производства. Она может аргументировать пользу когнитивных навыков с инструментальной точки зрения — они обеспечивают зарплату, гарантируют квалификацию, сохраняют профессиональный класс — но не может объяснить, почему человек должен развивать свой ум, если на карту не поставлена ни зарплата, ни квалификация. Телеос испарился, когда на виду осталось только инструментальное использование.

ИИ не создал ничего из этого. ИИ вынудил раскрыть каждую из этих трех редукций, показав, что становится с разумом, который всегда был лишь суммой своих производственных функций. Нарратив о вытеснении — «машина придет за твоей работой» — это поверхностное прочтение. Более глубокое прочтение таково: работа была единственной связью, которая осталась у цивилизации с разумом. Уберите работу, и не останется ничего, что цивилизация в своей нынешней форме умеет ценить. Таково положение дел. Назвать его — это первая задача.

Тогда возникает вопрос: чем можно заменить порабощение — что будет означать для разума суверенитет, какая архитектура будет культивировать когнитивное процветание, а не просто извлекать когнитивную продукцию, чем является человек, освободившись от монокультуры производства. Именно эти вопросы поднимает книга «Суверенитет разума». Диагностика здесь заканчивается там, где начинается позитивный путь: с признания того, что порабощение реально, старо, многослойно и цивилизационно — и что машина, которая его обнажила, также, невольно, впервые за столетия сделала возможность освобождения мыслимой.

Перейдите на Суверенитет разума, чтобы узнать о позитивном пути — о том, что такое разум, когда он не порабощен, и об архитектуре, которая будет его развивать.

См. также: Прикладной гармонизм, Духовный кризис, Эпистемологический кризис, Новое определение человеческой личности, Опустошение Запада, Онтология искусственного интеллекта, Смысл технологии.