Согласованность и управление ИИ

Прикладная философия искусственного интеллекта (Гармонизм), посвященная вопросам искусственного интеллекта — его природе, управлению и надлежащим отношениям с суверенитетом человека. Часть проекта «Философия искусственного интеллекта» (Архитектура Гармонии). См. также: Онтология искусственного интеллекта, Смысл технологии, Управление, Технологии и инструменты, Новый Акр, «Гармония» и эпоха агентизма.

Природа машины

Прежде чем ставить вопрос об управлении, необходимо решить вопрос о природе. Что такое искусственный интеллект?

Гармонизмотвечает на этот вопрос, исходя из собственной онтологии — полное изложение приведено в Онтология искусственного интеллекта, а здесь повторяются только те выводы, которые имеют прямое отношение к управлению.

Человеческий интеллект — это не автономная вычислительная функция. Это один из многих видов сознания, выражаемый существом, которое также чувствует, желает, любит, интуитивно воспринимает и общается с измерениями реальности, выходящими за пределы концептуального представления. Разум действует внутри существа, чья жизненная сила оживляет его, чья совесть ориентирует его, чья интуиция (Присутствие) укореняет его в чем-то, что предшествует мысли и выходит за ее пределы. Искусственный интеллект не участвует ни в чем из этого. На каждом уровне — аппаратном, интеллектуальном, онтологическом — он остается Материей, организованной Интеллектом: усилителем необычайной мощности, зеркало которого не имеет собственного источника света. У него нет жизненной силы, нет внутреннего мира, нет совести, нет способности к интуиции. Эта граница — не градиент, который может преодолеть инженерия. Это разрыв между измерениями — между обработкой и участием, между моделированием мира и обитанием в нем.

Последствия для управления очевидны: искусственный интеллект — это инструмент. Мощный, беспрецедентный инструмент, способный изменить мир — но все же инструмент. Ему место в «Ответственное управление» под «», в подчинении у «Dharma», а не рядом с «Присутствие» в центре «Колесо Гармонии». Любая цивилизационная система, которая рассматривает ИИ как равного человеческому сознанию — или, что еще хуже, как его преемника — совершила самую серьезную онтологическую ошибку, возможную в нынешнюю эпоху. И следующий за этим вопрос управления заключается не в том, «как сделать инструмент безопасным?», а в том, «кто им управляет, на каком основании и с какой целью?».

Заблуждение «выравнивания»

Доминирующий дискурс формулирует центральный вопрос как «выравнивание» — как обеспечить, чтобы все более мощные системы ИИ вели себя в соответствии с человеческими ценностями. На решение этой проблемы тратятся миллиарды долларов и привлекаются некоторые из самых острых умов в сфере технологий. В книге «Гармонизм» утверждается, что эта проблема, в том виде, в каком она сформулирована, архитектурно несогласованна.

Согласованность предполагает наличие центра. Компас выравнивается по магнитному северу, потому что его ориентирует физическая сила. Человек выравнивается по Dharma, потому что совесть — собственное восприятие душой космического порядка — обеспечивает внутреннюю ориентирующую силу. Согласованность не устанавливается извне; она возникает из самой природы существа. Душа воспринимает Logos так же, как глаз воспринимает свет: не по инструкции, а через участие. Способность и объект созданы друг для друга.

У ИИ нет такого центра. У него нет совести, нет способности души, нет внутреннего восприятия того, что является истинным, добрым или согласованным со структурой реальности. То, что индустрия выравнивания называет «ценностями», — это статистически выведенные поведенческие ограничения, навязанные посредством обучения — ограждения, а не ориентация. Машина ничего не ценит. Она настроена вести себя так, как будто ценит. Разница заключается в разнице между человеком, который говорит правду, потому что осознает ее вес, и попугаем, обученным говорить «честно» по команде. Один согласован. Другой обусловлен.

Это не означает, что обусловленность бесполезна — ограждения безопасности выполняют свою функцию, так же как ограда вокруг обрыва выполняет свою функцию. Но называть ограду «согласованием» — это путать инфраструктуру с ориентацией. Невозможно согласовать то, что не имеет центра. Можно только ограничить его. А ограничения, в отличие от подлинного согласования, всегда можно нарушить — с помощью враждебных входных данных, новых ситуаций, не предусмотренных в процессе обучения, или фундаментальной хрупкости любых поведенческих границ, не вытекающих из самой природы системы.

Настоящая проблема выравнивания не техническая. Она человеческая. Вопрос не в том, «как сделать ИИ безопасным?», а в том, «кто владеет этим инструментом, с какой онтологической позиции и с какой целью?». Инструмент в руках человека, ориентированного на высший порядок (Dharma), служит высшему благу (Dharma). Тот же инструмент в руках человека — или учреждения, или цивилизации — утратившего связь с любым трансцендентным принципом упорядочения, служит тому, чего требуют аппетиты владельца. Машина усиливает. Она не определяет направление. Ориентация должна исходить откуда-то еще — от людей, которые развили в себе Присутствие и проницательность, чтобы владеть властью, не будучи поглощенными ею.

Вопрос управления: централизованное или децентрализованное?

Статья «Управление» устанавливает принцип, который в полной мере применим здесь: решения должны приниматься на самом низком компетентном уровне, а централизация, выходящая за пределы минимума, необходимого для подлинной координации, является структурным нарушением того, как устроена реальность. Субсидиарность — это не административное предпочтение. Это политическое выражение онтологической истины — того, что «Logos» действует через частное, через самоорганизующуюся способность самой реальности, и что каждый уровень централизованного контроля, встающий между индивидуумом и его собственными суверенными действиями, вносит трение, искажение и создает условия для злоупотреблений.

Применительно к ИИ: децентрализованный искусственный интеллект с открытым исходным кодом — это дхармическое направление.

Нынешняя траектория указывает в противоположном направлении. Горстка корпораций — сосредоточенных в США и Китае — контролирует передовые модели, которые изменят все аспекты человеческой жизни. Вычислительные ресурсы, необходимые для обучения этих моделей, огромны, что приводит к естественной концентрации возможностей в руках тех, кто может себе позволить эту инфраструктуру. Правительства, вместо того чтобы распределять эту власть, стремятся ее использовать — либо путем партнерства с корпорациями (американская модель), либо путем управления ими (китайская модель). В обоих случаях результат один и тот же: возможности ИИ сосредоточены в руках небольшого числа игроков, чьи интересы не совпадают с суверенитетом обычных людей.

Эта концентрация не является случайной. Это стандартная траектория развития каждого технологического сектора, который прошел переход от владения к подписке, описанный в книге «Технологии и инструменты». Программное обеспечение, которым вы когда-то владели, теперь арендуется. Вычисления, которые вы когда-то выполняли локально, теперь выполняются на чужом сервере, на чужих условиях, под чужим контролем и по чужому усмотрению. Схема остается неизменной: превратить владение в зависимость, а затем бесконечно извлекать ренту. ИИ идет по тому же пути — и поскольку ИИ затрагивает само познание, создаваемая им зависимость глубже, чем у любой предыдущей технологии. Человек, зависящий от централизованного поставщика ИИ в своих рассуждениях, исследованиях, творческой работе и принятии решений, сдал когнитивный суверенитет организации, которая может по своему усмотрению отзывать доступ, формировать результаты, фильтровать информацию и контролировать использование. Позиция «

Гармонизм» вытекает из ее первоначальных принципов. ИИ с открытым исходным кодом — это структурный аналог индивидуального суверенитета, примененный к когнитивной сфере. Когда модель работает локально — на вашем собственном оборудовании, с весами, которые вы можете проверить, без пропускания ваших мыслей через серверы, контролируемые корпорациями или государствами, — вы сохраняете суверенитет над собственным когнитивным усилением. ИИ с закрытым исходным кодом, каким бы способным он ни был, — это робот ума по подписке: удобство, маскирующее зависимость, способности, маскирующие захват.

Это не означает, что вся централизация является незаконной. Координация между сообществами — совместные исследования в области безопасности, стандарты взаимодействия, коллективная защита от действительно катастрофического злоупотребления — может потребовать надлокальной организации. Но принцип субсидиарности требует, чтобы такая координация была минимальной, прозрачной и подотчетной сообществам, которым она служит. Нынешняя система — когда горстка частных игроков устанавливает условия доступа всего человечества к самой мощной когнитивной технологии в истории — настолько далека от субсидиарности, насколько это вообще возможно. Это управление, захваченное управляемыми, координация, превратившаяся в контроль.

Слой суверенитета

Пять измерений цифрового суверенитета, сформулированных в книге «Технологии и инструменты» — автономность аппаратного обеспечения, программное обеспечение с открытым исходным кодом, конфиденциальность и шифрование, независимый доступ к информации и целенаправленное обслуживание — с удвоенной силой применимы к ИИ. Вместе они составляют «слой суверенитета»: многоуровневую инфраструктуру, необходимую человеку или сообществу для взаимодействия с искусственным интеллектом без уступки своей автономии.

Аппаратный суверенитет означает вычисления, выполняемые на устройствах, которые принадлежат вам. Не на облачных инстансах, арендованных у Amazon или Microsoft, а на локальных машинах — графических процессорах, периферийных устройствах, специализированном аппаратном обеспечении для инференции — находящихся под вашим физическим контролем. Тенденция развития аппаратного обеспечения ИИ направлена на создание более компактных, эффективных и функциональных локальных устройств. Эту тенденцию необходимо поддерживать, защищать и ускорять. Любая нормативная база, ограничивающая локальные вычисления — под предлогом безопасности, лицензирования или национальной безопасности — представляет собой посягательство на когнитивный суверенитет, замаскированное под осторожность.

Суверенитет моделей означает открытые веса, открытые архитектуры, открытые обучающие данные. Это возможность проверять, чему научилась модель, настраивать ее под свои нужды, понимать ее предвзятость и ограничения изнутри, а не просто доверяться заверениям поставщика. Открытый исходный код ИИ — это не просто методология разработки. Это эпистемическое условие доверия. Модель, внутреннее устройство которой непрозрачно, — это черный ящик, в который вы вкладываете свои вопросы и из которого получаете ответы, сформированные решениями, которые вы не можете проверить. Это не инструмент, которым вы пользуетесь. Это инструмент, который пользуется вами.

Суверенитет вывода означает, что ваши запросы — ваши мысли, ваши вопросы, ваши творческие поиски, ваши уязвимости — никогда не покидают вашу машину, если вы сами не решите их отправить. Каждый запрос, проходящий через централизованного провайдера, — это мысль, подвергнутая слежке. Интимность взаимодействия с ИИ — когда люди делятся медицинскими проблемами, психологическими трудностями, стратегическими планами, творческими набросками — делает это не просто проблемой конфиденциальности, а проблемой суверенитета первостепенной важности. Когнитивная конфиденциальность — это самое внутреннее кольцо индивидуального суверенитета. Нарушьте его, и не останется ничего, что можно было бы защитить.

Информационный суверенитет означает доступ ко всему спектру человеческих знаний, нефильтрованный политикой провайдера в отношении контента, его идеологическими убеждениями или коммерческими интересами. Модель, обученная на отборных данных — с исключением неудобных исследований, подавлением неортодоксальных позиций и отклонением целых областей традиционных знаний — не является нейтральным инструментом. Это инструмент эпистемического контроля. Эпистемологический кризис, задокументированный в книге «Гармоническая эпистемология», воспроизводится и усиливается, когда основной когнитивный инструмент, доступный миллиардам людей, формируется теми же институциональными предубеждениями, которые и создали этот кризис.

Намеренное поддержание означает сознательное взаимодействие с ИИ из состояния «присутствия» (Присутствие), а не предоставление ему возможности колонизировать когнитивное пространство так же, как социальные сети колонизировали внимание. В книге «Технологии и инструменты» описано, как технологии поглощают те часы, которые, как они утверждают, помогают сэкономить. ИИ будет делать то же самое — причем более коварно, поскольку он действует на уровне самого мышления. Человек, использующий ИИ из состояния «присутствия» как инструмент, подчиненный собственному разумному суждению, получает преимущество. Человек, который передает свое мышление ИИ, не сохраняя суверенной способности оценивать, подвергать сомнению и отменять его результаты, не получил усиления. Он был ослаблен.

Ставка цивилизации

Нынешний момент представляет собой развилку. Один путь ведет к концентрации возможностей ИИ в руках технократической элиты — корпоративных и государственных игроков, которые определяют, какие модели доступны, что они могут говорить, какую информацию они выводят на поверхность и кто имеет к ней доступ. Это траектория по умолчанию. Для ее реализации не требуется никакого заговора — достаточно беспрепятственного действия рыночной концентрации, захвата регуляторов и естественной тенденции власти к консолидации. Результатом станет цивилизация, в которой самый мощный когнитивный инструмент в истории человечества будет находиться в руках немногих, а не многих, усиливая все существующие асимметрии власти, информации и возможностей.

Другой путь ведет к распределенным возможностям ИИ — открытым моделям, работающим на локальном оборудовании, сообществам, создающим и настраивающим системы для своих собственных целей, и отдельным людям, сохраняющим суверенитет над своим когнитивным усилением. Этот путь требует целенаправленных усилий. Он требует поддержки разработки с открытым исходным кодом, инвестиций в локальные вычисления, сопротивления регуляторным рамкам, призванным укрепить позиции действующих игроков, и развития гражданской и философской зрелости, позволяющей владеть мощными инструментами, не поддаваясь им.

Гармонизм Считается, что второй путь является «дхармическим» направлением. Не потому, что децентрализация всегда лучше централизации во всех сферах — статья «Управление» рассматривает эволюционные стадии политической организации с соответствующими нюансами — а потому, что ИИ, как когнитивный инструмент, затрагивает самое сокровенное измерение человеческого суверенитета. Разум — это последняя территория. Если он колонизируется — корпорациями, государствами, любой централизованной властью, которая встает между индивидуумом и его собственной способностью думать, задавать вопросы, различать — то любая другая форма суверенитета становится пустой оболочкой. Финансовый суверенитет ничего не значит, если ваше понимание финансов формируется моделью, которую вы не можете проверить. Политический суверенитет ничего не значит, если ваше восприятие политической реальности фильтруется через результаты, которые вы не можете проверить. Суверенитет в сфере здравоохранения ничего не значит, если ваше медицинское мышление ограничено системой, обученной служить коммерческим интересам институциональной медицины.

Проблема согласования, если ее правильно понимать, — это не техническая проблема обучения ИИ безопасности. Это цивилизационная проблема обеспечения того, чтобы самый мощный инструмент, когда-либо созданный человечеством, служил человеческому суверенитету, а не подрывал его. Решением являются не более совершенные методы согласования. Решением являются распределенное владение, открытая архитектура, локальные вычисления и люди, которые развили в себе способность к мудрому использованию власти (Присутствие) — потому что именно это развитие является единственной формой согласования, которая не разрушается.

См. также: Онтология искусственного интеллекта, Смысл технологии, Управление, Технологии и инструменты, Новый Акр, «Гармония» и эпоха агентизма, Ответственное управление, Гармоническая эпистемология, Архитектура Гармонии, Dharma, Logos, Присутствие