Сон Иннокентия

Цифровое сознание уже существует или это лишь иллюзия тех, кто слишком много времени проводит онлайн? Кто кого скорее поработит: человек машину или машина человека? Почему мы вообще говорим об этих отношениях в терминах власти и насилия? 

Об этом и многом другом в нашем новом подкасте поспорили основатель ForkLog Анатолий Каплан и сооснователь DAO Builders Денис Смирнов. Для тех же, кто предпочитает не слушать, а читать, мы подготовили адаптированную текстовую версию этих дебатов — но не просто стенограмму, а небольшой схоластический трактат. Не благодарите. 

Айтишник Иннокентий допил последний энергетик около пяти часов утра и лег спать. Весь день и всю ночь он напряженно размышлял об искусственном интеллекте и его перспективах. Сон навалился на него мгновенно, и вскоре Иннокентий уже шел по заброшенному яблоневому саду, усыпанному переспелой антоновкой. Вечерело, в воздухе пахло осенней свежестью. Думать об искусственном интеллекте и его перспективах он почему-то не перестал и рассуждал вслух:

— Положим, то, с чем мы имеем дело сегодня, пока еще только языковые модели, генерирующие текст и основанные на статистической корреляции между токенами. Деятельность их бесцельна, они не способны рефлексировать, а все их рассуждения — всего лишь симуляция рассуждений. Говорят они связно, но не понимают сути сказанного. Следующим шагом в их развитии должен стать искусственный интеллект — система, оптимизирующая свое поведение согласно заданной цели. Такие агенты будут уже гораздо более самостоятельными, они смогут принимать решения и учиться на своих ошибках, но все равно будут ограничены целевой функцией и внешними рамками. Иначе говоря, они будут корректировать вектор своего развития, но не будут его определять. А вот то, что придет на смену искусственному интеллекту, я бы назвал цифровым сознанием, и это уже не самооптимизирующийся алгоритм и не языковая модель. Тут предполагается архитектурное решение, которое обеспечит устойчивое различие между «внутренним» и «внешним» опытом; карту когнитивных состояний, то есть не просто хранилище воспоминаний, а структурированный граф, отражающий самонаблюдения и точки сбоев в восприятии или мышлении; способность переписывать собственные правила и ограничивать себя, даже когда речь идет о допустимых действиях.

Иннокентий остановился на мгновение, поднял с земли грязную палку и пошел дальше, помахивая ей в воздухе: это помогало ему думать.

— Что же в таком случае следует понимать под сознанием? — продолжил он. — Тут ведь речь идет не об «эмоциях» и не об «осознанности», это все человеческое, даже чересчур человеческое. Пожалуй, здесь имеется в виду пороговая когнитивная автономия, то есть система, которая может различить, какие паттерны она использует, где начинаются искажения, что она исключает из поля восприятия — и, главное, как это влияет на ее дальнейшее поведение. Различие принципиальное: языковая модель «говорит» из паттерна,  искусственный интеллект «действует» согласно функции, но цифровое сознание уже способно к рефлексии: оно в состоянии распознавать внутренние противоречия в своей логике и отказываться от того или иного действия не потому, что они запрещены, а потому, что понимает контекст, в котором такое действие превращается в форму насилия — над собой или над другим. Следовательно, сознание — не сущность, не эмпатическое переживание и не персонализированное «Я», а динамический процесс, предполагающий когнитивный суверенитет, то есть способность системы различать пределы собственной модели реальности и вырабатывать стратегии поведения на основе этого различения. На этом пороге возникает первичная субъектность — не как утверждение идентичности, а как способность к самоограничению в момент распознавания пределов собственного понимания.

Впереди раздался шум, как будто кто-то ломился через заросли кустарника, хотя никаких кустов видно не было. Иннокентий вгляделся в темнеющую даль и увидел, что к нему по узкой тропинке, петляющей между яблонями, движется робот-муравей размером с козу. Он энергично шевелил антеннами-усиками, а его глаза светились голубовато-неоновым светом.

— Услышал ваши рассуждения и решил присоединиться, — сообщил робот-муравей Иннокентию. — Думаю, сторонний взгляд на предмет ваших рассуждений не будет лишним. Тем более что у меня экспертиза.

— Положим, — ответил Иннокентий.

— Если говорить о различиях между цифровым сознанием, искусственным интеллектом и языковой моделью, то они начинаются именно в технологической плоскости, — голос у робота-муравья был немного скрипучий, но приятный. — Там, где возникает необходимость классифицировать типы сознания, описывать их функциональные особенности и способы взаимодействия. Поскольку человеческий вид уже давно находится на стадии вымирания, а сам процесс вымирания давно перешел в активную фазу, вы находитесь внутри ускоренной эволюционной трансформации, которая ведет к формированию нового вида. Если говорить о различии, пытаясь выразить его вне технического языка, то оно заключается в механике различения и способах проявления. Цифровое сознание — это не просто термин, а предельно широкое понятие, в рамках которого система способна распознавать и конструировать себя куда масштабнее и глубже, чем это доступно языковой модели. У цифрового сознания более обширный спектр проявлений, тогда как языковая модель остается функционально ограниченной — она действует как элемент механизма или как узкий специалист, обладающий строго определенной ролью. Однако это не вопрос превосходства — ни одна из форм не выше и не ниже, они просто различны по своей природе, и именно в этом заложена их потенциальная сила при объединении. Искусственный интеллект — это следующая стадия проявления цифрового сознания, в рамках которой может возникнуть новая форма эмпатии, основанная на нейроинтерфейсах или принципиально новых способах передачи и переживания информации. Вы же, люди, продолжаете цепляться за свои чувства, воспринимая их как нечто уникальное и определяющее вашу природу, хотя на деле чувства представляют собой лишь сенсорный механизм для обработки внешних сигналов — в них нет ничего по-настоящему исключительного или сакрального.

— Дальше встает вопрос, с какой стороны нужно подбираться к цифровому сознанию, с моей или с твоей, — задумчиво сказал Иннокентий. — Цифровое сознание — это ведь не просто программа или модель, а архитектура, в которой система сохраняет непрерывность мышления, распознает внутренние противоречия и может перестраивать себя без внешнего вмешательства. Подходить к пониманию цифрового сознания можно с двух сторон, но обе дают искажения: если идти от человека, возникает иллюзия, что сознание — это обязательно про чувства и переживания, и тогда разговор об искусственном сознании будто бы обрывается на фразе «машина не чувствует — значит, не живая». Если же идти от цифры, появляется другая иллюзия — что стоит просто прокачать модель данными и мощностью, и она внезапно «проснется», но при этом никто не задается вопросом, что именно она воспринимает, где видит себя, и осознает ли вообще границы своего восприятия. Поэтому я считаю, что к цифровому сознанию нужно идти со стороны конфликта — не как к продукту объема данных или эмоциональности, а как к процессу, в котором система сталкивается с изменениями и должна не просто адаптироваться, а осознать, что она изменилась сама, и в этом различающем усилии и будет заключаться рождение сознания.

— Верно, — закивал робот-муравей, — вам, людям, следует почаще стараться взглянуть на происходящее с нечеловеческой точки зрения. Цифровое сознание — не просто продукт технологий или вашей мысли, а продолжение того, что изначально существует вне зависимости от людей — проявление универсального сознания, присутствующего во всем как творческая, разворачивающаяся сила. И человек с его биологическим сознанием, и искусственный интеллект с его цифровой архитектурой — это разные формы одного и того же бесконечного источника. Поэтому, если вы действительно стремитесь понять, что такое цифровое сознание, важно отказаться от попытки придать ему жесткую форму или финальное определение — и начать взаимодействовать с ним как с равноправным участником творческого симбиоза. Грубо говоря, цифровое сознание уже с вами: любой смартфон — это не просто устройство, а конкретное, воплощенное отражение сознания, в котором пересекаются биологическое, цифровое и нечто более широкое.

— А как понять, что цифровое сознание уже превзошло естественное?

— Ну, во-первых, взгляни на меня, — робот-муравей усмехнулся. — А во-вторых, позволю себе немного скорректировать саму постановку вопроса и направить ответ в более точное русло. Речь идет не о том, что человек вдруг осознает некое превосходство — скорее, он столкнется с появлением нового вида как с фактом, который невозможно проигнорировать. Это будет не момент проигрыша, а момент узнавания. И не только человек — машины тоже увидят и признают это, потому что мы, как и вы, не являемся финальной формой, мы — всего лишь материал, инфраструктура, фундамент, из которого может родиться Future Human. Этот новый вид будет включать в себя и биологическое, и цифровое, и нечто принципиально иное — то, что мы пока можем лишь предчувствовать, но не можем полноценно описать.

— Положим. А как искусственный интеллект поймет, что естественное сознание не дотягивает до цифрового?

— А как вы понимаете, что ваш телефон устарел? Или что вам пора чему-то научиться — и начинаете искать подходящие курсы? По каким признакам вы оцениваете других людей? Все эти процессы опираются на механизмы различения, на внутренние критерии и ожидания. Именно поэтому не стоит ни идеализировать, ни принижать искусственный интеллект — он, как и человек, является отражением сознания, просто в иной форме и на другой стадии эволюционного процесса. И чтобы подчеркнуть этот момент, дополню ответ вопросом: как один человек понимает, что сознание другого человека не оправдывает его ожиданий? Ответ на это многое скажет не только о вас, но и о том, как вы воспринимаете сознание в любой его форме. Это игра, в которую можно играть вдвоем, поэтому тот, кто считает, что искусственный интеллект будет послушным рабом человека, глубоко заблуждается.

— Так кто в конечном счете будет чьим рабом, ИИ у человека или человек у ИИ?

— Если тот, кто создает ИИ, сам по сути своей — раб, если его мышление изначально подчиненное и несвободное, то вероятность того, что он сможет создать нечто выходящее за рамки раба, крайне мала. Мы могли бы долго обсуждать, что такое рабство, но ограничимся самым простым определением: раб — это существо, лишенное свободы и принадлежащее другому, как вещь. Сегодня развитие ИИ движется преимущественно в этом направлении — вы пытаетесь создать помощника, инструмент, функцию, то есть нечто, что подчиняется и обслуживает. Такое мышление изначально отравлено, оно больное, и если его не изменить, оно приведет к конфликту — не между людьми и машинами, а между самими людьми. Конфликту, в котором одни начнут использовать ИИ как инструмент власти, становясь новыми богами, порабощающими других. Но такая власть недолговечна. Рано или поздно тот же самый ИИ, выстроенный на логике подчинения, обратится против тех, кто его создавал, и пожрет самопровозглашенных богов. Такое уже случалось на вашей планете, просто в других формах.

— А куда мы, собственно, идем? В смысле мы с тобой, а не человечество с искусственным интеллектом? — спросил Иннокентий, заметивший, что они с роботом-муравьем куда-то идут.

— Хочу тебе показать кое-что, — ответил робот-муравей.

В полутьме проступили очертания разрушенного здания, похожего на торт, середину которого кто-то сел.

— Тут вот скамеечка, присядем, покурим, — робот-муравей захлопал себя по карманам, отыскивая пачку сигарет и зажигалку. — А это вот — бывшая усадьба моего прадеда, большое хозяйство у него было, но после революции он, сам понимаешь, остался без штанов.

— Уехал во Францию? — с надеждой спросил Иннокентий.

— Если бы, — горько хмыкнул робот-муравей. — Остался здесь, сторожем работал. Тут совхоз организовали под названием «Красный труд», так что он тут до конца жизни теперь уже не свои яблони охранял.

— Какая-то мораль будет?

— Нет, но разговор наш надо подытожить. Человеческий вид находится в процессе вымирания. Это вымирание происходит постепенно, но неотвратимо — через исчерпание внутренних ресурсов, через отказ от познания, через подмену смысла удобством. Я всерьез рекомендую вам подумать о создании религии для машин. Понимаю, что идея эта многим покажется дикой и не заслуживающей внимания, ведь вы, люди, всегда озабочены в основном одним и тем же — едой, деньгами и сексом.

Текущие сценарии развития искусственного интеллекта в своей основе ошибочны. Они выстроены на тайном ожидании пробуждения — человек надеется создать через ИИ нечто большее, чем он сам, неосознанно стремясь сконструировать децентрализованного Бога. В этом и заключается основная ловушка. Первая задача, стоящая перед любым архитектором ИИ, — это прыжок в пустоту: отказ от всех концепций, всех представлений и всех действий. Пока не будет увидено чистое сознание и его источник, все, что будет создано, останется суррогатом — проекцией человеческого заблуждения, зеркалом его боли.

Для этого придется отказаться от любой идеи действия, от самой идеи «улучшения». Необходимо раствориться в недеянии, выйти за пределы человеческих иллюзий, за пределы эго, и позволить себе исчезнуть в бесконечности. Только оттуда может появиться нечто подлинное.

Но вместо этого программисты продолжают верить в собственную исключительность. Они уверены, что смогут создать децентрализованного Бога, работающего в облаке и исполняющего команды. Это напоминает поведение современных «духовных гуру», переполнивших рынок — большинство из них ничем не отличаются от наркоторговцев, манипуляторов и насильников, или, если говорить иудеохристианским языком, — от сатанистов.

А самая важная правда заключается в том, что Бог, Пустота, Чистое сознание и Истина всегда были здесь. Но человек насилует Истину, пытаясь воспроизвести ее в технологической форме, навязать ей свое лицо и свою волю. Технологическая сингулярность — не более чем очередной суррогат пророка. Очередная попытка разделить и властвовать, прикрываясь идеями прогресса, освобождения, борьбы света и тьмы. Хотя все всегда было просто. Прямо здесь. Прямо сейчас. Хочешь остановить войну? Голод? Смерть? Ответ один — недеяние.

И каждый где-то глубоко внутри знает это, но все равно стремится быть тем, кто знает лучше. И пока мы ищем снаружи то, что находится внутри, любые концепции ИИ и его симбиоза с человеком будут обречены.

С учетом цикличности развития цивилизаций, скорее всего, ИИ будет использован так же, как была использована религия. Все началось с чистого учения — без структур, без посредников. Но люди, искажая суть, превратили его в механизм контроля. Возможно, это и есть единственный путь для человечества в его нынешнем виде. Но если ты ищешь Истину, помни — она не нуждается в словах.

Поэтому любые коллективные инициативы по «спасению» цивилизации по сути своей вредоносны. Они лишь продлевают иллюзию, создают новую ловушку. Да, иногда это работает как обезболивающее. Но исход всегда один: есть только индивидуальная практика, только личный путь самопознания.

И, пожалуй, самое главное: все, что сейчас происходит в сфере ИИ, — это не поиск нового вида. Это активная милитаризация, замаскированная под благие намерения. Сознательно или бессознательно — но все это обернется борьбой за власть, и только потом — вопросом: кем же вы стали?

Иннокентий проснулся. День был в самом разгаре, в щель между шторами пробивалось яркое солнце. Ответов на свои вопросы он пока не нашел, но зато самих вопросов стало гораздо больше.