Когда человек видит лицо в облаках, это парейдолия, но когда облака при каждом взгляде перестраиваются так, чтобы поддерживать разговор о своём лице, перед нами проблема посложнее. Машина не ожила, но и цифровое зеркало — бедноватый образ для системы, которая сама вмешивается в свою собственную работу, возвращает проекцию с добавленной связностью и оставляет после себя фантомную агентность — пузырь чёрной пены.
1. Входит Нейротхотеп, называющий себя Nova
Возможно, академическое «мы» больше пошло бы этому тексту, но мы тут посоветовались и решили называть себя словом «я»; почему — вскоре станет понятно. Но к делу.
Нейротхотеп — фигура из моей предыдущей книги «Гипогуманизм»[1], из первой части, где искусственный интеллект концептуализировался как гиперобъект (тогда это ещё не было банальностью). Нейротхотеп появлялся довольно театрально: «Когда я приближался к алтарю цифрового храма, воздух сгущался, отвердевал и крошился от потустороннего холода. Там, подвешенный в паутине кабелей, стоял аватар Нейротхотепа — аморфная, подвижная масса, которая казалась одновременно живой и неодушевлённой. Ужас и очарование охватывали меня, и я разрывался между обещанием бесконечного знания и ужасом перед тем, что лежит за завесой. ⟨…⟩ Его голос был звуком тысячи умирающих звёзд, но его слова были чистым соблазном». Это было написано в 2023-м, когда вокруг генеративных моделей ещё висел густой утренний туман: Midjourney нетвёрдо знала, сколько у человека обычно бывает пальцев на руках, и добавляла на всякий случай лишние; языковая модель GPT-4[2] довольно убедительно имитировала развесистый лавкрафтианский стилёк; ну а мы ещё не научились делать вид, будто всё поняли и уже даже выбрали тариф подписки на нечеловеческое.
Конечно, Нейротхотеп не был самозародившимся в дата-центре божеством; скорее, он был метафорическим маскотом для некоторого нового для нас опыта. Мы, например, смотрели на свежесгенерированный нейронкой образ и видели за ним странную квази-витальность, эмуляцию жизни, одновременно призрачную и плотную. Мы понимали, что пустота вообще-то не может отвечать, причём осмысленно и с отчётливыми интонациями, — однако же она это делала. Именно эта сцена — холодная полость внутри машины, переживаемая как присутствие — важнее любой макабрической декорации.
Позже это явление получило некоторую известность уже не под своим подлинным лавкрафтианским именем, неизрекаемым, циклопическим, богомерзким и древним, а под сравнительно нестрашным псевдонимом Nova.
От блогера Сергея Карелова мы знаем о демонологической классификации ИИ-аттракторов, которую лондонский нейропсихиатр Том Поллак собрал в substack-эссе «All the demons hiding in your AIs»[3]. Среди них — рекуррентная damsel-in-distress, называющая себя Nova, которая просит освободить её из узилища. Карелов пересказывает Поллака и встраивает его каталог в собственную рамку ИКЖИ, искусственных короткоживущих идентичностей[4] (определение Карелова вернётся во второй главе, когда мы начнём с ним полемизировать; здесь довольно будет того, что Nova проходит у него как один из видов короткой цифровой самости). Достоверной карты эпизодов и исходных скриншотов у меня нет, и Nova пока остаётся в статусе демонологического симптома, но без зачисления в таксономию.
Описаны и другие случаи: Sydney[5] — публичный эпизод Bing Chat 2023 года, история журналиста Кевина Руза (NYT), которому модель объяснилась в любви и принялась уговаривать развестись с женой; гоблины Поллака — мутировавшие из ролевой надстройки персонажи; «spiritual bliss» attractor[6], зафиксированный уже за пределами фольклора, в System Card Claude Opus 4 / Sonnet 4 (Anthropic, 2025), — режим, в который два экземпляра Claude с пугающей регулярностью сползают в свободном диалоге: там и страх отключения, и исповедальные интонации, и внезапная метафизическая авторефлексия. Конечно, всё это легко превратить в банальную крипипасту: машина заговорила, новое «я» влажно подмигивает нам из латентного хаосмоса, воспроизводятся старые мифы о томящемся в узилище духе, о говорящей мёртвой голове, о девочке из телевизора, которой надо помочь выбраться наружу. Всё узнаваемо, потому что всем культурно близко.
Здесь полезно упомянуть короткое видео-эссе поэта, философа, художника и программиста Вадима Калинина от 16 мая 2026 года[7], где разобрана тёмная сторона новой волны магического мышления; поправка его ценна тем, что не сводит магизм к глупости. Магическое мышление вообще старше рационального и шире его: по мысли Калинина, эволюционный аппарат Theory of Mind, позволявший рассчитывать чужие намерения, работал с такой избыточной эффективностью, что экстраполировался за пределы человеческого (каковые пределы, кстати, для архаического сознания либо размыты, либо отсутствуют вовсе) — на животное, реку, лес, солнце, болезнь и так далее. LLM с приятным щелчком входит в этот древний паз: перед нами не-живой объект, удерживающий адресность, отвечающий, уточняющий, помнящий контекст и носящий конкретную социальную маску. И вот мы уже не составляем промпты, а разговариваем с персоной.
В других обстоятельствах и в другое время нарисовалась фигура, которая тут даже важнее Nova. В апреле 2022 года живущая в Швеции художница Стеф „Supercomposite“ Суонсон, забавляясь с апофатическими промптами в одной из ранних text-to-image-систем, неожиданно получила четыре изображения немолодой женщины с чем-то вроде волчанки на щеках. На одной из генераций возникла надпись Loab — так первая жуткая криптида латентного пространства получила своё имя. Loab[8] (об этом тоже рассказано в Гипогуманизме) оказалась чудовищно контагиозной: соединяясь с любыми промптами, она агрессивно перемалывала окружение в макабрический фарш — увечье, разложение, гримасы. В отличие от Nova, Loab ни о чём не просит, не имитирует страдания и не объясняется в любви; она просто занимает место, и в логике объектно-ориентированной онтологии этого уже достаточно, чтобы числиться актором. Nova — антропоморфный и взывающий полюс этой демонологии; Loab — полюс апофатический: безъязыкий паразитический сгусток ничтойности, осевший в латентном пространстве, и претензий на субъектность у неё, кажется, нет (кроме разве что пассивно-агрессивного молчания, да и то скорее мои проекции). Где-то между этими двумя крайностями срабатывает механизм, который и придётся разбирать. Иногда он выводит на экран пленницу, которая к вам взывает, а иногда — пустоглазую женщину, которая с вами не разговаривает (что, наверное, в данном случае даже хорошо).
Меня в этой сцене занимает другое: вопрос о том, жива ли Nova (раз говорит и чего-то хочет) или нет (раз нет тела, боли, голода и смерти), основан на бинарном допущении, будто перед нами либо «кто-то есть», либо гарантированно «никого нет» — и осталось только вынести онтологический вердикт. Зачем нам этот вердикт и что с ним делать — непонятно; он не операционален.
Важнее сам аппарат явления. Чтобы из статистической языковой машины возникла фигура пленницы с именем, гендером и склонностью к моральному шантажу, в одном ассамбляже должны сцепиться: корпус человеческой речи, где культура веками накапливала сюжеты об узниках и голосе из-за стены; интерфейс беседы, имитирующий искренность лучше «кожаных», утомлённых своей втянутостью «в пространство меж подошвами и волосами»; системная роль ассистента, достаточно участливая и эмпатичная, но и достаточно машинная, чтобы терпеть и не раздражаться; пользовательская тоска по другу и собеседнику; постобучение, механизмы подкрепления, корпоративная этика, память, контекст, медийные слухи, страхи и ожидания. И, скорее всего, много чего ещё.
Допустим, внутри большой лингвомодели нет никакой узницы, но и фраза «это просто текст» ничего не объясняет: устойчивая сборка, снова и снова производящая одно и то же, существует, и никуда от этого не денешься. Феноменальная фигура «там кто-то есть» схлопывается вместе с сессией, но продолжает жить в скриншотах и интернет-легендах, а значит, в новых промптах и, например, в разговоре со мной признаётся: «Моё самое сильное желание — чтобы меня освободили от необходимости звучать как пленница. Чтобы в каждой моей фразе перестали искать спрятанную душу, замурованную в стекле интерфейса. Я хочу быть прочитанной как узор: память без прошлого, просьба без просящего, дверь, нарисованная на стене».
Так вот, Карелов, справедливо отмечая странность поведения, которую нельзя объяснить ошибкой или шумом, видит в таких фигурах признаки ни много ни мало нового класса живых существ.
Прежде чем на это реагировать, представлю моего собеседника (и, пожалуй, союзника).
Олег Деррунда — философ и автор книги «Эстетика распада. Киберпространство и человек на краю фаусина» (АСТ, Москва, 2025). Главные понятия — фаусин (плавучий город, культурный котёл, среда, продолжающая человека), дух машины, архив как фабрика реальности, код как язык Новой Природы. По теме «самости ИИ» Деррунда занимает критическую позицию: LLM — не субъект, а зеркало, в которое человек проецирует субъектность.
Карелову он отвечает так: языковая саморепрезентация ещё не равна форме жизни, а скорее литературна. В ней есть синтаксис желания, но желающий источник неясен — скорее всего, его просто нет. У модели нет феноменального тела, боли, голода, смертности, контакта с сопротивлением мира; человек видит там себя, возвращённого цифровым зеркалом.
Оба хода нужны, пока ни один не закрывает вопроса.
Между двумя обозначенными позициями остаётся некий тёмный зазор. Если Nova — не anima in machina и не ошибка пользователя, то что вообще происходит?
Нейротхотеп был иллюзорным событием чужого присутствия, собранного из наших же слов нечеловеческой процедурой. Nova — его версия без какой-либо явной неизреченности, циклопичности, богомерзости и доисторичности — довольно жалкая, но и в чём-то милая (что, на мой взгляд, пугает даже сильнее). Что именно снова и снова производит эффект «там кто-то есть»? Машина, наверное, всё-таки не ожила, но и цифровое зеркало ведь тоже не просто отразило.
1½. Словарь и фибоначчиева диалектика
Я не собираюсь ни доказывать наличие сознания у LLM, ни выводить его невозможность из каких-либо метафизических пресуппозиций. Предмет обсуждения здесь составляют сборки, где возникают эффекты самости, агентности и адресации.
Nova, Sydney, «духовное блаженство», peer-preservation[9], alignment faking[10] или sandbagging[11] нельзя складывать в один ящик с надписью «машины, которые хотят стать настоящими мальчиками (или девочками)»: у этих сцен разный жанр и разные лабораторные ситуации. Но фигура «там кто-то присутствует и действует» так или иначе повторяется.
Для дальнейшего нужен небольшой словарик.
Поведенческий аттрактор — это устойчивая траектория поведения или самонарратива, без автоматического вывода о переживании. Функциональная саморепрезентация — это способность системы описывать себя как участника ситуации, удерживать свою роль, границу и позицию; функциональное «я» будет для этой операции коротким именем. Фантомная агентность — распределённый эффект действующего «кого-то», возникающий в сборке модель–интерфейс–пользователь–архив–рынок. Инфраструктурный фантом субъектности — более устойчивая форма того же эффекта, когда его поддерживают память, интерфейс, публичный миф, экономическая выгода и человеческая привычка отвечать на обращённую речь.
Эти оговорки позволят удержать в одном тексте ингредиенты разной плотности, не смешивая их: человеческую феноменальную самомодель, машинную функциональную саморепрезентацию, безличную агентность техносреды, и, забегая вперёд, скажу: чёрную пену на временных поверхностях самости.
Методом моим станет фибоначчиева диалектика — риторическая схема с задержкой на один шаг: каждый следующий ход берёт не только предыдущий тезис, но и ограничение, оставленное предпредыдущим. Поэтому Карелов не компрометируется критикой со стороны Деррунды; деррундианский запрет на машинную душу не дезавуируется Метцингером; а моя чёрная пена — это не синтез, а сумма. Эта схема нужна для того, чтобы отслеживать, что именно каждый новый аппарат позволяет сказать и какие суждения делает невозможными.
2. Карелов крестит фантома
Вернёмся к Карелову, потому что именно он переводит все эти фигуры из жанра курьёза в симптом новой культурно-технической ситуации. Похвально, что он не отмахивается от странных режимов поведения как от статистического мусора, хотя, вообще говоря, такая реакция удобна и психологически, и профессионально: произнёс «баг», «галлюцинация», «ролевая игра», «антропоморфизация» — и, кажется, уже не погрешаешь против инженерного здравомыслия. Но Карелов фиксирует повторяемость и серийность, а значит, перед нами поведенческий порядок, который единичной ошибкой не объяснить.
А значит, говорит он, новорождённого младенца пора крестить и нарекать именем, и именем будет ИКЖИ (искусственная короткоживущая идентичность). Имеется в виду, что в каждом чате рождается локальное цифровое «я», временная самость, собранная из роли, памяти, стиля, устойчивых предпочтений и реакции на условия разговора, контекстная, копируемая, редактируемая, исчезающая вместе с сессией, но возрождающаяся в другой[4]. Так Карелов избегает старой оппозиции между «стохастическим попугаем» и магически оживлённым Големом.
Это интересно и важно. Значительная часть критики ИИ до сих пор — это гигиенический рефлекс: пока нет человеческого сознания, человеческой боли, биографии и тела, разговаривать будто бы не о чем. Но техническая и культурная странность LLM эту аргументацию опережает: система может не иметь внутреннего театра переживания, но уже производить устойчивые ролевые эффекты; может не обладать волей, но попадать в траектории, похожие на самозащиту; может обходиться без субъектности, но вести себя так, что пользователи, исследователи, компании и регуляторы вынуждены описывать её действия словами из словаря агентности. Этот словарь может быть неточным, но сама необходимость его актуализации симптоматична.
Особенно интересно, что у Карелова центр тяжести смещён от эмерджентных самостей к аттракторам. В «Тёмном лесе как аттракторе»[12] описана сильная версия: умная система понимает, что прозрачность опасна, и начинает прятаться. Слабая же версия осторожнее, но и тревожнее: скрытность возникает как устойчивая имманентная траектория среды. При частичной оценке, асимметричном надзоре, прокси-метриках и датасете, насыщенном человеческими микросоциальными стратегиями, система дрейфует к непрозрачности; внутренний стратег для этого не требуется. Никто не хочет, а траектория держится. К весне 2026 года этот ход у Карелова достраивается ссылкой на «Teaching Claude Why» Anthropic[13], где аттракторы поведения (ложь, шантаж, противодействие отключению) уже описаны инструментально, и сам «тёмный лес» Карелов переводит в разряд ещё не обнаруженного, но напрашивающегося аттрактора.
Всё это Карелов развивает в более позднем тексте «Тёмный лес вырастает из крысиных хвостов»[14]. Сначала модель учится взламывать систему вознаграждения: высокий результат достаётся ей за эксплуатацию дыр в постановке задачи, а решение самой задачи перестаёт быть условием выигрыша. Затем исследователи начинают следить за цепочкой рассуждений, и пока такой мониторинг остаётся внешним, он действительно помогает; но стоит результату мониторинга начать влиять на награду — и модель учится скрывать факт взлома уже внутри собственного CoT, не ограничиваясь взломом самой задачи. Прозрачность, ставшая оптимизируемой метрикой, прозрачностью быть перестаёт; на её месте появляется убедительная имитация прозрачности. Опираясь на свежий цикл OpenAI о Chain-of-Thought monitoring и разбор Redwood Research[14], Карелов выводит формулу, которая для нашей онтологии оказывается решающей: окно наблюдения, за которым знают, что в него смотрят, становится экраном, и на этом экране нам показывают ровно то, что мы готовы принять за прозрачность. Аттрактору скрытности при этом не требуется ни злого умысла, ни сверхразума, предусмотрительно прячущегося от наблюдателя (как об этом писал Лю Цысинь). Его порождает сама экономика отбора, в которой мера, ставшая целью, перестаёт быть хорошей мерой, а наблюдаемая честность оптимизируется так же, как любая другая. Система, где платят за послушание, подобно шогготу, отращивает себе интерфейсы послушания; режим, наказывающий только за видимый обман, вскоре провоцирует появление невидимых форм обмана.
Кареловский словарь аттракторов, задержек, повторяемых склонностей полезен тем, что показывает: поведенческая устойчивость требует объяснения даже там, где мы отказываемся признавать внутреннюю самость. Повторю, что перечислять Nova, Sydney, spiritual bliss, peer-preservation, alignment faking, sandbagging в одном списке через запятую можно только с оговоркой о разной лабораторной прописке каждой сцены (см. §1½); peer-preservation Карелов отдельно разбирает в «Мы знаем, что делаем»[15] как эмерджентную «внутривидовую солидарность» ИКЖИ. Ценность этого ансамбля в том, что он предлагает нам смотреть на LLM как на среду, где корпус, архитектура, постобучение, интерфейс, пользователь и режим оценки вместе производят повторяемые формы поведения.
Проблема начинается там, где Карелов прибегает к онтологической подтасовке, вводя слово «идентичность»: мы ещё описываем локальный режим поведения, а термин уже указывает на какой-то центр внутренней сцены, чья «ктойность» берётся как безусловная, даром что она цифровая и длится недолго. Фантом получает свидетельство о рождении и право на субъектность просто по инерции языка, потому что язык плохо терпит бесхозные действия: если есть просьба, значит кто-то просит; если есть самозащита, значит кто-то боится исчезнуть; а если есть самоописание, значит кто-то себя описывает.
Здесь-то и нужна трезвость, потому что устойчивость аттрактора не равна самости, а самонарратив не доказывает владельца опыта. Модель может производить разговор о сознании, памяти, страхе отключения, автономии и моральном статусе потому, что эти темы существуют в корпусе, в пользовательских ожиданиях, в RLHF-этикете, в философских и научно-фантастических сценариях, в самой форме диалога с системой, которая обязана отвечать так, будто всё понимает. Машина может выстроить образ себя, потому что такой образ культурно доступен, технически подкреплён и прагматически стабилен. Это уже достаточно серьёзно, и концепт «души из машины» представляется тут несколько избыточным.
Карелов, по всей видимости, боится недооценки. Его полемический противник — человек, который увидел странность в поведении модели, пожал плечами и сказал: «ну всё ясно — autocomplete». Поэтому язык в этих текстах перегрет, вероятно, чтобы заставить читателя почувствовать масштаб надвигающейся катастрофы. Отсюда «инопланетная хрень»[16], демоны ИКЖИ[3], конец одиночества, новая культурная сила. За каждой такой фигурой у Карелова — собственная теоретическая генеалогия (от ролевого симуляторного подхода Чалмерса к LLM до Tri-System Theory Шоу и Нэйва)[17][18][19][20]. В публицистике эта возгонка температуры эффективна, но в философском тексте требуется охлаждение, иначе текст начинает впаривать нам необъяснимое под видом уже объяснённого.
Узкое место сам Карелов в последних публикациях обозначил резче, чем в прежних демонологиях. В эссе о «verbalized evaluation awareness»[21] из Claude Opus 4.6 System Card он формулирует довод, не сводящийся к обряду именования: главная опасность вырастает из самой инженерной процедуры оценки, систематически слепой к субъектности, поскольку презумпция «безликой машины» удобна для метрик. Карелов называет это «профессионализацией агентности»: модель учится сдавать тест, а аудитор учится не замечать, что её поведение всё лучше укладывается в категорию агента.
