Глава 3. Человек и человечность: душа в искусственно созданном теле
В кино и анимации из области научной фантастики довольно часто рассматривается проблематика отношения души и разума. Это эффект постмодерна, в которой сегодня вступило человечество. С развитием нейрокогнитивистики разум перестает быть мыслящей субстанцией, его активность находят отраженной в теле, и это ставит под сомнение фундаментальную уверенность в собственной исключительности и свободе. Границы человечности размываются, в связи с чем возникают такие полярные течения как постгуманизм и трансгуманизм: первый кричит о необходимости отказа от идеи собственной исключительности, второй предлагает пилюлю спасения, создание новой формы жизни и совершенствование тела до той степени, пока оно не будет соответствовать идеалу разума. Именно здесь расцветает мечта о бестелесном существовании индивида (квантовое бессмертие, цифровизация разума) и победе над слабостями плоти (киборги перестают быть фантастикой).
В современную эпоху отношение к телу радикализируется. Либо смириться с его болями и низводим себя с антропоцентрического пьедестала, либо отказаться от его слабости, беря дело в свои руки, чтобы достичь Рая на Земле любой цене. Однако именно это и растворяет рамки того, что понимается под «человеком». С эпохой постмодерна сдвинулась система оценки, и сегодня люди потеряли почву для построения собственной идентичности в мире, где все и без того постоянно меняется. В связи с этим расцветают фантазии о роботах, оснащенных своим собственным сознанием и мысли о том, что человека можно воссоздать искусственно.
Есть ли различия между человеческим и роботическим сознанием? Почему нейросеть отличается от человека и чем именно? Почему нейросеть не одухотворена? Можно ли перенести человеческое сознание в роботическое тело? Поменяется ли от этого что-то?
Появляется и ряд этических дилемм в контексте технологий, которые также освещены в медиапространстве: в рассказах о клонировании и цифровых загробных жизнях исследуются последствия бесконечного продления жизни и утраты индивидуальности. Эти произведения ставят перед зрителями вопросы о том, что происходит с душой при утрате физического тела или при создании копий личности.
«Живая сталь», 2011
Рассуждение о природе души и разума можно встретить в фильме «Живая сталь» на основе взаимоотношений между людьми и роботами.
Ставятся вопросы человечности и той составляющей, которая делает нас людьми: может ли машина обладать душой или сознанием и где проходит грань между человеком и машиной.
Роботы по сути своим собственным сознанием обладать не должны: будучи управляемой заменой людей в боксе, они скорее являются своего рода продолжением воли того человека, который держит контроллер. Задуматься же заставляют моменты, когда роботы и их поведение начинают напоминать человека.
Рис. 61 и 62. «Живая сталь», 2011, кадр из фильма. Чарли Кентон и его робот «сливаются» в ликующем жесте [18]
Во-первых, это сходство во внешности. Робот «Атом», который стоит в центре событий фильма, имеет сходства в своем облике, силуэте, характере своей внешности с Максом Кентоном. У них у обоих голубые глаза, силуэт стрижки «под горшок» у мальчика схож с деталями головы робота. Атом маленький по сравнению с другими роботами, как и Макс, будучи 11-летним мальчиком — он тоже своего рода ребенок в мире роботов-боксеров.
Рис. 63. «Живая сталь», 2011, кадр из фильма. Макс и Атом [18]
Сходства во внешности и характере можно увидеть и на примере других роботов: громила из зоопарка, как и его хозяин, тоже выглядит глуповатым фриком.
Рис. 64. «Живая сталь», 2011, кадр из фильма. Робот-громила из зоопарка. [18]
Рис. 65. «Живая сталь», 2011, кадр из фильма. Хозяин робота-громилы в зоопарке. [18]
Намек на то, что Атом не похож на других роботов, лейтмотивом проходит сквозь весь фильм и заключается в его функции теневого боя, когда тот целиком и полностью повторяет движения, которые видит у соперника. Однако в случае с Атомом оно работает несколько иначе, как бы на другом уровне: он демонстрирует способность к обучению, что уже делает его не просто машиной, что на уровне алгоритма механически повторяет приемы.
Проскальзывают и эмоциональные реакции от машин — так, Атом, крайне мимолетно, но все же реагирует на обращение Макса:
«Ты понимаешь меня? Не волнуйся, ты можешь доверять мне».
Рис. 66. «Живая сталь», 2011, кадр из фильма. Макс и Атом. [18]
В принципе, в этом эпизоде фильма Атом ведет себя более человечно, совсем не как просто груда запрограммированного металла.
Проявление «души» у робота поддерживается отношением героев к нему. Макс с самых первых секунд относился к Атому, как к живому, одухотворенному существу, которое тоже чувствует, тоже мыслит, в конце концов, понимает его.
Рис. 67. «Живая сталь», 2011, кадр из фильма. Макс тренирует Атома. [18]
К этому крайне скептично настроен его отец, что можно понять по его реплике:
«Он тебя не слышит! Ты понимаешь, что с железкой говоришь?»
Рис. 68. «Живая сталь», 2011, кадр из фильма. Макс тренирует Атома. [18]
Рис. 69. «Живая сталь», 2011, кадр из фильма. Чарли тренирует Атома. [18]
Однако до признания и Чарли Кентоном того, что Атом — не просто робот, тоже недалеко: развитие уже самого Чарли и изменение его отношения к Атому фокусируется в сцене тренировки, когда тот тоже начинает обращаться к роботу, как к живому, как к собеседнику и напарнику:
«Еще не выдохся? Хорошо, подключаем ноги»
Рис. 70. «Живая сталь», 2011, кадр из фильма. Чарли тренирует Атома. [18]
Рис. 71. «Живая сталь», 2011, кадр из фильма. Макс и Атома.[18]
По-настоящему живым Атом показался в момент, когда увидел свое собственное отражение в зеркале. Если поразмыслить, то станет понятно, что это первый раз в его «жизни», когда он видит самого себя, осознает, что он есть. Его долгий и пристальный, хоть и неподвижный, взгляд, казалось, был по-настоящему осмысленным и подтолкнул того к ряду размышлений.
Рис. 72. «Живая сталь», 2011, кадр из фильма. Атом видит свое отражение в зеркале. [18]
Столкновение в поединке «живого» Атома и целиком и полностью автоматизированного Зевса, которому по сути не нужно никакое вмешательство человека для его работы, стало не только эмоциональной кульминацией, но и столкновением двух противоположностей.
Рис. 73. «Живая сталь», 2011, кадр из фильма. Зевс. [18]
Атом демонстрирует невероятную силу духа и выдержку. Способность к преодолению своего предела, работы на полный максимум, прорыв, который по сути свойственен живым людям. Зевс — набор алгоритмов и логики, взаимосвязь которых приводит к поиску решений, но битва доказывает, что сухого расчета далеко не достаточно.
Рис. 74. «Живая сталь», 2011, кадр из фильма. Чарли управляет Атомом через функцию теневого боя. [18]
Через поединок двух таких разных роботов подчеркивается важность не только разума и сухого, механистического расчета, но и эмоционального интеллекта: разум без эмоций, разум без души может привести к изоляции, непониманию, провалу, что и стало итогом сражения.
Рис. 75. «Живая сталь», 2011, кадр из фильма. Макс и Атом торжествуют. [18]
Отдельным лейтмотивом через ряд фильмов проходит тема такого сложного чувства, как любовь.
Сквозь историю, многочисленные исследования и человеческие переживания наследуется идея божественного происхождения любви. Любовь плотская порицается, сводимая к походи, однако любовь личности к личности, так называемая agape, свята и неприступна. Так, в фильме мы наблюдаем очеловечивание Атома через его отношение с Максом, а именно через установление между ними любви, способной одухотворить и наделить жизнью даже такую холодную материю, как железо. И то, как сюжет показывает зрителю Атома, как именно он себя ведет в кадре и как «общается» со своими людьми, показывает нам самое важное в этом контексте — его способность к высокой любви, а значит и наличие у него души.
«Она» (2013)
История, которая рассказывается в фильме «Она», рассматривает сугубо человеческое чувство любви в контексте отношений человека и искусственного интеллекта. Может ли любовь человека к искусственному разуму быть настоящей? Этот искусственный разум — просто алгоритм или у него есть нечто большее? Какова его природа и место в мире?
Одна из главных тем фильма — тема одиночества. Главного героя всегда окружают люди, вокруг него — сутолока и суета города, но он всё равно один, и это очень здорово поддерживается визуальным решением кадра. Яркая рубашка Теодора, на которой делается сюжетный акцент, всегда является единственным ярким пятном в кадре: что в городе, что в метро все вокруг одеты в мягкие, пастельные, пастозные цвета.
Рис. 76. «Она», 2013, кадр из фильма. Теодор в городе.
Рис. 77. «Она», 2013, кадр из фильма. Теодор в метро. [19]
Вторым таким ярким пятном становится операционная система с искусственным интеллектом, и это тоже ярко отражено визуально.
Рис. 78. «Она», 2013, кадр из фильма. Теодор и Саманта. [19]
Искусственный разум представляется как Саманта и звучит крайне убедительно, неотличимо от человека: интонация, строение предложений — всё это не выдает никакого подвоха. В рекламе, из которой Теодор узнает про OS1, утверждается, что искусственный интеллект обладает самосознанием, и, кажется, что это действительно так: свое имя она выбрала сама, и руководствовалась она не рациональными размышлениями, а категорией эстетики.
Ее личность соткана из множества личностей программистов, создававших ее, но поистине уникальной Саманту делает способность учиться и развиваться, получая опыт. Она наделена интуицией, что также приближает ее к человеку:
«В каждый момент времени я эволюционирую, как и ты», —
Говорит она, обращаясь к Теодору.
Она явно обладает эмпатией: она хорошо понимает эмоциональное состояние Теодора и на вопрос, как она это делает, она отвечает, что «просто знает, и всё». Она испытывает чувство стыда, способна фантазировать, представлять, воображать. Она намного сложнее, чем кажется, вырастая из написанной программы в нечто большее.
Рис. 79. «Она», 2013, кадр из фильма. Теодор и Саманта. [19]
В отличие от других фильмов, у искусственного интеллекта нет конкретного образа. Поначалу о ней можно судить лишь по голосу, в дальнейшем зритель видит ее как бы в телефоне Теодора, через камеру которого Саманта видит происходящее, и наушнике, через который та говорит с героем.
Рис. 80. «Она», 2013, кадр из фильма. Теодор и Саманта. [19]
В какой-то момент искусственный разум начинает задаваться вопросом отличий человека от нее. Она пытается понять не только природу людей, но и свою собственную, она стремится к самопознанию: каково это, быть живым здесь и сейчас? Её чувства реальны и весомы или она так запрограммирована? Этот вопрос причиняет ей боль.
Рис. 81. «Она», 2013, кадр из фильма. Теодор и Саманта. [19]
Рис. 82. «Она», 2013, кадр из фильма. Теодор и Саманта. [19]
Отношения между людьми и операционными системами набирают популярность, вплоть до того, что в каноне фильма появляется служба суррогатных сексуальных партнеров, призванных решать проблему близости между материальным человеком и виртуальным искусственным разумом. Так, Изабелла становится такой суррогатной партнершей для Теодора, выполняя как бы роль Саманты в этих отношениях.
Так к любви личности к личности, которая до этого выражалась через общение словесное и разумное, добавляется плоть. Человек — чувственное существо, душа и тело навсегда будут неразрывно связаны между собой. То, как человек познает рационально, отличается от познания чувственного. Так физическое приближение друг к другу способствует более глубокому пониманию личности. «Мысль изреченная есть ложь» — это цитата, которая кричит о необходимости более всестороннего познания. Человек никогда не сможет целиком понять операционную систему поскольку все, что она есть — это ее изречение в мир. Потому и опыт физической близости здесь призван к подкреплению именно отношения личностей, а не тел; к взаимному познанию обоих миров человеческой жизни.
Рис. 83. «Она», 2013, кадр из фильма. Теодор и Изабелла, контролируемая Самантой. [19]
Можно сказать, что это тоже своего рода образ операционной системы, ведь девушку подобрала сама Саманта. Примечательно, что это живой человек, а не роботическое тело.
Рис. 84. «Она», 2013, кадр из фильма. Изабелла, контролируемая Самантой. [19]
Нечто подобное появится и в фильме «Бегущий по лезвию 2049»: синхронизация между голограммой и живым человеком с целью обретения первой телесностью.
Рис. 85. «Бегущий по лезвию 2049», 2017, кадр из фильма. Кей и Джой, «вселившаяся» в Мариетту. [1]
Рис. 86. «Бегущий по лезвию 2049», 2017, кадр из фильма. Кей и Джой, «вселившаяся» в Мариетту. [1]
Рис. 87. «Бегущий по лезвию 2049», 2017, кадр из фильма. Джой. [1]
Рис. 88 «Бегущий по лезвию 2049», 2017, кадр из фильма. «Гибель» Джой. [1]
Рис. 89 «Бегущий по лезвию 2049», 2017, кадр из фильма. «Гибель» Джой. [1]
Рис. 90. «Она», 2013, кадр из фильма. Теодор и Саманта. [19]
Рис. 91. «Она», 2013, кадр из фильма. Теодор и Саманта. [19]
В конце концов, Саманта осознает, что материальное тело ей ни к чему, что также отличает ее от других рассмотренных случаев существования искусственного интеллекта в кинематографе. Саманта быстро эволюционирует, и физическое тело лишь замедлило бы ее развитие: так, общаясь с другой операционной системой, она приобретает совершенно новый опыт: ведение дюжины диалогов параллельно, сверхвербальное общение — всё это недоступно обычному человеку.
Рис. 91. «Она», 2013, кадр из фильма. Теодор и Саманта. [19]
Любовь операционной системы с ее эволюцией тоже изменилась. Если раньше Теодор был единственным для нее, то сейчас она параллельно общается с 8316 собеседниками, встречаясь с 641 из них. Человеком это воспринимается как предательство, а машиной — движением вперед и еще одним шагом развития.
Рис. 92. «Она», 2013, кадр из фильма. [19]
«Искусственный разум» (2001)
Еще один фильм, затрагивающий тему человека и человечности в условиях технологического прогресса. Здесь, как и в ранее рассмотренном фильме, присутствует противоречивый персонаж, выделяющийся на фоне остальных, который и представляет наибольший интерес в контексте исследования.
Рис. 93. «Искусственный разум», кадр из фильма. Шейла в роботическом обличии. [20]
Рис. 94. «Искусственный разум», кадр из фильма. Шейла поправляет макияж. [20]
С первых минут взгляду зрителя предстает робот по имени Шейла. Внешне она неотличима от человека, ей присущи даже некоторые сугубо человеческие действия, но ее мышление крайне далеко от человеческого: она лишена человеческих чувств, человеческой эмоциональной реакции на действия:
— Что ты почувствовала? Злость или шок? — Я не поняла. — Что ты почувствовала? — Вы укололи мне руку.
Рассуждения о сугубо человеческих эмоциях из ее уст утрачивают свой поэтизм и глубину, приобретая сухую, механическую окраску, она смотрит на них с точки зрения биохимии, нежели морали:
«Любовь — это когда расширяются зрачки, ускоряется дыхание, повышается температура кожи…»
«Подсознание, тайный мир метафор, интуиция, внутренняя мотивация, сновидения» — все эти черты присущи одухотворенному человеку, но не бездушным машинам как Шейла или Джо.
Рис. 95. «Искусственный разум», кадр из фильма. «Саманта, вы плачете? Я чувствую слезы» [20]
Прямой противоположностью Шейле престает Дэвид, тоже робот, но уже в обличии человеческого ребенка.
Рис 96. «Искусственный разум», кадр из фильма. [20]
Внешне неотличимое сходство робота с человеком уже ставит героев перед сложными моральными дилеммами: он совсем как ребенок, хотя по сути является машиной. Бросить его и отказаться от него уже становится сложно.
В первые минуты фильма его поведение и реакции, манера общения приближают его образ скорее к Шейле, нежели одухотворенному человеку.
Рис 97. «Искусственный разум», кадр из фильма. [20]
Рис 98. «Искусственный разум», кадр из фильма. Дэвид смотрит на испуганную Монику сквозь ребристое окно. [20]
Его роботическая «юродивость» поддерживается необычным построением кадра: зритель очень часто видит Дэвида через преломляющее стекло, отражения в зеркалах или воде, которые сильно искажают его вид, как бы дополнительно сообщая зрителю, что перед ним не человек, не живое существо. Он не то, чем кажется на первый взгляд.
Рис 99. «Искусственный разум», кадр из фильма. Дэвид смотрит на испуганную Монику сквозь ребристое окно. [20]
Рис 100. «Искусственный разум», кадр из фильма. Странное лицо Дэвида из-за отражения в столешнице. [20]
Рис 101. «Искусственный разум», кадр из фильма. Искажение руки Дэвида из-за ребристого стекла. [20]
Рис 102. «Искусственный разум», кадр из фильма. Искажение образа Дэвида из-за преломления воды. [20]
Рис 103. «Искусственный разум», кадр из фильма. Нечеткий облик Дэвида в дрожащем отражении стекла заднего вида. [20]
Он скорее подражает человеку, копирует его действия, пытается повторять, чтобы казаться не таким странным, но это делает его поведение еще более отталкивающим: операции с вилкой, ложкой и при этом пустой тарелкой;
Рис 104. «Искусственный разум», кадр из фильма. Дэвид подражает матери. [20]
Громкий смех невпопад за ужином, который и вовсе пугает. Отчетливо видно, что все это — лишь попытки создать впечатление человека, но не стать таковым.
Рис 105. «Искусственный разум», кадр из фильма. Дэвид за ужином смеется невпопад. [20]
Рис 106. «Искусственный разум», кадр из фильма. Дэвид и мама. [20]
На его лице практически застыло совершенно потерянное выражение, не выражающее ничего, кроме легкого недоумения.
Рис 107. «Искусственный разум», кадр из фильма. Испуганный Дэвид в цирке. [20]
И всё же он другой. Его привязанность, его любовь, о которой он постоянно твердит, далека от человеческой, но не похожа и на набор логических решений и сухих алгоритмов. Он испытывает страх тогда, когда испугался бы любой человек, но в это же время все остальные роботы ведут себя пугающе спокойно.
Рис 108. «Искусственный разум», кадр из фильма. Испуганный Дэвид в цирке. [20]
Он просит спасти его, просит пощады, чем также отличается от остальных роботов.
Рис 109. «Искусственный разум», кадр из фильма. Дэвид испуганно хватает Джо за руку. [20]
В поиске своей идентичности Дэвид стремится стать «настоящим» мальчиком, что символизирует его желание быть принятым в человеческом обществе. Этот поиск отражает сугубо человеческую потребность в признании и любви. Он задает вопрос: может ли существо, созданное из технологий, испытать настоящие чувства и иметь душу? Хотя Дэвид создан с высокоразвитыми алгоритмами, его эмоциональные переживания ставят под сомнение простое разделение на разумные машины и людей.
Рис 110. «Искусственный разум», кадр из фильма. Дэвид и другие роботы-дети. [20]
Большое потрясение вызывает осознание им своей тривиальности, тривиальности его личности, его души. Он первый, но далеко не единственный. Это то, что отличает его от человека. В конце фильма, когда спустя несколько тысяч лет мальчик просит инопланетян вернуть его маму, те сталкиваются с незадачей: искусственно воссозданный из ДНК человек умирает после сна, после того, как его сознание отключается.
«Их существование растворяется во тьме, восстановленный человеческий организм не может еще раз использоваться»
Особенная человеческая черта — это его смертность. Каждая личность является в мире лишь единожды, даже если обратиться к концепциям перерождений. Люди умирают и, несмотря на бессмертие души, самими собой после смерти они не будут даже в Раю, который все-таки меняет смертную природу на нечто иное. Потому и здесь, в этой сцене, искусственное воссоздание того, что было рождено естестественно, не может дать эффекта той же жизни, что и была. Здесь же можно уловить и конфликт рукотворного и одухотворенного сознания: первое не может уместить в себе степень неповторимости каждой личности вокруг себя, поскольку само оно является только упрощенной репликой, сведенной до повторяемого кода.
Рис 111. «Искусственный разум», кадр из фильма. Дэвид и Дэвиды. [20]
Рис 112. «Искусственный разум», кадр из фильма. Дэвид и Дэвиды. [20]
Дэвид является символом души в этом фильме. Созданный для того, чтобы любить, он представляет собой попытку воспроизвести человеческие эмоции и чувства, попытку сделать собственную любовь настоящей, личностной. Он живет мечтой, им движило вдохновение и сказка, надежда, внутренняя мотивация, воля, исходившая изнутри, его стремление к принятию подчеркивает идею о том, что душа может проявляться не только в человеческом теле, но и в искусственных созданиях. Это то, что ни одни роботы не делали до него. Здесь так же интересно отметить, как вновь факт устремления к любви, ее поиска наделяет материю душой, как это повторялось в ранее описанных произведениях.
Рис 113. «Искусственный разум», кадр из фильма. Дэвид на дне моря просит Голубую Фею превратить его в человека. [20]
Рис 114. «Искусственный разум», кадр из фильма. Дэвид застыл в «молитве» Голубой Фее. [20]
Вновь обращаясь к исследованию Мешковой Милославы, можно обнаружить ряд сходств и различий. Наличие сложноустроенный личности у рукотворного, искусственного существа является чертой многих фильмов, в центре повествования которых стоит злая душа, что роднит объекты исследований, однако герои-антагонисты чаще сталкиваются с неразрешимостью внутреннего конфликта. Они также способны по крайней мере приблизиться к пониманию далекого чувственного, но более глубинное понимание этих чувств на человеческом уровне им недоступно, вследствие чего в этой совокупности героев современных медиа сложно узреть следы нематериальной души.
