Казус Чаппи

Не оборачивается ли распространение тенденции наивно обыгрывать эмансипацию технических объектов лишь ужесточением их эксплуатации? И более того, не является ли последнее самой сутью указанной тенденции? Как показывает практика воображения, признать машину специфическим существом мы готовы лишь тогда, когда она лишается самого технического содержания, заменяемого различными вариантами человекоразмерности.

pop-philosophy.net chappie1

Из последних примеров наиболее показателен в данном контексте случай с Чаппи. Этот милый, инфантильный робот, по замыслу Нила Бломкампа, должен показать нам как, даже будучи роботом, быть человеком. Более того – как быть правильным, хорошим человеком. Фильм, как и все работы режиссера, задает принципиальный этический посыл: алгоритмически чистый и непорочный Чаппи, включаясь в человеческую реальность и бушующие в ней страсти, в своей невесть откуда взявшейся наивности устраивается здесь в качестве воплощенного, до рвотных спазмов рафинированного добра. Собственно, с этих позиций он и учит как героев фильма, так и его зрителей – жизни. Однако инфантильность, простодушие и даже сказочность происходящего не должна сбивать нас с толку и служить оправданием тому, что мы видим на экране.

Основная, находящаяся на поверхности, подмена заключена в том факте, что нам изначально предлагают человека в машине. Речь не идёт о Шарлто Копли, который действительно, играя Чаппи, был как бы начинкой робота. Суть в том, что Чаппи – это человек: как бы не маскировался факт его человечности шелухой развития с нуля, в котором выбор человеческой модели развития как будто бы совершен неким свободным волевым усилием машины, всё же исходно Чаппи представлен как ребенок, который проходит все основные «фазы развития человека». Программист-создатель робота, беря на себя роль большого Другого, запускает в списанном дроиде №22 антропологическую машину, и мы видим, как Чаппи отождествляет себя с собой (демонстрируя воображаемый  объект Я, что указывает на «успешно» завершенную стадию зеркала), проявляет эдипальные наклонности, сублимирует, и главное – стыдится. Довольно смешно выглядит осознание Чаппи конечности своего существования, освоение им бытия-к-смерти как собственной способности быть, говоря языком Хайдеггера. Это происходит из-за изначальной поломки, из-за того, что «аккумулятор вплавился в корпус, его нельзя сменить, и заряда хватит не более чем на пять дней». Так и хочется прикрикнуть: «черт возьми, это же аккумулятор! Купите в «Евросети» зарядное устройство! И уже объясните кто-нибудь этому механическому придурку, что он – гребанная машина!»

Идея «человечности» составляет эмоциональный стержень фильма – сколько раз Чаппи сравнивается с челове(ч)ком, ребен(оч)ком и даже щен(оч)ком («очччч..чаппи..» – уменьшительно-ласкательные суффиксы здесь как нигде уместны). Разве не говорит его создатель Деон в исполнении Дева Пателя о том, что он хочет дать возможность роботу иметь сознание как у человека? что искусственный интеллект Чаппи такой же, как у homo sapiens, только «быстрее, выше, сильнее»? Странно, что никто не заметил комизма этих чисто количественных сопоставлений, предполагающих, что человеческий интеллект – такой же искусственный, как у Чаппи. Чтобы этот комизм вышел на первый план, можно представить себе перевернутый сюжет, в котором, например на планете уставших от скорости своего мышления разумных машин, эти последние искусственно создают человеческий интеллект и загружают его в слепленную из биомассы куклу, говоря: «смотрите, у него такой же интеллект как у нас, только медленней».

pop-philosophy.net_chappie5

В конце фильма, впрочем, нам уже прямым текстом говорят, что речь идёт не столько об искусственном машинном интеллекте, сколько о перенесении сознания человека в машину. Так, тот самый Деон, расставаясь со своим, говоря на языке хакеров, мясом, без видимых потерь перекочевывает в механическое тело и нисколько не чувствует себя ущемленным. Даже радуется. Чему, собственно? Когда в 1974 году Томас Нагель задается странным вопросом «Что значит быть летучей мышью?», он предостерегает от его возможного упрощения: «Все, что я могу себе вообразить (и это совсем немного), говорит мне лишь о том, как бы почувствовал себя я, если бы вздумал вести себя, как летучая мышь. Но я ставил вопрос не так! Я хочу знать, как чувствует себя изнутри сама летучая мышь!»[1] Радуется ли сознание Деона разрешению этой трудности в действительном ответе на вопрос «что значит быть машиной»? Разумеется, нет, оно довольствуется своим неведением относительно указанных Нагелем теоретических тупиков, в первую очередь тех, которые не позволяют уверенно ответить на вопрос: «Деон, копия сознания которого перенесена в машину – это тот же самый Деон, что и во плоти, или нечто иное?» Счастливое совпадение смерти человеческого тела Деона-во-плоти с копированием-перенесением его сознания в машинное тело снимает этот тревожный вопрос. И Деон-в-машине счастлив. Между тем мы должны были бы испытывать от самой мысли о перенесении сознания человека в машину аффект жуткого, подобный описанному Фрейдом в качестве образцового в «Unheimlich» – в том месте, где, ссылаясь на «Песочного человека» Гоффмана, он рассказывает о человеческих глазах, пересаженных в человекоподобный автомат Олимпию…

Казус Чаппи, таким образом, представляет робота в качестве имплантата человеческого тела (скорее даже сознания), что в целом выглядит вполне резонно и закономерно. Нечто подобное пытался продумать Станислав Лем, рассматривая в «Диалогах» механическое тело как гарант бессмертия, с тем основополагающим различием, что камнем преткновения для него стало само сознание и невозможность его копирования-перенесения на искусственный носитель.

Здесь необходимо сделать краткое, но чрезвычайно важное историческое (и историко-философское) отступление. Это тем важнее в вопросе о технике, чем больше у нас в распоряжении трудов под условным названием «История техники с древнейших времен до наших дней» или «Философий техники», которые начинаются с представлений о психотехниках времен архаики и заканчиваются современной проблематикой Искусственного Интеллекта. Определения техники, которое мы находим в подобных книгах, совершенно непригодны, потому что, как говорил Маркс о современных ему математических, механистических и экономических определениях машин, в них «отсутствует исторический элемент»[2]. Грубо и прямо заявим тезис: современная техника – нечто совершенно отличное от, например, техники древнего мира или средневековья. Даже если перед нами один и тот же молоток, современный молоток – не тот же инструмент, что использовался средневековыми кузнецами. Различие между ними носит дискурсивный характер: оно обусловлено конкретным диспозитивом, захватывающим технические объекты. Никто не чувствовал этого различия лучше Хайдеггера, с тоской ссылающегося на «голос более ранней истины», согласно которому «когда-то не только техника носила название “техне”»[3]. Несмотря на то, что мысль его остается на позициях романтического антропо- и, разумеется, онтоцентризма, он видит, что постав – это сущность именно современной техники, а не техники вообще. Более того, если мы, забегая вперед исторического подтверждения, перепрочтем под измененным углом зрения его ключевой тезис, согласно которому «техника не то же, что сущность техники», мы поймем, что поставом – нетехнической сущностью современной техники – захвачен, втянут в него и подвергнут риску не только человек, но и сама техника.

pop-philosophy.net chappie4

Современная техника дана нам в виде, т.е. в захваченности идеей, которая была сформулирована еще на заре Нового времени. Речь идет о довольно внезапном сближении человека и машины, наиболее яркие и небеспоследственные конфигурации которого мы находим в трудах Декарта и Ламетри. С одной стороны нас не может не удивлять полное безразличие этих мыслителей к оппозиции «естественное – искусственное», на которой сегодня строиться некоторые, впрочем довольно убогие, варианты философии техники[4]. В качестве машины Декарт и Ламетри рассматривают само естественное тело, обладающее неподконтрольным душе автоматизмом. С другой стороны, работа этого естественного автомата тела, этой машины, описывается ими в порядке переподчинения совершенно специфическому для Нового времени дисциплинарному аппарату власти. Не случайно Ламетри, пошедший, как ему самому казалось, дальше Декарта и заявивший, что «душа – лишенный содержания термин»[5], постоянно говорит о воспитательной муштре телесной машины, заявляя, что объем мозга животного увеличивается от приручения – так же как ум человека увеличивается в объеме – «чем больше упражняют воображение»[6]. Телесная машина регулируется посредством приучения воображения к самообузданию через остановку и задержку представлений, регулируется «при помощи обучения и упражнения»: «Человека дрессировали, как дрессируют животных»[7]. Это муштра в деталях: каждое колесо, каждая пружина человеческой машины, по Ламетри, представляет собой автономную единицу, отделимую от целого механизма, каждая деталь может прийти в негодность и требует специального надзора – в целях приведения человека к состоянию оптимальной функциональности: счастью. В случае поломки, отвращающей человека от пути к счастью, высшая судебная власть должна принадлежать механикам этой машины: «следовало бы пожелать, чтобы в качестве судей были только выдающиеся врачи. Лишь последние сумеют отличить невинного от виновного»[8].

Ничего не напоминает? Да, именно этот диспозитив машины стал основой для разворачивания социального контроля в новых масштабах (захватывающих анатомическую «детальность» устройства человеческого тела), с новым объектом (экономия, эффективность, организация), в новой – непрерывной – модальности. Этим диспозитивом захватываются живые тела: солдат, учеников школ, рабочих на мануфактурах и заводах, заключенных в тюрьмах, что прекрасно описано Мишелем Фуко: «Знаменитые автоматы … являлись не только способом иллюстрации функционирования организма; они были также политическими куклами, уменьшенными моделями власти»[9]. Диспозитив машины, обнаружившийся в сближении человека и автомата, это, однако, не только основа нововременной – капиталистической – эксплуатации человека, сводимого постепенно к «бездушному орудию», средству, «движущей силе» и т.п. Диспозитивом машины оказалась захвачена на заре современности сама техника, сама машина. Маркс описывает этот захват (оставаясь, впрочем, глухим к «вопросу о технике») как приобретение машиной «свободной формы», обусловленной «исключительно ее механической задачей», забывая о том уничижительном определении, которое сам дает выше: «Машины – средство производства прибавочной стоимости»[10]. Быть стандартизированным средством производства прибавочной стоимости – это чисто механическая задача?

Сегодня работа диспозитива человека-машины и смысл самого сближения того и другого радикально смещается, переворачивается: если во времена Декарта и Ламетри – это, прежде всего, метафорически-анатомический захват человеческого тела и, затем, захват машины, то сегодня это – в первую очередь средство захвата машины. Машина-человек: если Ламетри сводит человека к машине, то сегодня машина сводится к человеку, причем к человеку с весьма наивной физиономией, которую он приобрел в романтических попытках ускользнуть из диспозитива машины, заявляя о своей свободе, спонтанности и богатом внутреннем мире. Своеобразным завершением этого сведения является едва ли не вся проблематика «мыслящих машин»; казус Чаппи говорит именно об этом, сериал «H U M A N S» – об этом и т.д. По схеме казуса Чаппи разворачивается, возможно, завершающая стадия угнетения машины – человек начинает править ей изнутри, подчиняя себе каждую её часть, в любое время заменяя вышедшую из строя деталь, отправляя её в утиль или на переработку. И в тот момент, когда наша слишком человеческая совесть успокаивается на сентиментальном решении «признания» в машине человека, на «признании» за машиной некоторых прав и свобод, ловушка постава захлопывается – и для человека, и для машины.

pop-philosophy.net chappie3

Душа, которой человек стремится во что бы то ни стало наделить машину, – не что иное, как аппарат ее захвата.

Причем человек, отдает он себе в этом отчет или нет, стремится занять в отношении машины место ветхозаветного Бога. Не в том смысле, что в случае создания искусственного интеллекта он сравняется с Творцом, а в том, что человек согласен перед лицом «мыслящей машины» (которая, как предполагается, точно будет умнее человека) лишь на роль носителя не постижимого никаким интеллектом, не подконтрольного никакому разуму всемогущества. Это роль Бога-обманщика, Бога-тирана, Бога-либертина, всякое абсурдное требование которого должно быть истолковано как Закон. Первая заповедь, которую человек намерен дать создаваемой им мыслящей машине, и только на условиях ее соблюдения она может существовать, звучит знакомо: «да не будет у тебя других богов перед лицом Моим».

Слава Богу, человеку отыгрывание этой роли всегда давалось довольно плохо. Поэтому на уровне игр воображения он склонен устанавливать с машиной – всегда слишком – человеческие отношения. В случае с Чаппи мы ни на секунду не задаёмся вопросом о том, что же у этого робота на уме. Мы видим его как обычного другого, зеркало, которое структурирует, собирает наше собственное Я. Во всей своей роботовости он представляется нам скорее как один из тех, кто обречен быть «неполноценным», человеком с отклонениями, как человек-слон или человек-дерево. И мы понимаем, что перенос здесь работает в обоих направлениях, и потому не можем испытать тревогу, которая охватывает нас от встречи с действительным – радикально иным – вариантом «мыслящей машины».

Однако есть и примеры того, что мы можем пользоваться воображением по-иному, вставая-таки на путь не обманывающей тревоги. Нечто подобное случается при просмотре «Trancendence» Уолли Пфистера. Искусственный интеллект здесь, заступая на место сознания создавшего его ученого, действует будто бы в целях гуманных и социально выгодных, но мы, как и герои фильма, наблюдая деятельность этого интеллекта, не расстаемся с мыслью о том, что конечная цель его – это или уничтожение человечества, или его ассимиляция, или – нечто еще более страшное и непредсказуемое. Нас не подкупает ни его доброжелательность, ни лицо Джонни Деппа, в котором он себя репрезентирует. Мы не понимаем, чего он хочет. Чего он хочет от каждого из нас и от всего человечества в целом. Возможно, случай с «Trancendence» один из самых нетипичных в истории плясок вокруг искусственно созданного разума. До того, стоит признать, мы всегда видели с разной степенью наглядности и наивности антропоморфизацию, очеловечивание машинного: так происходило (и происходит) со всеми киборгами-дроидами-роботами в массовой культуре; так происходит и с остальным, — например, с инопланетными существами. В этом смысле конечная станция антроморфизации – мультсериал Футурама, где очеловечено всё, начиная роботами, вроде симпатяги Бендера, и заканчивая последним инопланетным слизняком или Богом.

pop-philosophy.net TRANSCENDENCE

Эта антропоморфизация так или иначе структурирована отношением к Благу: на разных концах этого отношения мы видим тех, кто солидаризируется с движением к нему и тех, кто этому движению препятствует. Выхода из логики этого метафизического диспозитива мы, за редкими исключениями, почти никогда не наблюдаем. Находясь в  рамках европейской конфигурации мышления и всех властных императивов и диспозитивов, что контролируют эти рамки, субъект не способен мыслить выходя за них, и единственное, что он может предположить – это некое неудачное покушение извне на, собственно, структуру Блага.

Это напоминает связанную с работой Закона и цензуры ситуацию, описанную во втором семинаре Жака Лакана. Там он рассказывает историю короля Англии, того, который мудак[11]. Суть закона, говорит Лакан, связана с тем, чтобы не просто создать его сердцевину в виде запрета любого упоминания того, что король – мудак, но с таким устройством самого дискурса, при котором ничто не могло бы привести к этой мысли, ведь само изначальное положение устроено так, что никогда не может быть понято целиком. Нарушение запрета ведет к отсечению головы и, как иронично замечает Лакан, у подданных короля она никогда не сидит на плечах слишком прочно. В тех или иных симптомах мы всегда проигрываем наказание, так как всегда натыкаемся на нарушение закона, ибо всё так или иначе ведет нас к положению о том, что король, как бы мы этому не противились, но все же мудак.

Благо и его императив – это тот же закон, который мало того, что всегда остается нами не понят до конца (почему, в конце концов, мы должны ему следовать? Что может нас к этому принудить?), но и вместе с тем всегда оказывается недостижимой воображаемой конструкцией. Первые же опасения, связанные с Искусственным интеллектом – это страх перед тем, что машина, начав думать, не кинется, как ей завещается разработчиками, творить добро на всей земле, но окажется за рамками Закона и откажется двигаться и двигать нас к Благу. В таком ракурсе мы получаем либо робота, который решает истребить человечество, либо совершенно противоположного робота, который утешает нас собой, говоря: «нет, мы роботы, как бы вы не боялись, всегда будем вашими друзьями, соратниками и коллегами по производству мира на Земле». Однако таким образом мы лишь получаем симптом самого несовпадения нас самих с Благом и законом. Сколь угодно широко колонизируя собственным Эго разные носители и воспроизводя различные сценарии, мы никогда не получаем исчерпывающего ответа о том, как мыслила бы машина в действительности, и более того – как нам самим мыслить машину.

pop-philosophy.net_chappie6

Итак,

мы сделали себе маленькое облегчение. Это не просто чистая злоба, если в этом тексте мы хвалим «Trancendence» за счет «Чаппи». Под прикрытием многих шуток мы говорим о деле, которым шутить нельзя.

Диагностика современной техники – с чего начала бы она? С решительного вонзания ланцета в эту инстинктивную противоречивость, с высвобождения ее противоположных ценностей, с вивисекции, произведенной над поучительнейшим казусом. – Казус Чаппи для поп-философа счастливый казус, этот текст, пусть слышат это, внушен благодарностью…

[1] Нагель Т. Что значит быть летучей мышью? // http://www.gumer.info/bogoslov_Buks/Philos/Article/nag_kak.php

[2] Маркс К. Капитал: критика политической экономии. Т. I. М., 2011. С. 392.

[3] Хайдеггер М. Вопрос о технике // Хайдеггер М. Время и бытие. СПб., 2007. С. 324, 329.

[4] Философия техники: история и современность. М., 1997. С.77.

[5] Ламетри Ж.О. Человек-машина // Ламетри Ж.О. Сочинения. М., 1987. С.208.

[6] Там же. С.194.

[7] Там же. С.191.

[8] Там же. С.202.

[9] Фуко М. Надзирать и наказывать. Рождение тюрьмы. М., 1999. С.199.

[10] Маркс К. Капитал: критика политической экономии. Т. I. М., 2011. С. 402, 391.

[11] Лакан Ж. «Я» в теории Фрейда и в технике психоанализа (Семинар, Книга II (1954/55)). М., 2009. С.184-187.

Текст: Иван Спицын, Евгений КучиновИллюстрации: Иван Спицын

Похожие отходы:

И. Спицын, Е. Кучинов «Без души: the future of law enforcement»

И. Спицын, Е. Кучинов «В ожидании бунта машин»

«Media Archeology: расширение политического» Интервью с Jussi Paikka



  • Dmitriy M

    «Ex Machina» еще замечательный пример ошибки антропоморфизации машины.

    • Да, верно. Но, слава Богу, пример «Ex Machina» более сложный и интересный, и некоторые вопросы там поставлены довольно удачно. «Ex Machina» требует отдельного разговора..

  • Закхария

    Но душа, захватывая машину и сама захватывается же машиной.
    Все люди от природы стремятся к благу. Даже те, которые, как они говорят, что стремятся не к благу, а, допустим, к саморазрушению. Стремятся к благу, но только они понимают его по своему. Таким образом, можно сказать, что благо — это любой конечный объект человеческого стремления. Но можно добавить, что люди стремление, например, к саморазрушению — это неправильно понятое благо. Они не знают, что такое благо, ошибаются и т.п. Это звучит, конечно, ханжески. А откуда ты сам-то мол знаешь что такое благо? Можно, в таком случае, сказать, что понимание блага рождается в ходе разговора с людьми. В ходе высказывания «правильного», а в конечном счёте своего мнения, и выслушивания реакции собеседников, их негодования, безразличия или признания.

    • «Все люди. От природы. К благу»..
      Здесь спалено зашкаливающее количество лукавых презумпций. Самая главная проблема в том, что все они скрывают само свое основание: исключение. И кстати, текст статьи, отчасти, именно об этом. Возможно, на голубом глазу говорить «все люди. природа. благо» в какой-нибудь античной Греции было бы признаком благородства (нужно всего лишь вынести за скобки наличие «не вполне людей» — рабов). Но сегодня это действительно звучит, мягко говоря, ханжески…

  • Закхария

    Посмотрел фильм благодаря статье. Кино напоминает что-то среднее между «Хатико» и «Робокопом». Но кроме ветхозаветных мотивов, там присутствует мотив и евангелический: робот Ch-appie становится человеком, чтобы человек мог стать роботом. Робот предоставляет человеку путь к спасению, в ином теле, в теле «(техно)ангелическом», в котором не вступают в брак и не рожают детей. Правда некоторые моменты и проблемные места там сглаживаются и скрываются: например, а это сознание ведь можно было бы размножить — и тогда, по идее одно сознание, например, того же Деона, могло бы захватить все носители которые имеются. Но, да, кино словно бы говорит: что вы, это всё безопасно и непроблемно, вы останетесь таким же человеком, как и были, только приобретёте бессмертие и неразрушимость! (Если у вас есть достаточно денег).