«Мир дикого запада»: возможны разочарования
Джит Хир (Jeet Heer)
Когда роботы научатся чувствовать, они будут наслаждаться той роскошью, в которой человечеству было отказано со времен Адама и Евы, резвившихся в раю — они будут разговаривать со своими богоподобными создателями. В кино и на телевидении наши механические потомки — от компьютера HAL 9000 из «Космической Одиссеи 2001» (2001: A Space Odyssey) до мятежных сайлонов из «Звездного крейсера „Галактика”» (Battlestar Galactica) — решают те же экзистенциальные вопросы, которые продолжают мучить нас: кто мы? кто нас создал? почему мы здесь? Но понравится ли то, что нам приходится говорить, тем настоящим людям-роботам, когда они, наконец, встретятся со своими создателями?
Новый сериал «Мир Дикого запада» (Westworld), вышедший на телеканале HBO, начинается с обескураживающего диалога, в котором встревоженный программист допрашивает неисправного робота: «ты когда-нибудь сомневался в том, что существуешь в реальном мире?» В данном случае реальный мир — это огромный тематический парк аттракционов. «Приезжие» или гости, выкладывающие за развлечения по 40 тысяч долларов в день, прибывают сюда на паровозе и оказываются в городе старого Дикого запада, будто сошедшем с картинки, в котором живут «хозяева» — человекоподобные роботы, запрограммированные так, чтобы не задаваться вопросами в отношении этих незнакомых людей, непрерывным потоком появляющихся в их «жизни». «„Приезжие” ищут то же, что мы, — объясняет неисправный робот. — Место, где можно почувствовать себя свободным. Где можно воплотить свои мечты». Жизнь в этом Западном Мире, по сути, устроена как чередование сна и бодрствования — каждую ночь события в памяти роботов стираются, и на следующий день они встают с постели обновленными и «отдохнувшими». Если они умирают, то со сменой дня вновь оживают.
Каждое утро Долорес (в исполнении Эван Рэйчел Вуд) открывает глаза, одевается, здоровается со своим отцом и приступает к своим ежедневным делам, состоящим из множества различных запрограммированных ситуаций. Иногда она встречается со своим любовником (Джеймс Марсден), иногда ее насилуют, а иногда — убивают. Парк предлагает развлекательную программу, состоящую из более сотни различных заранее записанных повторяющихся и взаимосвязанных сценариев. («Вы выбираете одного персонажа, и под него подстраивается весь сценарий, — объясняет администратор, столкнувшийся со сбоем в системе. — А когда вы выбираете сразу 200, то это какой-то жуткий кошмар!»). Вся эта фантасмагория, сумасшедшая последовательность постоянно повторяющихся событий хорошо знакома: сценарий сериала написали Лиза Джой (Lisa Joy) и Джонатан Нолан (Jonathan Nolan), по рассказу которых (Memento Mori) Кристофер Нолан (Christopher Nolan) — брат и во многих случаях соавтор Нолана — снял в 2001 году фильм «Помни» (Memento).
Взятый за основу сериала полнометражный фильм «Мир Дикого запада» (Westworld, 1973), автором сценария и режиссером которого был писатель Майкл Крайтон (Michael Crichton), во многих отношениях стал результатом характерных для эпохи войны во Вьетнаме опасений, вызванных тем, что люди становятся слишком слабыми и изнеженными. Это один из целого ряда фильмов — среди которых «Избавление» (Deliverance, 1972) и «Челюсти» (Jaws, 1975) — в которых идиллическим местам угрожают неуправляемые монстры в виде местных дегенератов, мстительной акулы или «взбесившихся» роботов-ковбоев. Подразумеваемая идея этих фильмов заключается в том, что люди не могут позволить себе не быть людьми — ни дома, ни на работе и уж точно — ни на отдыхе. Не случайно, что «Мир Дикого запада» — это тематический парк развлечений, в основу которого положена мифология Старого Запада: в фильме Крайтона ковбойская доблесть является не просто развлечением, а одной из американских ценностей, к которым нужно обращаться в повседневной жизни.
Крайтона не интересовали философские вопросы искусственного интеллекта, занимавшие умы других писателей-фантастов и кинематографистов; беспощадная машина для убийств в исполнении Юла Бриннера (Yul Brynner) наводит ужас, потому что у нее нет души. Самым знаменательным в его «Мире Дикого запада» было то, как сама обстановка, атмосфера, царившая в этом тематическом парке развлечений, предвосхитила ход мыслей философа Жана Бодрийяра (Jean Baudrillard), который в процессе исследования потребления пришел к выводу, что Диснейленд является моделью мира, в котором на смену природе придут симулякры и симуляция.
В ремейке, снятом на HBO, «Мир Дикого запада» — это не просто место для мужских развлечений, а сложный психологический пейзаж, где инстинкты и желания человека могут вырваться на свободу, где не существует никаких правил и никаких рамок. (Один из посетителей парка рассказывает своему спутнику, что когда он был здесь в первый раз, он выбрал рыбалку с женой и детьми. Но в следующий раз он «оторвался по полной» и считает это время «лучшими двумя неделями» в своей жизни). В самом парке заправляет доктор Роберт Форд (Энтони Хопкинс) — классический богоподобный персонаж, присутствующий во многих сюжетах с участием носителей искусственного интеллекта. Фильм отчасти является духовным размышлением, стремлением познать бога: в сцене в конце первого эпизода поврежденный, вышедший из-под контроля робот говорит Форду, что его цель — «встретиться с моим создателем», а затем, процитировав строки из Шекспира и Джона Донна, угрожает своему создателю. (Похоже, эти человекоподобные существа не могут жить без английской поэзии; созданный Мэри Шелли монстр Франкенштейн обожал «Потерянный рай»). Сцена представляет собой обобщенный намек на «Бегущего по лезвию» (Blade Runner), где беглец-робот Рой противостоит своему создателю — слегка смутившись, поскольку «не так уж и легко встретиться со своим создателем». Но потом Рой убивает своего хозяина. Нам, может, и нравится общаться с человекоподобными роботами, но им не до разговоров — они, скорее всего, бесцеремонно прервут нас на полуслове.
В 1960-е и 1970-е годы гиперинтеллектуальные роботы были явно механическими: HAL говорил бесстрастным металлическим голосом даже когда боялся смерти; человек-киборг Три-пи-о в состоянии беспокойства лязгал, как ходячий манекен. Но человекоподобные роботы в «Мире Дикого запада» — это «элегантные» биомеханические существа, чудо техники, созданное мастерами 3D-печати. В них воплощен новейший вариант машинного обучения, проникший в самые личные сферы жизни человека — это виртуальные собеседники-боты, которые пристают к нам в Twitter, программы, используемые на Amazon, говорящие нам, какие книги следует читать, браслеты для занятия спортом, которые отслеживают потребление калорий. Нам больше не нужны роботы, чтобы быть умными — мы рассчитываем на то, что они сами умные и будут становиться умнее, заранее определяя наши потребности, генерируя те идеи и вопросы, что выше нашего понимания. Создавая искусственный интеллект, человечество не только играет роль Бога — мы еще и создаем богов. Доктор Виктор Франкенштейн — это уже не какой-то экстравагантный сумасшедший немец, теперь он суперзвезда Кремнниевой долины.
Самым яркими проявлением дерзновенности авторов «Мира Дикого запада» является то, что они предлагают ответить на вопрос, откуда берется сознание, и как оно может появляться у машин. Человек-робот уже не просто услужливый раб — у него есть память, такая же память, как у нас. И хотя память человекоподобных роботов ночью стирается, в своих сновидениях они могут вспомнить свое прошлое, в том числе, когда их мучили или убивали. Чтобы сделать своих роботов более похожими на людей, Форд встраивает в них программу «обновления», позволяющую добавлять из их памяти новые жесты и мысли. Быть человеком или похожим на человека, говорят авторы «Мира Дикого запада» — это когда твоя жизнь оставляет в твоей душе след, причиняет тебе боль, травмирует тебя.
Искусственная действительность сериала «Мир Дикого запада» создана в традициях канала HBO, специализирующегося на развлекательных программах и сериалах щедро сдобренных сценами секса и насилия. «Я плачу немалые деньги не потому, что мне надо получить все легко и без труда, — говорит Долорес человек в черном (Эд Харрис), прежде чем затащить ее в сарай и изнасиловать. — Я хочу, чтобы ты сопротивлялась». Неслучайно, что проститутки, которые присутствуют в таких количествах в зрелищах вроде «Игры престолов», являются доминирующей метафорой и в «Мире Дикого запада». Но здесь для сюжета гуманитарные последствия секс-бизнеса гораздо важнее. Даже если мы считаем, что проституция должна быть легализована, авторы «Мира Дикого запада» напоминают нам, что клиент получает удовольствие в ущерб проститутке, вынужденной работать, не дожидаясь, когда появится сексуальное желание и превращаясь в своего рода живую куклу.
Само слово «робот» придумал чешский писатель Карел Чапек — оно впервые появилось в 1920 году в его научно-фантастической пьесе R.U.R., в которой искусственные машины были едва скрываемой метафорой пролетариата. В фантастических сюжетах об искусственном интеллекте речь идет не просто о самих машинах, а об эксплуатации труда — в том числе эмоциональных страданий женщин (как в фильмах «Из машины»/Ex Machina и «Она»/Her). Неслучайно, что повествования о роботах, андроидах и других формах рабского труда приобретает в популярной культуре такую видную роль в период роста неравенства доходов. Когда люди вынуждены работать больше и за меньшие деньги при том, что 1% населения процветает, мы видим в наших механизированных братьях себя и в то же время мечтаем, чтобы они встали на наше место.
Хотя доктор Форд и его коллеги, создающие человекоподобных роботов, работают в гигантской корпорации, они — творческие люди, подобные художникам и скульпторам. В основе их стремления к достоверности лежит старая, как история Пигмалиона, мечта — создать произведение искусства, которое было бы неотличимо от реальности. Правда, миф о Пигмалионе зиждется на сентиментальной надежде, что когда это произведение искусства оживает, оно полюбит художника. Вполне возможно, что лежащие в его основе фантазии по своему характеру патриархальны — человек-де может создать идеальную женщину, которая даст ему все, чего он хочет. Но что, если бы статуя Пигмалиона на самом деле ожила? Не исключено, что идеальной женщине, наделенной собственными желаниями, ее несовершенный создатель был бы совсем не интересен. «Мир Дикого запада», так же как и фильм «Из машины», полностью развенчивает миф о Пигмалионе.
Ближе к концу допроса техник спрашивает Долорес: «Ты когда-нибудь обманывала нас?» «Нет», отвечает она. «Ты когда-нибудь обижала живое существо, причиняла ему боль?» «Нет», снова отвечает она. Она запрограммирована так, чтобы и мухи не обидеть. Но как только у нее появляется способность осознавать события, Долорес научится обманывать и причинять боль — так же, как обманывали и издевались над ней и другими обитателями парка, стирая их воспоминания. Роботы начинают вспоминать травмы и боль прошлых дней. Они просыпаются ночью — иногда целыми и невредимыми в своих кроватях, а иногда на операционном столе, когда техники ночной смены, выполняют свою обязательную ежесуточную работу по техническому обслуживанию. Они запрограммированы таким образом, что считают свои воспоминания снами — «а если точнее — кошмарами», и эти кошмары начинают происходить все чаще и становиться все более пугающими и отчетливыми. Подобно тому, как ребенок наследует свои черты от своих родителей, наши творения в постчеловеческом мире, так или иначе, будут иметь характерные человеческие черты.
Пигмалиону выпала особая честь — он создавал произведения искусства для прославления богов. У большинства художников таких привилегий нет, и они не так свободны. В «Мире Дикого запада» создатели человекоподобных роботов мечтают создавать людей-машин, но они постоянно вступают в конфликт со своим начальством. Проблемы, с которыми сталкивается доктор Форд, почти не отличаются от тех проблем, которые возникают у исполнительного продюсера при создании сериала для успешного кабельного телеканала — как сделать, чтобы и руководство было довольно, и при этом сохранить характерное и ни на что не похожее художественное видение. В «Мире Дикого запада» владельцы парка хотят «кормить» аудиторию сюжетами, которые, по их мнению, людям нравятся — приключенческими историями о стычках между ковбоями и индейцами — но Форд считает, что людям надо предлагать то, что им обязательно понравится, но они об этом еще и сами не подозревают. «Наши посетители никогда не приходят вновь, чтобы поучаствовать в обычных, само собой разумеющихся и банальных развлечениях, которые мы им всегда предлагаем, — говорит он работнику парка. — Они приходят повторно, потому что находят здесь такое, что, по их мнению, никто раньше не замечал». «Мир Дикого запада» — это не только притча о процессе созидания, но и сериал, авторы которого критикуют ту самую аудиторию, которую они надеются привлечь. «Я знаю, тебе кажется, что только от тебя зависит все, что здесь будет происходить, и что все будет в твоей власти — пушки, сиськи и все такое, — объясняет посетитель своему другу перед тем, как войти в парк. — Но рано или поздно это место всех затягивает и охмуряет, и заставляет все это делать». Если мы — наивные посетители, пришедшие, разинув рот, оторваться по полной и рассчитывающие на то, что здесь нас ждет весь набор кровавых развлечений, то в этом отношении сериал «Мир Дикого запада» нас изрядно разочарует.
Источник:
