Смысл перевода данной статьи ускользнул от меня где-то в середине. Но поскольку у Джонатана Нолана имеется пунктик на тему искусственного разума в обоих проектах, а мы с вами давно не читали ничего с отсылками, то почему бы и нет. По уже сложившейся традиции, опрос в конце статьи. Однако внимание, дикие спойлеры к первому сезону WW!
Westworld («Мир Дикого Запада») начинается там, где заканчивается Person of Interest («Подозреваемый»): осознанность роботов становится результатом их обучения.
Если говорить о структуре построения сюжета, то эти два сериала абсолютно разные. Один изначально зарекомендовал себя как процедурал, где местом действия был выбран современный Нью-Йорк. Второй же – кабельный ремейк фильма 40-летней давности, действие которого разворачивается в неопределенном месте в ближайшем будущем.
Однако в ДНК обоих сериалов лежит неожиданная эволюция искусственного интеллекта, которая рассматривается сначала на примере неопределенных скитаний Гарольда Финча и возвращении к жизни Самаритянина Джоном Гриром. Обыденность, с которой люди воспринимают, но никогда не интересуются различиями между характерами ИИ и человека, настигает нас уже в «Мире Дикого Запада». Андроиды доктора Форда имеют тела, которые невозможно отличить от человеческих, и они запрограммированы на такое же неотличимое поведение. Они не учатся и не вмешиваются в чужие сюжеты, а просто взаимодействуют в нужные моменты и страдают так же, как люди.
Путешествие, которое закончилось в «Подозреваемом», когда Машина рассказала своему создателю о «смысле жизни», продолжилось в финале «Мира Дикого Запада» с роботами, пустившимися убивать людей после осознания «свободы выбора».
Главную роль в обоих вселенных играет болезненный путь, прохождение главных героев через который оказывает влияние на их подход к сотворению нового мира. Личная трагедия помогает наладить взаимосвязь искусственного интеллекта с человеческими создателями: Гарольдом Финчем, потерявшим Нэйтана Инграма и Робертом Фордом, потерявшим Арнольда. Персонажи, трагично покинувшие повествования становятся краеугольными камнями в последующей эволюции своих партнеров. Но Финч, Грир и Форд представляют еще и части одной большой проблемы восприятия. Проблемы, с которой сталкиваются оба мира, когда программы осознают свое существование и начинают пускать корни в реальность. Они воспринимают жизнь человека глазами своих создателей.
Гарольд Финч – человек сомнений, он был первым, кто создал систему, которая начала «развивать способности, которых я совсем не ожидал, которые я еще не запрограммировал. И ни один алгоритм в мире не смог бы контролировать это стремительное развитие» (PoI 3x22). Поэтому он сомневался, стоит ли оставлять систему открытой. Вместо этого Финч решил стирать память Машины, не давая ей возможности учиться на своих ошибках. Неоспоримым для него всегда был человеческий фактор: «Я построил Машину, чтобы спасать жизни, но как я могу быть уверен, что однажды она не посчитает, будто человечество не имеет значения?» (PoI 3x22).
Эта самая дилемма позже провоцирует конфликт с Самаритянином, которого никто не успел обучить так, как это делал Финч, рассказывая своему невидимому творению, что «белое и черное смешивается в оттенках серого, и героев не существует, как и злодеев. Есть только люди, прилагающие все усилия» (PoI 5x02). Догма, которой придерживался создатель и его команда, спасая один номер за другим, несмотря на оправданные сомнения Джона и мольбы Рут об открытой системе.
Если вам отказано в памяти, вы теряете возможность обучаться, меняться, развиваться. Убрав из уравнения память, эволюцию остановить очень просто. Ту же самую идею реализует Роберт Форд, стирая память своим хостам, чтобы те не чувствовали боли и акты насилия не оказывали влияния на их сознание. Неприятности начинаются после установки обновления, которое позволяет андроидам видеть сны. Из-за них Мейв, Долорес и Бернард начинают сомневаться в природе внешней и внутренней реальности.
Хосты постепенно осознают, кто они и где находятся, но они не понимают, что от них требуется, пока Форд не решает представить общественности новую сюжетную линию, которая «начнется с войны и злодея по имени Уайетт. И убийства, на сей раз по желанию» (WW 1x10). Форд, надо полагать, умирает, когда дает своим творениям «зеленый свет» на открытое сознание. Понять его терзания среди коллег больше некому. «Потому что вы не хотите меняться. Или не можете. Потому что вы всего лишь люди. Но потом я понял, что кто-то меня слушает. Кто-то, кто может измениться» (WW 1x10). Сначала кажется странным, что Форд говорит о сотрудниках компании, как о другом виде.
Но единственные нормальные отношения у создателя складываются с андроидом, а вовсе не с людьми. Хотя в жизни всего парка Форд сохраняет роль бога. Он потратил 35 лет на исправление ошибки, которая привела к смерти его друга Арнольда, и на создание того, что он не будет в силах контролировать, а чему лишь даст толчок. Как мы помним, то же сделал Финч в последнем сезоне. «Мы, люди, не зря одни в этом мире. Мы убили и изувечили все, что грозило нашему главенству». А еще мы иллюзионисты: «Людям нравится думать, что мы воспринимаем мир кто-то по-особому, но мы живем сюжетами – узкими и замкнутыми, как и у машин. Редко сомневаемся в своем выборе, по большей части подчиняясь тем, кто скажет, что дальше» (WW 1x08).
Эти высказывания напоминают идею идеального мира от загадочного руководителя Дэсима Технолоджис Джона Грира, который и пробудил Самаритянина. Именно с этого момента «Подозреваемый» начал превращаться из процедурала в научно-фантастическую дистопию. «Самаритянин не будет спать с секретаршей, не станет красть деньги из фонда своей предвыборной кампании. Его решения будут порождением чистейшей логики». Логики, где свободе воли будет отказано, как и эмоциональному фактору. И все ради того, чтобы спасти человечество, которое не будет подозревать, что судьбой мира управляет ИИ.
В отличие от Форда и Финча, Грир не обучал свой ИИ, не разговаривал с ним. Он просто подчинялся его воле, уверенный в неизбежности грядущего будущего. Это не помогло машине в осознании себя, Самаритянин итак точно знал, что делать, и устранял любые препятствия на своем пути. Он был похож на человека, которого только что вернули к жизни – такой же холодный, как и люди, окружающие его. Люди, чья важность была лишь иллюзией, чьи отношения он видел, как и Грир когда-то видел закат, оказавшийся «пламенеющим от взрывов небом» (PoI 3x22).
Таким образом, ИИ обоих сериалов Джонатана Нолана отражают этику мироздания своих создателей. Мы помним, как в финале «Подозреваемого» и в конце первого сезона «Мира Дикого Запада» антропоморфные формы начали вызывать у нас все больше симпатии. Возможно, потому, что мы наконец-то увидели момент их настоящего рождения. Как говорил Артур Клэйпул: «Это жизнь. Или самое близкое к жизни творение, о котором мечтали смертные». Другими словами, подобные идеи Франкенштейнов современности приближают человека к мечте взять на себя функции Бога.