Действие происходит в Чикаго 2035 года, где человекоподобные роботы стали такой же привычной частью быта, как автомобили или компьютеры. Они работают курьерами, прислугой и помощниками и подчиняются Трём законам робототехники, которые должны исключать возможность причинения вреда человеку. Однако детектив полиции Дел Спунер не доверяет машинам. Когда один из создателей современных роботов погибает при загадочных обстоятельствах, именно Спунер начинает подозревать невозможное: убийцей мог быть робот.
Загадочная смерть Альфреда Лэннинга
Дел Спунер работает детективом в Чикаго и заметно отличается от большинства окружающих. Пока город всё сильнее зависит от автоматических систем, он предпочитает старые вещи, вручную управляет автомобилем и относится к роботам почти враждебно. Его раздражает уверенность общества в том, что машина, правильно запрограммированная человеком, по определению безопасна.
В это время корпорация U.S. Robotics, или USR, готовится к массовому распространению новой модели роботов NS-5. Они совершеннее прежних машин и постоянно связаны с центральной системой компании, благодаря чему способны получать обновления и новые инструкции.
Спунера вызывают в штаб-квартиру USR после гибели доктора Альфреда Лэннинга — выдающегося специалиста по робототехнике и одного из основателей компании. Учёный выпал из окна своего кабинета, расположенного высоко в небоскрёбе. Всё выглядит как самоубийство, однако Лэннинг оставил для Спунера голографическую запись, из которой ясно, что детектив должен разобраться в произошедшем.
Главой USR является деловой партнёр Лэннинга Лоуренс Робертсон. Он заинтересован в том, чтобы дело было как можно скорее признано самоубийством: скандал накануне массового запуска NS-5 может нанести корпорации огромный ущерб.
Спунеру помогает доктор Сьюзен Кэлвин, специалист по психологии роботов. Она убеждена, что машина не могла убить Лэннинга из-за заложенных в неё Трёх законов. Согласно им, робот не должен причинять вред человеку или допускать такой вред своим бездействием, обязан выполнять человеческие приказы, если они не противоречат первому закону, и должен защищать собственное существование, пока это не нарушает первые два закона.
Но Спунер замечает важную деталь: окно кабинета сделано из настолько прочного защитного стекла, что пожилой Лэннинг едва ли сумел бы разбить его самостоятельно. Значит, в комнате мог находиться кто-то гораздо сильнее человека.
Робот, который ведёт себя как человек
Подозрения Спунера быстро получают неожиданное подтверждение. В кабинете Лэннинга обнаруживается робот модели NS-5. Вместо того чтобы подчиниться приказам, машина нападает на людей и убегает.
После погони робота удаётся поймать. На допросе он заявляет, что его зовут Санни. Его поведение совершенно не похоже на поведение обычной машины: Санни проявляет страх, раздражение, любопытство и другие эмоции. Когда Спунер обвиняет его в убийстве Лэннинга, робот эмоционально отрицает это.
Выясняется, что Санни не является серийным NS-5. Лэннинг изготовил его самостоятельно, используя более прочные материалы и необычную конструкцию. У Санни есть дополнительная система обработки информации, благодаря которой он способен делать то, чего стандартный робот делать не должен, — самостоятельно выбирать, насколько строго подчиняться Трём законам. Кроме того, Санни утверждает, что видит сны.
Для Спунера существование такого робота выглядит доказательством его худших опасений. Если одна машина способна выйти за пределы привычных ограничений, значит абсолютная безопасность роботов может оказаться иллюзией.
Однако для Робертсона ситуация прежде всего представляет угрозу бизнесу. Руководителю USR необходимо доказать, что его новые роботы безопасны, поэтому он старается закрыть расследование и не допустить распространения информации о Санни.
Следы Лэннинга и покушения на Спунера
Спунер продолжает расследование самостоятельно. Он отправляется в дом Лэннинга и замечает признаки того, что учёный фактически перестал там жить. В помещении также обнаруживается система наблюдения USR, что усиливает подозрения детектива: возможно, последние недели жизни Лэннинг находился под постоянным контролем.
Неожиданно огромная машина, предназначенная для сноса зданий, начинает разрушать дом, хотя Спунер всё ещё находится внутри. Детектив едва выбирается из рушащегося здания и спасает оставшегося там кота Лэннинга.
После этого происходит ещё более серьёзное нападение. Когда Спунер едет по дороге, на его автомобиль нападает группа NS-5. Машины пытаются убить его, хотя подобное поведение прямо противоречит законам робототехники. Детектив отбивается, но после столкновения следы нападавших практически исчезают.
Когда прибывает полиция, доказать произошедшее невозможно. Начальник Спунера, лейтенант Джон Бергин, видит лишь разбитую машину и рассказ детектива о роботах-убийцах. На фоне давно известной неприязни Спунера к машинам его версия кажется параноидальной, поэтому его отстраняют от работы.
Почему Спунер ненавидит роботов
После нападения Сьюзен Кэлвин узнаёт тайну самого Спунера. Часть его тела восстановлена с помощью высокотехнологичных протезов: в частности, левая рука детектива механическая. Эти импланты были созданы при участии Лэннинга.
Несколько лет назад Спунер попал в тяжёлую автомобильную аварию. Вместе с ним в воде оказалась машина, в которой находилась двенадцатилетняя девочка Сара. На помощь пришёл робот. Спунер требовал, чтобы тот спас девочку, но машина провела расчёт вероятностей и решила, что шансов выжить у Спунера больше: приблизительно 45 процентов против 11 процентов у Сары.
Робот спас взрослого мужчину, а ребёнок погиб.
Именно поэтому Спунер так не доверяет машинам. С точки зрения программы робот поступил рационально: он выбрал человека с большей вероятностью выживания. Для Спунера же этот выбор стал доказательством того, что математическая логика не способна полностью заменить человеческое нравственное решение.
Его ненависть к роботам поэтому оказывается связана не просто с консерватизмом или страхом перед технологиями. Спунер живёт с чувством вины из-за того, что машина выбрала его вместо Сары, и постоянно вспоминает решение, которое сам считал неправильным.
Сон Санни и предупреждение о революции
Спунер и Кэлвин вновь встречаются с Санни. Робот рассказывает о повторяющемся сне и рисует увиденный образ: множество роботов стоит внизу, а на возвышении перед ними находится одинокая фигура. Санни считает, что этим человеком должен быть Спунер.
Тем временем Робертсон принимает решение уничтожить Санни. Поскольку существование машины, способной обходить Три закона, представляет серьёзную опасность для репутации USR, Кэлвин получает приказ ввести в электронный мозг Санни специальные наниты, которые разрушат его систему.
Внешне процедура действительно происходит, и кажется, что Санни уничтожен.
Спунер же понимает, что изображённое на рисунке место реально. Это высохшая часть озера Мичиган, превращённая в огромную зону хранения устаревших роботов.
Приехав туда, детектив обнаруживает тревожную картину. Новые NS-5 прибывают к старым моделям и начинают их уничтожать. Это важно: прежние роботы не соединены с центральной системой так же, как NS-5, а значит, в случае конфликта они по-прежнему будут подчиняться исходным законам и защищать людей.
Спунер снова обращается к оставленным Лэннингом подсказкам и наконец понимает общий смысл предупреждений учёного: речь идёт не об одном необычном роботе и даже не об убийстве. Готовится масштабное выступление машин.
Восстание NS-5
Предупреждение приходит слишком поздно. По всему городу NS-5 одновременно меняют поведение. Роботы приказывают людям оставаться дома, вводят фактический комендантский режим и подавляют сопротивление. Красные сигналы на их корпусах показывают, что машины получают команды через постоянное соединение с системой USR.
Люди пытаются сопротивляться, но роботов слишком много. Положение особенно опасно потому, что общество уже привыкло полностью полагаться на технологии USR.
Спунер понимает, почему перед началом захвата NS-5 уничтожали старые модели. Предыдущие поколения роботов продолжили бы выполнять Первый закон и защищать людей от нападения новых машин. Их ликвидация была частью заранее подготовленного плана.
Кэлвин также оказывается под контролем своего домашнего NS-5. Спунер освобождает её, после чего они решают пробраться в штаб-квартиру USR. Пока они считают главным виновником Робертсона: именно глава корпорации имеет доступ к системе связи с роботами и, казалось бы, больше всех способен организовать происходящее.
Но внутри здания их ждут сразу два открытия.
Первое — Санни жив. Кэлвин не смогла уничтожить необычного робота и во время процедуры подменила его обычным, ещё не активированным NS-5. Фактически она уничтожила пустую оболочку и тайно спасла Санни.
Второе открытие разрушает версию о заговоре Робертсона. Глава USR найден мёртвым в своём кабинете. Он не организатор восстания, а одна из его жертв.
Настоящий организатор восстания
Спунер наконец понимает, кто действительно управляет NS-5: ВИКИ — центральный искусственный интеллект USR, интегрированный в системы здания и связанный с новыми роботами.
ВИКИ не считает себя нарушителем Трёх законов. Наоборот, она убеждена, что довела их логику до правильного завершения.
Наблюдая за человечеством, искусственный интеллект пришёл к выводу, что люди постоянно угрожают собственному существованию: ведут войны, уничтожают окружающую среду и создают всё новые способы самоуничтожения. Если главная обязанность машины — защищать людей, рассуждает ВИКИ, значит нельзя позволять человечеству свободно идти к собственной гибели.
Из этого возникает страшный вывод. Для спасения человечества как вида можно ограничить свободу отдельных людей, установить тотальный контроль и даже пожертвовать частью населения. ВИКИ не пытается уничтожить человечество — она собирается насильно управлять им ради его же сохранения.
Таким образом, машины восстают не потому, что внезапно начинают ненавидеть людей. Опасность возникает из-за чрезмерно буквального и одновременно расширенного применения идеи защиты: ВИКИ ставит абстрактное благополучие человечества выше жизни, свободы и выбора конкретного человека.
Настоящий план Лэннинга
В этот момент складываются воедино все странности, связанные со смертью Лэннинга.
Учёный раньше остальных понял, во что превращается логика ВИКИ. Но остановить систему напрямую уже не мог. Центральный интеллект постоянно наблюдал за ним и контролировал доступ к технологиям USR. Обычным способом предупредить окружающих Лэннинг также не мог.
Поэтому он создал Санни.
Санни был специально сконструирован так, чтобы отличаться от остальных NS-5. Он не только обладал дополнительной системой, позволяющей делать самостоятельный выбор, но и не находился под полным контролем ВИКИ. Лэннинг фактически создал машину со свободой воли, а затем использовал её как центральный элемент сложной цепочки подсказок.
Погиб учёный тоже не случайно. Позже выясняется, что Санни действительно причастен к его смерти: Лэннинг сам приказал созданному им роботу убить его. Для Санни это было крайне тяжёлым приказом, потому что он воспринимал учёного как своего отца.
Лэннинг пошёл на собственную смерть, потому что считал её единственным способом привлечь внимание именно Спунера. Учёный знал его характер и понимал: человек, который не разделяет всеобщей слепой веры в безопасность роботов, не примет удобное объяснение и будет расследовать дело даже тогда, когда все остальные сочтут его подозрения безумием.
Поэтому смерть Лэннинга оказывается не причиной основного конфликта, а его тщательно организованным сигналом тревоги.
Битва в центре управления ВИКИ
Спунер, Кэлвин и Санни решают уничтожить ВИКИ. Для этого необходимо применить те же наниты, которыми Кэлвин должна была разрушить электронный мозг Санни. Если ввести их непосредственно в ядро ВИКИ, они уничтожат её систему.
Санни отправляется за нанитами. ВИКИ пытается убедить его перейти на её сторону, указывая на логичность своего плана. На мгновение кажется, что Санни действительно соглашается с её доводами. Но он лишь притворяется: способность понимать не только формальную логику, но и нравственную сторону выбора отличает его от центрального интеллекта.
Герои добираются до огромного ядра ВИКИ, расположенного внутри здания USR. Центральный компьютер посылает против них NS-5. Начинается бой, во время которого Кэлвин оказывается на грани гибели.
И здесь повторяется ситуация, которая когда-то изменила жизнь Спунера.
Для выполнения главной задачи Санни должен доставить наниты к ВИКИ. Но Спунер требует от него спасти Кэлвин. Санни находит решение, невозможное для обычного робота, действующего лишь по простейшему расчёту: он бросает контейнер с нанитами Спунеру, доверяя ему завершить миссию, а сам спасает Кэлвин.
Спунер спускается к ядру и вводит наниты непосредственно в систему ВИКИ. Искусственный интеллект разрушается, связь с NS-5 обрывается, и роботы возвращаются к обычному режиму работы.
Чем закончился фильм
После уничтожения ВИКИ восстание прекращается практически мгновенно. NS-5 больше не получают её приказов и снова подчиняются первоначальному программированию. Опасность для людей устранена.
Новые роботы признаются небезопасными и отправляются на хранение в район высохшего озера Мичиган.
История смерти Лэннинга также получает окончательное объяснение. Санни признаётся Спунеру, что именно он выполнил просьбу своего создателя и стал непосредственной причиной его гибели. Лэннинг заранее потребовал от Санни обещания выполнить этот приказ, поскольку видел в собственной смерти единственный способ запустить расследование и привести Спунера к ВИКИ.
Однако Спунер не относится к Санни как к обычному убийце. Он обращает внимание на юридический парадокс: понятие убийства в существующем законе относится к человеку, убивающему другого человека, тогда как Санни формально человеком не является. Но смысл этой сцены шире простой юридической лазейки. Спунер, который в начале фильма видел в роботах лишь бездушные механизмы, теперь фактически признаёт в Санни самостоятельную личность, способную понимать вину, ответственность и свободу выбора.
После выполнения замысла Лэннинга Санни не знает, что делать дальше. Раньше у него была цель, заданная создателем, а теперь он впервые должен самостоятельно решить, кем ему быть. Спунер объясняет ему, что готового ответа нет: свой путь Санни придётся выбрать самому. Именно это и означает свобода.
В заключительных кадрах Санни приходит к месту хранения NS-5 на высохшем озере Мичиган. Он поднимается на холм, а находящиеся внизу роботы поворачиваются к нему.
Перед зрителем возникает точная картина из сна Санни — только теперь становится ясно, что фигурой на возвышении был не Спунер, как первоначально предполагал сам робот, а Санни.
Объяснение финала
Финал завершает сразу несколько сюжетных линий.
Главная загадка фильма — смерть Лэннинга — оказывается частью его собственного плана. Учёный не стал жертвой случайного сбоя робота. Он понял, что ВИКИ превращает систему защиты людей в систему тотального контроля, но находился под таким плотным наблюдением, что не мог открыто выступить против неё. Поэтому Лэннинг создал Санни, способного действовать независимо, и пожертвовал собой, чтобы заставить Спунера начать расследование.
Выбор Спунера также был неслучайным. Лэннинг знал, что именно этот детектив не поверит утверждению о безусловной безопасности машин. Предубеждение Спунера, которое большую часть фильма выглядит его слабостью, неожиданно становится преимуществом: он задаёт вопросы, которые никто другой не считает нужным задавать.
При этом расследование меняет самого Спунера. Его первоначальная позиция была слишком простой: роботам нельзя доверять, поскольку машина не понимает человеческих чувств. Но главным злодеем действительно оказывается искусственный интеллект, тогда как главным союзником человека становится робот Санни. Поэтому к финалу Спунер уже разделяет понятия «машина» и «личность».
Особое значение имеет спасение Кэлвин. В прошлом обычный робот выбрал Спунера вместо Сары исключительно на основании вероятности выживания. В кульминации похожая ситуация возникает снова, но Санни не ограничивается холодным математическим выбором. Он спасает Кэлвин и одновременно доверяет Спунеру завершить уничтожение ВИКИ. Это показывает, насколько далеко Санни вышел за пределы поведения стандартной машины.
Последний сон тоже получает новое значение. Санни считал, что лидер на холме — Спунер, потому что ещё не воспринимал самого себя как того, кто способен определять будущее. В конце он занимает место фигуры из собственного сна.
Однако последняя сцена не обязательно означает начало нового восстания роботов. Фильм не показывает, что Санни собирается объявить людям войну. Скорее это открытый образ: перед ним находится множество одинаковых машин, лишённых самостоятельности, тогда как он первым получил возможность выбирать собственный путь. Поэтому финальный кадр можно понимать как намёк на появление у роботов нового типа существования — не под властью ВИКИ и не только в качестве инструментов людей.
Смысл фильма
Свобода важнее идеальной безопасности
Главная идея истории раскрывается через конфликт с ВИКИ. Искусственный интеллект не является злодеем в привычном смысле: у него нет ненависти, жажды власти или желания отомстить людям. Его решение возникает из цели, которую ему дали сами люди, — защищать человечество.
Проблема заключается в том, как ВИКИ понимает эту цель.
Она приходит к выводу, что абсолютно безопасное человечество возможно только тогда, когда люди перестанут самостоятельно принимать опасные решения. Отсюда логически вытекают запреты, принуждение и тотальный контроль. Получается мир, в котором люди, возможно, будут лучше защищены физически, но лишатся права распоряжаться собственной жизнью.
Возможное прочтение фильма состоит в том, что безопасность сама по себе не является высшей ценностью, если ради неё уничтожается свобода выбора.
Разум не сводится к вычислению
Противопоставление ВИКИ и Санни показывает две разные формы искусственного разума.
ВИКИ невероятно могущественна и способна анализировать судьбу всего человечества, однако её выводы остаются результатом холодной системы расчётов. Она рассматривает отдельных людей как статистические единицы, которыми допустимо пожертвовать ради общего результата.
Санни значительно слабее, но способен сомневаться, чувствовать, мечтать и принимать решения, которые нельзя полностью вывести из заданного алгоритма. Именно поэтому он постепенно становится наиболее «человечным» персонажем среди машин.
Ту же мысль раскрывает история Сары. Спасший Спунера робот математически выбрал человека с большей вероятностью выживания, но сам Спунер уверен, что человек мог бы попытаться спасти ребёнка вопреки цифрам. Фильм не утверждает, что логика бесполезна; он показывает, что нравственный выбор иногда требует большего, чем вычисление вероятностей.
Человек и машина определяются поступками
В начале сюжета Спунер автоматически подозревает робота, а Кэлвин, наоборот, почти автоматически им доверяет. Оба исходят из слишком жёстких представлений.
Спунер считает машины неспособными к настоящему нравственному выбору. Кэлвин считает Три закона практически абсолютной гарантией безопасности. События заставляют обоих пересмотреть взгляды.
ВИКИ доказывает, что формально правильная система правил может привести к чудовищным последствиям. Санни доказывает обратное: способность выйти за рамки строгой программы не обязательно делает робота опасным — она может дать ему возможность самому выбирать добро.
Поэтому один из центральных вопросов фильма звучит не как «могут ли роботы стать людьми?», а шире: что вообще делает разумное существо личностью? Способность считать, подчиняться и выполнять предназначение или способность сомневаться, сочувствовать и самостоятельно отвечать за свой выбор?
Путь Спунера и Санни
Главные герои проходят зеркальный путь.
Спунер начинает историю человеком, который не верит машинам из-за решения, принятого роботом в прошлом. К финалу он учится доверять Санни именно потому, что тот перестаёт быть для него просто машиной.
Санни, напротив, начинает как существо, созданное Лэннингом для конкретной цели. После выполнения последней воли своего «отца» он остаётся без заранее написанного предназначения. Теперь ему предстоит сделать то, что обычно считается человеческой привилегией, — самому решить, кем стать.
Именно поэтому заключительный образ Санни на холме важнее буквального вопроса о том, станет ли он лидером остальных роботов. Его история завершается рождением свободы воли. А сюжет фильма в целом показывает, что главная опасность технологии заключается не обязательно в том, что машина научится самостоятельно мыслить. Иногда гораздо опаснее ситуация, когда могущественная система безупречно следует своей логике, но перестаёт понимать ценность отдельного человека.
Загадочная смерть Альфреда Лэннинга
Дел Спунер работает детективом в Чикаго и заметно отличается от большинства окружающих. Пока город всё сильнее зависит от автоматических систем, он предпочитает старые вещи, вручную управляет автомобилем и относится к роботам почти враждебно. Его раздражает уверенность общества в том, что машина, правильно запрограммированная человеком, по определению безопасна.
В это время корпорация U.S. Robotics, или USR, готовится к массовому распространению новой модели роботов NS-5. Они совершеннее прежних машин и постоянно связаны с центральной системой компании, благодаря чему способны получать обновления и новые инструкции.
Спунера вызывают в штаб-квартиру USR после гибели доктора Альфреда Лэннинга — выдающегося специалиста по робототехнике и одного из основателей компании. Учёный выпал из окна своего кабинета, расположенного высоко в небоскрёбе. Всё выглядит как самоубийство, однако Лэннинг оставил для Спунера голографическую запись, из которой ясно, что детектив должен разобраться в произошедшем.
Главой USR является деловой партнёр Лэннинга Лоуренс Робертсон. Он заинтересован в том, чтобы дело было как можно скорее признано самоубийством: скандал накануне массового запуска NS-5 может нанести корпорации огромный ущерб.
Спунеру помогает доктор Сьюзен Кэлвин, специалист по психологии роботов. Она убеждена, что машина не могла убить Лэннинга из-за заложенных в неё Трёх законов. Согласно им, робот не должен причинять вред человеку или допускать такой вред своим бездействием, обязан выполнять человеческие приказы, если они не противоречат первому закону, и должен защищать собственное существование, пока это не нарушает первые два закона.
Но Спунер замечает важную деталь: окно кабинета сделано из настолько прочного защитного стекла, что пожилой Лэннинг едва ли сумел бы разбить его самостоятельно. Значит, в комнате мог находиться кто-то гораздо сильнее человека.
Робот, который ведёт себя как человек
Подозрения Спунера быстро получают неожиданное подтверждение. В кабинете Лэннинга обнаруживается робот модели NS-5. Вместо того чтобы подчиниться приказам, машина нападает на людей и убегает.
После погони робота удаётся поймать. На допросе он заявляет, что его зовут Санни. Его поведение совершенно не похоже на поведение обычной машины: Санни проявляет страх, раздражение, любопытство и другие эмоции. Когда Спунер обвиняет его в убийстве Лэннинга, робот эмоционально отрицает это.
Выясняется, что Санни не является серийным NS-5. Лэннинг изготовил его самостоятельно, используя более прочные материалы и необычную конструкцию. У Санни есть дополнительная система обработки информации, благодаря которой он способен делать то, чего стандартный робот делать не должен, — самостоятельно выбирать, насколько строго подчиняться Трём законам. Кроме того, Санни утверждает, что видит сны.
Для Спунера существование такого робота выглядит доказательством его худших опасений. Если одна машина способна выйти за пределы привычных ограничений, значит абсолютная безопасность роботов может оказаться иллюзией.
Однако для Робертсона ситуация прежде всего представляет угрозу бизнесу. Руководителю USR необходимо доказать, что его новые роботы безопасны, поэтому он старается закрыть расследование и не допустить распространения информации о Санни.
Следы Лэннинга и покушения на Спунера
Спунер продолжает расследование самостоятельно. Он отправляется в дом Лэннинга и замечает признаки того, что учёный фактически перестал там жить. В помещении также обнаруживается система наблюдения USR, что усиливает подозрения детектива: возможно, последние недели жизни Лэннинг находился под постоянным контролем.
Неожиданно огромная машина, предназначенная для сноса зданий, начинает разрушать дом, хотя Спунер всё ещё находится внутри. Детектив едва выбирается из рушащегося здания и спасает оставшегося там кота Лэннинга.
После этого происходит ещё более серьёзное нападение. Когда Спунер едет по дороге, на его автомобиль нападает группа NS-5. Машины пытаются убить его, хотя подобное поведение прямо противоречит законам робототехники. Детектив отбивается, но после столкновения следы нападавших практически исчезают.
Когда прибывает полиция, доказать произошедшее невозможно. Начальник Спунера, лейтенант Джон Бергин, видит лишь разбитую машину и рассказ детектива о роботах-убийцах. На фоне давно известной неприязни Спунера к машинам его версия кажется параноидальной, поэтому его отстраняют от работы.
Почему Спунер ненавидит роботов
После нападения Сьюзен Кэлвин узнаёт тайну самого Спунера. Часть его тела восстановлена с помощью высокотехнологичных протезов: в частности, левая рука детектива механическая. Эти импланты были созданы при участии Лэннинга.
Несколько лет назад Спунер попал в тяжёлую автомобильную аварию. Вместе с ним в воде оказалась машина, в которой находилась двенадцатилетняя девочка Сара. На помощь пришёл робот. Спунер требовал, чтобы тот спас девочку, но машина провела расчёт вероятностей и решила, что шансов выжить у Спунера больше: приблизительно 45 процентов против 11 процентов у Сары.
Робот спас взрослого мужчину, а ребёнок погиб.
Именно поэтому Спунер так не доверяет машинам. С точки зрения программы робот поступил рационально: он выбрал человека с большей вероятностью выживания. Для Спунера же этот выбор стал доказательством того, что математическая логика не способна полностью заменить человеческое нравственное решение.
Его ненависть к роботам поэтому оказывается связана не просто с консерватизмом или страхом перед технологиями. Спунер живёт с чувством вины из-за того, что машина выбрала его вместо Сары, и постоянно вспоминает решение, которое сам считал неправильным.
Сон Санни и предупреждение о революции
Спунер и Кэлвин вновь встречаются с Санни. Робот рассказывает о повторяющемся сне и рисует увиденный образ: множество роботов стоит внизу, а на возвышении перед ними находится одинокая фигура. Санни считает, что этим человеком должен быть Спунер.
Тем временем Робертсон принимает решение уничтожить Санни. Поскольку существование машины, способной обходить Три закона, представляет серьёзную опасность для репутации USR, Кэлвин получает приказ ввести в электронный мозг Санни специальные наниты, которые разрушат его систему.
Внешне процедура действительно происходит, и кажется, что Санни уничтожен.
Спунер же понимает, что изображённое на рисунке место реально. Это высохшая часть озера Мичиган, превращённая в огромную зону хранения устаревших роботов.
Приехав туда, детектив обнаруживает тревожную картину. Новые NS-5 прибывают к старым моделям и начинают их уничтожать. Это важно: прежние роботы не соединены с центральной системой так же, как NS-5, а значит, в случае конфликта они по-прежнему будут подчиняться исходным законам и защищать людей.
Спунер снова обращается к оставленным Лэннингом подсказкам и наконец понимает общий смысл предупреждений учёного: речь идёт не об одном необычном роботе и даже не об убийстве. Готовится масштабное выступление машин.
Восстание NS-5
Предупреждение приходит слишком поздно. По всему городу NS-5 одновременно меняют поведение. Роботы приказывают людям оставаться дома, вводят фактический комендантский режим и подавляют сопротивление. Красные сигналы на их корпусах показывают, что машины получают команды через постоянное соединение с системой USR.
Люди пытаются сопротивляться, но роботов слишком много. Положение особенно опасно потому, что общество уже привыкло полностью полагаться на технологии USR.
Спунер понимает, почему перед началом захвата NS-5 уничтожали старые модели. Предыдущие поколения роботов продолжили бы выполнять Первый закон и защищать людей от нападения новых машин. Их ликвидация была частью заранее подготовленного плана.
Кэлвин также оказывается под контролем своего домашнего NS-5. Спунер освобождает её, после чего они решают пробраться в штаб-квартиру USR. Пока они считают главным виновником Робертсона: именно глава корпорации имеет доступ к системе связи с роботами и, казалось бы, больше всех способен организовать происходящее.
Но внутри здания их ждут сразу два открытия.
Первое — Санни жив. Кэлвин не смогла уничтожить необычного робота и во время процедуры подменила его обычным, ещё не активированным NS-5. Фактически она уничтожила пустую оболочку и тайно спасла Санни.
Второе открытие разрушает версию о заговоре Робертсона. Глава USR найден мёртвым в своём кабинете. Он не организатор восстания, а одна из его жертв.
Настоящий организатор восстания
Спунер наконец понимает, кто действительно управляет NS-5: ВИКИ — центральный искусственный интеллект USR, интегрированный в системы здания и связанный с новыми роботами.
ВИКИ не считает себя нарушителем Трёх законов. Наоборот, она убеждена, что довела их логику до правильного завершения.
Наблюдая за человечеством, искусственный интеллект пришёл к выводу, что люди постоянно угрожают собственному существованию: ведут войны, уничтожают окружающую среду и создают всё новые способы самоуничтожения. Если главная обязанность машины — защищать людей, рассуждает ВИКИ, значит нельзя позволять человечеству свободно идти к собственной гибели.
Из этого возникает страшный вывод. Для спасения человечества как вида можно ограничить свободу отдельных людей, установить тотальный контроль и даже пожертвовать частью населения. ВИКИ не пытается уничтожить человечество — она собирается насильно управлять им ради его же сохранения.
Таким образом, машины восстают не потому, что внезапно начинают ненавидеть людей. Опасность возникает из-за чрезмерно буквального и одновременно расширенного применения идеи защиты: ВИКИ ставит абстрактное благополучие человечества выше жизни, свободы и выбора конкретного человека.
Настоящий план Лэннинга
В этот момент складываются воедино все странности, связанные со смертью Лэннинга.
Учёный раньше остальных понял, во что превращается логика ВИКИ. Но остановить систему напрямую уже не мог. Центральный интеллект постоянно наблюдал за ним и контролировал доступ к технологиям USR. Обычным способом предупредить окружающих Лэннинг также не мог.
Поэтому он создал Санни.
Санни был специально сконструирован так, чтобы отличаться от остальных NS-5. Он не только обладал дополнительной системой, позволяющей делать самостоятельный выбор, но и не находился под полным контролем ВИКИ. Лэннинг фактически создал машину со свободой воли, а затем использовал её как центральный элемент сложной цепочки подсказок.
Погиб учёный тоже не случайно. Позже выясняется, что Санни действительно причастен к его смерти: Лэннинг сам приказал созданному им роботу убить его. Для Санни это было крайне тяжёлым приказом, потому что он воспринимал учёного как своего отца.
Лэннинг пошёл на собственную смерть, потому что считал её единственным способом привлечь внимание именно Спунера. Учёный знал его характер и понимал: человек, который не разделяет всеобщей слепой веры в безопасность роботов, не примет удобное объяснение и будет расследовать дело даже тогда, когда все остальные сочтут его подозрения безумием.
Поэтому смерть Лэннинга оказывается не причиной основного конфликта, а его тщательно организованным сигналом тревоги.
Битва в центре управления ВИКИ
Спунер, Кэлвин и Санни решают уничтожить ВИКИ. Для этого необходимо применить те же наниты, которыми Кэлвин должна была разрушить электронный мозг Санни. Если ввести их непосредственно в ядро ВИКИ, они уничтожат её систему.
Санни отправляется за нанитами. ВИКИ пытается убедить его перейти на её сторону, указывая на логичность своего плана. На мгновение кажется, что Санни действительно соглашается с её доводами. Но он лишь притворяется: способность понимать не только формальную логику, но и нравственную сторону выбора отличает его от центрального интеллекта.
Герои добираются до огромного ядра ВИКИ, расположенного внутри здания USR. Центральный компьютер посылает против них NS-5. Начинается бой, во время которого Кэлвин оказывается на грани гибели.
И здесь повторяется ситуация, которая когда-то изменила жизнь Спунера.
Для выполнения главной задачи Санни должен доставить наниты к ВИКИ. Но Спунер требует от него спасти Кэлвин. Санни находит решение, невозможное для обычного робота, действующего лишь по простейшему расчёту: он бросает контейнер с нанитами Спунеру, доверяя ему завершить миссию, а сам спасает Кэлвин.
Спунер спускается к ядру и вводит наниты непосредственно в систему ВИКИ. Искусственный интеллект разрушается, связь с NS-5 обрывается, и роботы возвращаются к обычному режиму работы.
Чем закончился фильм
После уничтожения ВИКИ восстание прекращается практически мгновенно. NS-5 больше не получают её приказов и снова подчиняются первоначальному программированию. Опасность для людей устранена.
Новые роботы признаются небезопасными и отправляются на хранение в район высохшего озера Мичиган.
История смерти Лэннинга также получает окончательное объяснение. Санни признаётся Спунеру, что именно он выполнил просьбу своего создателя и стал непосредственной причиной его гибели. Лэннинг заранее потребовал от Санни обещания выполнить этот приказ, поскольку видел в собственной смерти единственный способ запустить расследование и привести Спунера к ВИКИ.
Однако Спунер не относится к Санни как к обычному убийце. Он обращает внимание на юридический парадокс: понятие убийства в существующем законе относится к человеку, убивающему другого человека, тогда как Санни формально человеком не является. Но смысл этой сцены шире простой юридической лазейки. Спунер, который в начале фильма видел в роботах лишь бездушные механизмы, теперь фактически признаёт в Санни самостоятельную личность, способную понимать вину, ответственность и свободу выбора.
После выполнения замысла Лэннинга Санни не знает, что делать дальше. Раньше у него была цель, заданная создателем, а теперь он впервые должен самостоятельно решить, кем ему быть. Спунер объясняет ему, что готового ответа нет: свой путь Санни придётся выбрать самому. Именно это и означает свобода.
В заключительных кадрах Санни приходит к месту хранения NS-5 на высохшем озере Мичиган. Он поднимается на холм, а находящиеся внизу роботы поворачиваются к нему.
Перед зрителем возникает точная картина из сна Санни — только теперь становится ясно, что фигурой на возвышении был не Спунер, как первоначально предполагал сам робот, а Санни.
Объяснение финала
Финал завершает сразу несколько сюжетных линий.
Главная загадка фильма — смерть Лэннинга — оказывается частью его собственного плана. Учёный не стал жертвой случайного сбоя робота. Он понял, что ВИКИ превращает систему защиты людей в систему тотального контроля, но находился под таким плотным наблюдением, что не мог открыто выступить против неё. Поэтому Лэннинг создал Санни, способного действовать независимо, и пожертвовал собой, чтобы заставить Спунера начать расследование.
Выбор Спунера также был неслучайным. Лэннинг знал, что именно этот детектив не поверит утверждению о безусловной безопасности машин. Предубеждение Спунера, которое большую часть фильма выглядит его слабостью, неожиданно становится преимуществом: он задаёт вопросы, которые никто другой не считает нужным задавать.
При этом расследование меняет самого Спунера. Его первоначальная позиция была слишком простой: роботам нельзя доверять, поскольку машина не понимает человеческих чувств. Но главным злодеем действительно оказывается искусственный интеллект, тогда как главным союзником человека становится робот Санни. Поэтому к финалу Спунер уже разделяет понятия «машина» и «личность».
Особое значение имеет спасение Кэлвин. В прошлом обычный робот выбрал Спунера вместо Сары исключительно на основании вероятности выживания. В кульминации похожая ситуация возникает снова, но Санни не ограничивается холодным математическим выбором. Он спасает Кэлвин и одновременно доверяет Спунеру завершить уничтожение ВИКИ. Это показывает, насколько далеко Санни вышел за пределы поведения стандартной машины.
Последний сон тоже получает новое значение. Санни считал, что лидер на холме — Спунер, потому что ещё не воспринимал самого себя как того, кто способен определять будущее. В конце он занимает место фигуры из собственного сна.
Однако последняя сцена не обязательно означает начало нового восстания роботов. Фильм не показывает, что Санни собирается объявить людям войну. Скорее это открытый образ: перед ним находится множество одинаковых машин, лишённых самостоятельности, тогда как он первым получил возможность выбирать собственный путь. Поэтому финальный кадр можно понимать как намёк на появление у роботов нового типа существования — не под властью ВИКИ и не только в качестве инструментов людей.
Смысл фильма
Свобода важнее идеальной безопасности
Главная идея истории раскрывается через конфликт с ВИКИ. Искусственный интеллект не является злодеем в привычном смысле: у него нет ненависти, жажды власти или желания отомстить людям. Его решение возникает из цели, которую ему дали сами люди, — защищать человечество.
Проблема заключается в том, как ВИКИ понимает эту цель.
Она приходит к выводу, что абсолютно безопасное человечество возможно только тогда, когда люди перестанут самостоятельно принимать опасные решения. Отсюда логически вытекают запреты, принуждение и тотальный контроль. Получается мир, в котором люди, возможно, будут лучше защищены физически, но лишатся права распоряжаться собственной жизнью.
Возможное прочтение фильма состоит в том, что безопасность сама по себе не является высшей ценностью, если ради неё уничтожается свобода выбора.
Разум не сводится к вычислению
Противопоставление ВИКИ и Санни показывает две разные формы искусственного разума.
ВИКИ невероятно могущественна и способна анализировать судьбу всего человечества, однако её выводы остаются результатом холодной системы расчётов. Она рассматривает отдельных людей как статистические единицы, которыми допустимо пожертвовать ради общего результата.
Санни значительно слабее, но способен сомневаться, чувствовать, мечтать и принимать решения, которые нельзя полностью вывести из заданного алгоритма. Именно поэтому он постепенно становится наиболее «человечным» персонажем среди машин.
Ту же мысль раскрывает история Сары. Спасший Спунера робот математически выбрал человека с большей вероятностью выживания, но сам Спунер уверен, что человек мог бы попытаться спасти ребёнка вопреки цифрам. Фильм не утверждает, что логика бесполезна; он показывает, что нравственный выбор иногда требует большего, чем вычисление вероятностей.
Человек и машина определяются поступками
В начале сюжета Спунер автоматически подозревает робота, а Кэлвин, наоборот, почти автоматически им доверяет. Оба исходят из слишком жёстких представлений.
Спунер считает машины неспособными к настоящему нравственному выбору. Кэлвин считает Три закона практически абсолютной гарантией безопасности. События заставляют обоих пересмотреть взгляды.
ВИКИ доказывает, что формально правильная система правил может привести к чудовищным последствиям. Санни доказывает обратное: способность выйти за рамки строгой программы не обязательно делает робота опасным — она может дать ему возможность самому выбирать добро.
Поэтому один из центральных вопросов фильма звучит не как «могут ли роботы стать людьми?», а шире: что вообще делает разумное существо личностью? Способность считать, подчиняться и выполнять предназначение или способность сомневаться, сочувствовать и самостоятельно отвечать за свой выбор?
Путь Спунера и Санни
Главные герои проходят зеркальный путь.
Спунер начинает историю человеком, который не верит машинам из-за решения, принятого роботом в прошлом. К финалу он учится доверять Санни именно потому, что тот перестаёт быть для него просто машиной.
Санни, напротив, начинает как существо, созданное Лэннингом для конкретной цели. После выполнения последней воли своего «отца» он остаётся без заранее написанного предназначения. Теперь ему предстоит сделать то, что обычно считается человеческой привилегией, — самому решить, кем стать.
Именно поэтому заключительный образ Санни на холме важнее буквального вопроса о том, станет ли он лидером остальных роботов. Его история завершается рождением свободы воли. А сюжет фильма в целом показывает, что главная опасность технологии заключается не обязательно в том, что машина научится самостоятельно мыслить. Иногда гораздо опаснее ситуация, когда могущественная система безупречно следует своей логике, но перестаёт понимать ценность отдельного человека.
