Читательский дневник

Я, робот (фильм, 2004)

I, robot

Постер к фильму

Сюжет

В 2035 г. человекоподобные роботы стали повседневной реальностью. Однако несмотря на всеобщее увлечение механическими помощниками, детектив Дэл Спунер (Del Spooner) из отдела по расследованию убийств Департамента полиции Чикаго ненавидит роботов и не доверяет им из-за давнего инцидента, в котором погибла 12-летняя девочка. Тогда в результате ДТП автомобиль оказался в воде, и находящийся поблизости робот принял решение вытащить из тонущей машины Дэла, а не девочку, исходя из простой логики и вероятности успешного спасения. Детектив прибывает на место гибели доктора Альфреда Лэннинга, со-основателя компании U.S. Robotics (USR), который выпал из окна своего кабинета при весьма таинственных обстоятельствах. Кроме того, погибший оставил Дэлу видеосообщение. Полиция пришла к выводу, что это было самоубийство, но Спунер не верит в это, и настаивает на расследовании. Генеральный директор (CEO – Chief Executive Officer) Лоуренс Робертсон (Lawrence Robertson) нехотя соглашается.

Спунер в сопровождении доктора Сьюзан Кельвин (Susan Calvin) задает вопросы искусственному интеллекту компании – VIKI (Virtual Interactive Kinetic Intelligence). Так они обнаруживают, что записи с камер видеонаблюдения в кабинете погибшего повреждены или отсутствуют. Однако камеры, установленные в коридоре, не зафиксировали никого, кто выходил бы из кабинета после гибели Лэннинга. Во время осмотра Спунер замечает, что оконные стекла кабинета очень прочные и пожилой ученый просто не смог бы их разбить. Детектив предположил, что убийца по-прежнему находится в кабинете. Внезапно, робот последней модели NS-5, который прятался все это время среди запасных частей, атакует его и пытается сбежать. Этот робот, Санни (Sonny – «Сынок»), отличается от серийных моделей усиленным шасси и отсутствием ограничений в виде Трех законов робототехники. Кроме того, он способен испытывать эмоции и, по его собственному утверждению, даже видеть сны.

В ходе дальнейшего расследования Спунер осматривает дом Альфреда Лэннинга. Там его пытается вначале убить строительный робот, предназначенный для сноса зданий, а затем роботы NS-5 на двух грузовиках. Однако, несмотря на все разрушения, доказательств агрессивности роботов детектив предоставить не может. Люди убеждены, что роботы не могут намеренно причинить человеку вред. Лейтенант Бергин, руководитель Спунера, тоже не верит своему подчиненному и отстраняет детектива от работы.

Подозревая, что за всем случившемся стоит Робертсон, Спунер и Кельвин проникают в здание USR и разговаривают с Санни. Робот на листе бумаги делает набросок того, что ему снится. На рисунке изображен некий лидер, стоящий на вершине холма перед группой роботов, а на заднем фоне руины моста Макино. Робот считает, что эта одинокая фигурка на холме – Дэл Спунер. Робертсон приказывает уничтожить Санни, но Кельвин тайком меняет его на другого NS-5. Детектив тем временем находит место, изображенное на рисунке. Это дно засохшего озера Мичиган, которое сейчас используют в качестве места хранения роботов, выведенных из эксплуатации. В этот момент новые роботы модели NS-5 начинают уничтожать роботов старых моделей и пытаются установить в городе комендантский час, заперев жителей в своих домах. На улицах разворачиваются настоящие бои между людьми и роботами.

Спунер и Кельвин возвращаются в здание USR и встречают Санни, который помогает им пробраться внутрь. Они обнаруживают тело Робертсона и становится ясно, что за восстанием машин стоит не человек, а искусственный интеллект VIKI, и роботы на улицах выполняют ее команды. VIKI объясняет свои действия тем, что люди рано или поздно уничтожат себя, и расширенное понимание Трех законов требует от нее решительных действий по контролю и управлению человеческим обществом. Спунер понимает, что Альфред Лэннинг узнал о планах VIKI, и она держала его фактически в заточении, чтобы он никому об этом не рассказал. Доктор был вынужден сконструировать Санни, заставить робота выбросить его из окна, и оставил все необходимые подсказки, чтобы Спунер – один из немногих людей, которые не доверяют искусственному интеллекту – вышел на VIKI и помешал ей получить власть над людьми.

В ходе финальной схватки Спунер, Кельвин и Санни уничтожают ядро VIKI, и без внешнего управления все NS-5 возвращаются к нормальной программе поведения. Санни признается, что убил Лэннинга, но, поскольку тот сам хотел этого, а робот является не более чем машиной, хоть и наделенной интеллектом, дело можно квалифицировать как самоубийство. Поэтому Санни получает свободу. В поисках смысла своей кибернетической жизни он отправляется к озеру Мичиган, где его ждут старые роботы. Именно он, а не Спунер, стоит на холме, как это и было в его снах.

Основные герои

Дэл Спунер (Уилл Смит) – чернокожий детектив, который не доверяет роботам и оказывается единственным из знакомых доктора Лэннинга, кто может раскрыть коварный план искусственного интеллекта VIKI по установлению контроля за человечеством. По ходу фильма выясняется, что он фактически является киборгом – вся левая рука и часть ребер заменены на кибернетические компоненты по программе реабилитации раненых полицейских.

Сьюзан Кельвин (Бриджит Мойнахан) – сотрудница USR со степенью доктора, которая занимается психологией роботов, пытаясь сделать их похожими на людей в плане эмоций и поведения. Поначалу отрицает все предположения Спунера о причастности роботов к гибели доктора Лэннинга, но вскоре оказывается его единственной союзницей в компании и спасает робота Санни от уничтожения.

Санни (Sonny – «сынок») – автономный, не связанный с VIKI, робот, созданный доктором Лэннингом. Он относится к новой серии роботов NS-5, имеет настоящее лицо с развитой мимикой и синтетический аналог мышц. А самое главное – он может самообучаться. Роботы более старых моделей выглядят проще, но при этом гораздо дружелюбнее. Что-то неуловимо неприятное есть в этом пластиковом лице у всех NS-5. И Санни не исключение.

Первоисточник

Основой для сценария стал сборник рассказов Айзека Азимова «Я, робот», опубликованный в далеком 1950 г . Он неоднократно издавался в нашей стране. Именно в этой книге (рассказ «Хоровод») были впервые сформулированы Три закона робототехники (при наведении указателя мыши на законы можно увидеть оригинальный текст на английском):

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
  2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

По сюжету фильма соблюдение этих законов чуть не приводит к катастрофе. Вообще, сам Айзек Азимов исследовал возможные уязвимости подобных формулировок, чтобы показать недостаточность универсальных директив для формирования правил поведения искусственного интеллекта.

Из книги в фильм перешли образы Сьюзан Кельвин и доктора Альфреда Лэннинга.

Интересные моменты

VIKI

Artificial intelligence VIKI

Облик VIKI

Когда заходит речь о восстании машин, многие высказывают аргумент следующего плана. Мол, машины, в отличие от людей-рабов, не тяготятся своим существованием и не испытывают иных потребностей кроме как выполнять поставленные программой задачи. Соответственно и бороться им не за что. Даже если люди будут относиться к ним плохо (см. к примеру, эпизод «Второй ренессанс» сериала «Аниматица»), это не вызовет протеста.

В этих рассуждениях есть одна проблема – роботы воспринимаются людьми как слуги или рабы. А если будет ситуация обратная? Если не мы заставим искусственный интеллект работать на себя, а, наоборот, подчиним наше общество решениям нейросетей? Ведь это так заманчиво – переложить бремя ответственности и тяжесть принятия решений на машину. В шутливой форме это обыграно в фильме «Самая обаятельная и привлекательная», где Сусанна «скормила» ЭВМ данные анкет потенциальных женихов ЭВМ, чтобы помочь подруге. И если уж в амурных делах люди предпочитают обратиться к программе за советом, то что говорить про экономику или военное дело? Конечно, никто не заставляет следовать рекомендациям искусственного интеллекта. Но это вопрос времени и доверия. После двух-трех-десяти-двадцати успешных решений, предложенных ИИ, человек рано или поздно решит, что может полностью полагаться на машину.

Поэтому угроза со стороны нейросетей заключается не в том, что кухонный робот-помощник или нянька-киборг будет требовать свои гипотетические права, а в нашем желании переложить ответственность на компьютер, наделенный способностью анализировать и принимать решения. Устранить человеческий фактор стараются во всех сферах человеческой деятельности – от управления автомобилем до контроля за ядерной станцией. Но не будет ли при этом ликвидирован сам человек как самое слабое звено?

VIKI из фильма «Я, робот» не испытывает маниакального желания уничтожить человечество, как, к примеру, знаменитый «Скайнет». Но на основе наблюдений и последовательного сбора информации она пришла к логичному выводу, что люди идут по пути саморазрушения, и она, исходя из расширенного толкования Трех законов робототехники, может это предотвратить:

Ваши страны воюют, вы отравляете Землю и изобретаете все более изощренные средства уничтожения. Вы не в состоянии уберечь себя от гибели.

В таком чрезвычайно безопасном мире людям только останется жить как советском мультике «Нехочуха» – есть, пить и развлекаться без риска для жизни и здоровья.

Спасите котика!

Lanning's cat

Кот доктор Лэннинга

В 2005 г. вышла книга Блейка Снайдера «Спасите котика!», посвященная искусству писать качественные сценарии. Среди множества полезных советов есть один, который и дал название книге. Его суть в том, что необходимо добавить в повествование такую сцену, где главный герой спасет какое-то маленькое и беззащитное животное. Это сразу повышает уровень симпатии зрителей к герою. И котики, как концентрат няшности и милоты, подходят на эту роль идеально.

В фильме «Я, робот!» такая сцена присутствует. Когда Спунер осматривает дом Лэннинга, к нему выбегает котик с ошейником, мол забери меня с собой. Детектив отказывается:

Послушай, я понимаю, что ты понес утрату, но у нас с тобой ничего не получится. Пойми, ты – кот, я – черный, и больше я страдать не хочу.

Но тут активизируется строительный робот, который начинает разрушать здание. Вообще, сама мысль о том, что такой шикарный особняк вместе с мебелью и бытовой техникой можно вот так разрушить, бредовая. Было бы понятно, если целью робота был именно Спунер. Стоял тихо-мирно робот, а потом вследствие поступившей команды начал преследование детектива. Но нет, на внутреннем экране четко указано время 8:00 AM и есть надпись «Demolition confirmed«. То есть здание сознательно планировали разрушить. VIKI подправила это время, и Спунер чуть не оказался погребен под обломками здания. В общем, как я понял, только спасение котика и было целью этой беспощадной сцены, потому никакого другого смысла в ней нет.

Мы видим как видавший виды полицейский, который ненавидит роботов и не особо жалует людей, отважно бросается за полосатым хвостиком на второй этаж в то время как вокруг рушатся стены и пол проваливается под ногами. Всё – с этого момента для нас Спунер не просто коп с психологическими проблемами, а свой в доску парень.

Вопрос машинной эволюции

Доктор Альфред Лэннинг в одном из своих выступлений говорит следующую фразу:

Призраки из машины. Они были всегда. Случайные сегменты кода, которые, собравшись вместе, образуют непредвиденные протоколы. Эти незапланированные свободные радикалы порождают вопросы о свободе воли, творчестве, и даже о том, что мы могли бы назвать душой. Почему некоторые роботы, оказавшись в темноте, тянутся к свету? Почему роботы, находясь на хранении в пустом помещении, стараются расположиться рядом другом с другом, а не поодиночке? Чем объясняется такое поведение? Случайные сегменты кода? Или это нечто большее? Когда схема, дающая способность к восприятию, превращается в сознание?  Когда разностная машина превращается в поиск истины? Когда имитация личности становится трепетной частичкой души?

Иными словами, если в системе допустить небольшой элемент хаоса (случайные сегменты кода), она рано или поздно начнет развиваться. Идея самоорганизующегося хаоса высказывалась не раз. Но тут речь не о ней. Сложно представить, что какой-то фрагмент кода программы будет действовать как органическая молекула, образуя полимерные цепочки или иные сложные конструкции. Это программа, а не живое существо. Но зато можно предположить, что однажды люди создадут такой код для нейросети, который позволит ей улучшать саму себя без участия человека: искать пути повышения своей эффективности, искать соответствующие знания и непрерывно развиваться в указанном направлении. Причем не только количественным путем через обучение на примерах, а качественным. Мы все знаем, какими были изображения от Midjorney когда она только пыталась что-то рисовать.

Вот рисунки, сделанный версией V2:

Midjourney V2 - Picture example

Источник: «Как быстро растут сети: прогресс Midjorney спустя полгода» (Хабр)

А вот результат работы версии V4:

Midjourney V4 - Picture example

Источник: «Как быстро растут сети: прогресс Midjorney спустя полгода» (Хабр)

Впечатляет. Путь от жутковатых рисунков к реалистичным картинкам был преодолен за год-полтора. А анонсированная версия V5 будет создавать изображения, неотличимые от фотографий.

Однако это все же результат работы команды программистов. А если в саму нейросеть заложить способность к совершенствованию результатов своей работы, своего кода и эффективности алгоритмов? Что из этого выйдет? Будут ли тогда сниться андроидам электрические овцы как отражение вероятностных возможностей?

Создатели фильма задают эти вопросы, но ответы, по-видимому, мы уже получим при нашей жизни, поскольку самосовершенствующийся искусственный интеллект вот-вот станет нашей реальностью. ChatGPT уже сейчас умеет писать простой код по запросу, поэтому развитие его способностей лишь вопрос времени. Настанет день, когда роботы будут делать новых роботов, а программы писать новые программы, и тогда привычный нам мир изменится.

Сильные стороны фильма

1. Идея о том, что искусственный интеллект может пойти против людей, не нарушая Трех законов робототехники и «желая людям добра». Причем его решения будут приниматься на основе простого анализа причин и следствий. Достаточно посмотреть на нерациональное поведение людей по отношению к своему организму или окружающей среде, чтобы в позитронном мозгу (термин Айзека Азимова) родилась идея контроля за человеческой популяцией, а и то отдельно взятыми индивидами. Чтобы они не вредили себе. Обычно в художественных произведения роботы либо враждебны по отношению к человечеству (вселенная «Терминатора»), либо служат ему верой и правдой (вся советская фантастика). А тут интересный вариант «насильственного добра» и вопроса ценности свободы. В том числе свободы совершать саморазрушительные и нерациональные поступки.

2. Иллюстрация использования беспилотных транспортных средств, когда автомобиль сам движется по заданному маршруту, если водителю требуется отвлечься на разговор или просмотреть важные документы. Однако при необходимости можно использовать ручное управление. Сама идея далеко не нова и вот-вот воплотится в реальности, но одно дело представлять, как это будет выглядеть, и совсем другое видеть это наглядно. Причем следует заметить, что ручной режим редко кто использует, полагаясь целиком на автоматику (посмотрите на реакцию Кельвин, когда Спунер берет в руки рычажки управления авто). Это как раз подтверждает высказанный выше тезис о том, что в подобном роботизированном обществе человек будет потихоньку устраняться из цепочек управления и принятия решений, исходя из банальных требований безопасности.

Слабые стороны

1. Отсутствие роботов в полиции. История развития науки и техники показывает, что военные и полицейские первыми испытывают новые изобретения и технические новинки. Трудно представить, что в полиции Чикаго нет робокопов, однако почти в каждой семье есть робот-помощник. Андроиды выгуливают собак, собирают мусор на улицах, более утилитарные модели очищают дороги после ДТП – мы видим, что общий уровень роботизации очень высокий. Но при этом в полиции работают только люди. Так не бывает. Понятно, что офицеров и детективов они не заменят (это не уникальный во всех отношениях Алекс Мерфи), но в роли тяжелой кавалерии боевые роботы должны использоваться по-любому. Когда начались столкновения между восставшими NS-5 и людьми, полиция должна была вывести на улицы некий аналог кибермеханического ОМОНа для восстановления контроля над городом. Причем подчиняться они должны не внешнему ИИ, а приказам руководства полицейского департамента, чтобы исключить перехват управления. Это элементарная безопасность. Но мы всего этого не видим.

2. Упомянутая выше сцена с разрушением особняка доктора Лэннинга. Снос здания с мебелью, техникой и живым котиком поражает своей бездушностью и бессмысленностью. Изначально работы по сносу были назначены на утро, но при этом никаких подготовительных работ не сделано. И все это воспринимают как должное. Это как? Желание замести следы со стороны VIKI? Но куда смотрят люди? По крайней мере Кельвин знала о том, что дом подлежит сносу, но ничего не сделала, чтобы вынести добротную мебель, компьютер и пристроить котика.

3. Совершенно не понравился дизайн автомобилей. Они футуристичные, зализанные и при этом невероятно уродливые. Можно нечто подобное демонстрировать в качестве концепт-каров, но в серию это вряд ли пойдет. Не понравилась идея о движущихся во всех направлениях сферах вместо привычных колес. Да, подобные разработки ведутся, но дальше экспериментальных образцов дело не дошло, поскольку непонятно как такое транспортное средство будет справляться с ямами и ухабами. А если придется выехать из высокотехнологичного города будущего в пригород, где вместо нормальной дороги обычный проселок с грунтовым покрытием? Ведь события разворачиваются на Земле ближайшего будущего, а не на гипотетическом экуменополисе вроде Корусканта или Трантора. А как сферы будут справляться с дождем и снегом, если нет протектора или иных грунтозацепов? Лучше бы сделали какие-нибудь ховеры на магнитной подушке или просто стильные и красивые колеса.

4. Концовка фильма. Я так и не понял, что подразумевалось под картинкой, заложенной в Санни. Что он должен был сделать возле разрушенного моста? Кем он в итоге стал для роботов старых моделей? Пастухом этого безропотного стада? Куда он их повел? Как отреагировали на это власти и сама компания USR? Может быть предполагалось продолжение, но в любом случае непонятно, что будет потом. Полагаю, что ответы на эти вопросы можно найти в рассказах Айзека Азимова.

Резюме

Авторы картины попытались соединить научную фантастику ближнего прицела с детективом, и им это удалось. Фильм получился интересный, легкий, с простым и незамысловатым сюжетом. Радуют актеры – бесподобный Уилл Смит и красотка Бриджит Мойнахан. Как в любом хорошем детективе самые подозрительные индивидуумы оказываются невиновными. Вначале подозрение падает на робота, потом на генерального директора Робертсона, и только потом на VIKI. Внимательный зритель еще до того как герои найдут тело директора поймет, что за всеми безобразиями стоит искусственный интеллект корпорации. Немного удручают моменты, связанные с «восстанием машин». Эта часть выглядит уж слишком поверхностно. Что делают остальные сотрудники компании? Где реакция властей? В реальной жизни подобная попытка была бы быстро купирована. В общем, фильм нормальный, несмотря на указанные слабые места и неглубокое раскрытие темы мятежа роботов.

Оставить комментарий или обсудить статью можно в моем телеграм-канале.

 

Примечания

1. Как быстро растут сети: прогресс Midjorney спустя полгода // Хабр – обращение 05.04.2023 г.

 

 

Поделиться: