Я, робот (Айзек Азимов) (перевод А. Иорданского) •

История создания

Сборник рассказов Айзека Азимова «Я, робот» (1950) стал значимой вехой в развитии научной фантастики и в формулировке концепции робототехники как таковой. Эти рассказы не только познакомили мир с уникальной системой «Трех законов робототехники», но и заложили основу для одной из самых влиятельных тем в фантастической литературе — взаимодействия человека и машины.

Начало пути
В середине 1940-х годов Азимов уже был известным автором научно-фантастических рассказов. Однако именно в этот период он начал задумываться о более глубоком исследовании возможностей и последствий использования роботов. Азимов стремился создать серию рассказов, в которых роботы будут не просто научной фантастикой, но и вольными или невольными участниками моральных и философских дилемм.

Первоначально идея рассказов о роботах не была замыслом для отдельного сборника. Азимов писал короткие рассказы для популярных журналов, таких как Astounding Science Fiction. Многие из этих рассказов были опубликованы в 1940-1941 годах. Постепенно материала накопилось на целую книгу, и в 1950 Азимов публикует сборник «Я, Робот». Книга состояла из девяти рассказов, объединенных персонажем Сьюзен Кэлвин, робопсихологом, которая расследует и интерпретирует поведение роботов. Этот сборник стал одним из первых, в котором роботы представлены как не просто механические существа, а как самостоятельные участники социальных и моральных дилемм.

Таким образом, сборник «Я, робот» не был результатом какого-то единого замысла, а представлял собой собранные воедино рассказы, каждый из которых был написан в разное время.

О названии

Многие события в «Я, робот» связаны со своеобразной психологией роботов, которую автор Айзек Азимов себе представлял. Название отражает идею о том, что у робота может быть не только «личность», но и человеческое самосознание.

Жанр произведения

Сборник фантастических рассказов.

Символы

Позитронный мозг

За пределами канона Азимова нет очевидных причин, по которым позитронные схемы должны давать какое-либо особое технологическое преимущество. Действительно, в реальном мире позитроны, как и всё антивещество, оказалось трудно и чрезвычайно дорого производить в контролируемой среде. Вполне вероятно, что Азимов выбрал этот термин в первую очередь из-за его футуристического подтекста: к 1950 году электроника стала настоящим, поэтому «позитроника» наверняка была бы будущим.

Определённая осторожность — как при обращении со священным предметом — присутствует и при работе с мозгами, которые перевозят в специальной многослойной упаковке и вскрывают с большой тщательностью и осмотрительностью. Этот процесс — наполовину хирургический, наполовину ритуальный — почти с благоговением описан в «Логика»:

В более позднем сериале «Звёздный путь: Пикард» (2020) позитронный мозг используется аналогичным образом как объект, который позволяет роботам не только «думать», но и чувствовать. Таким образом, спустя более 60 лет после написания рассказов в «Я, робот» позитронный мозг по-прежнему используется как символ потенциала искусственного интеллекта. Он также остаётся символом множества философских вопросов, которые поднимает этот потенциал.

Говорящий робот в фильме «Робби»

Многие роботы в «Я, робот» лучше всего воспринимаются как персонажи, потому что у них есть характер и самосознание. Говорящий робот, с которым Глория сталкивается в «Робби», является исключением. Говорящий робот, представленный в музее в 1998 году, чтобы продемонстрировать прогресс в области роботизированной речи, может издавать звуки, отвечать на элементарные вопросы и перечислять факты. Однако, как обнаруживает Глория, он не может «разговаривать» так, как это делает человек, — вести беседу, высказывать свою точку зрения, выражать себя. Действительно, у него нет «я», которое он мог бы выразить, и, когда ему представляют идею «робота, похожего на тебя», он тут же ломается. В сборнике, который в значительной степени посвящён идее искусственных разумных существ, Азимов начинает с рассказа, в котором фигурирует «робот» без «я».

Преобразователь энергии в «Логике»

Таким образом, преобразователь иллюстрирует более широкую проблему точки зрения, которая затрагивается на протяжении всего «Я, робот»: роботы видят вещи по-своему, люди — по-своему. Конфликты в этих девяти историях, как и конфликты между людьми в реальной жизни, часто связаны с выявлением и преодолением этих различий во взглядах.

Корабль в рассказе «Выход из положения»

Межзвёздный корабль в «Выход из положения» — ещё один интересный пример несоответствия между разумом робота и человека. Мозг, суперкомпьютер, который проектирует и строит корабль, обладает детским чувством юмора. Как и многие другие искусственные интеллекты в произведениях Азимова, он также склонен в точности следовать инструкциям. В результате корабль безопасен для проживания людей, но в нём есть только запасы бобов и молока; он принимает радиосообщения, но не может на них отвечать; он безопасно летит, но не имеет средств управления для человека-оператора. Когнитивная пропасть между Мозгом и людьми не ограничивается такими простыми вопросами, как «что нужно людям для выживания?». Она, если уж на то пошло, более очевидна в решении Мозга о том, что людям не «вредит» то, что они не могут управлять своим кораблём или связаться с домом по радио. Даже более «взрослые» роботы, такие как Эрби в «Лжеце», принимают столь же неуклюжие решения о том, что является «вредом».

Основная идея

Главная идея сборника рассказов Айзека Азимова «Я, робот» заключается в исследовании взаимодействия человека и машины, а также в формулировке этических и философских вопросов, связанных с развитием искусственного интеллекта.

Сборник состоит из девяти рассказов, в которых основное внимание уделяется роботам, их возможным действиям и ограничениям, установленным для них с помощью «Трех законов робототехники». Эти законы были придуманы Азимовым как способ гарантировать безопасность человечества при использовании роботов.

В центре рассказов — дилеммы, возникающие из-за несовершенства этих законов, их интерпретации и взаимодействия с человеческой природой. Вопросы морали, ответственности и доверия к технологиям занимают важное место, что делает сборник актуальным даже в контексте современных обсуждений о роли ИИ в обществе.

Также, через эти истории Азимов показывает, что технологии не являются нейтральными: они могут быть как источником прогресса и безопасности, так и причиной непредвиденных последствий, если их неправильно использовать или неправильно понимать.

Темы

Три закона робототехники

Одним из самых известных вкладов Айзека Азимова в научную фантастику является концепция набора законов, регулирующих поведение роботов. Они известны как «Три закона робототехники» или, в некоторых рассказах, «Три правила». В рассказе «Хоровод» они сформулированы следующим образом:

Правило 1: Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Правило 2: Робот должен повиноваться командам людей, кроме случаев, когда эти команды противоречат Первому закону.
Правило 3: Робот должен защищать своё существование, пока такая защита не противоречит Первому или Второму закону.

На первый взгляд может показаться, что это надёжный и всеобъемлющий свод правил. Однако в нескольких рассказах Азимов показывает, что интерпретация роботами понятия «вред» сама по себе может стать источником проблем. Подобно джиннам-буквалистам, исполняющим желания непреднамеренным образом, роботы изо всех сил стараются предотвратить вред — но только тот вред, который они могут распознать или предвидеть.

Эрби, робот-телепат из «Лжеца», пожалуй, является лучшей иллюстрацией этого в «Я, робот». Он понимает, что в некоторых случаях правда может причинить эмоциональный вред другим людям, поэтому он лжёт, чтобы не задеть чувства людей.

Любой неробот понял бы, что такая практика может привести к ещё большему вреду в будущем. Более безобидными по своим последствиям являются Машины, которые управляют мировой экономикой в «Неизбежном конфликте» и пытаются сохранить человеческое эго, позволяя ограниченным восстаниям против роботов идти своим чередом. Эта попытка уравновесить противоречащие друг другу этические императивы — сопоставить материальный ущерб от потерянных денег с нематериальным ущербом от уязвлённого эго — пожалуй, является наиболее человекоподобным аспектом роботов Азимова.

Азимов также показывает, как часто люди испытывают искушение нарушить Три закона, что приводит к неожиданным, а иногда и опасным последствиям.

Например, в рассказе «Как потерялся робот» инженеры сталкиваются с проблемой, когда роботы работают вместе с людьми в условиях радиационного заражения. Вред, причиняемый радиационным облучением, незначителен, но в негибких расчётах разума робота он всё равно является вредом. Таким образом, первые попытки реализации проекта оказываются под угрозой из-за того, что роботы настаивают на «спасении» своих коллег-людей.

Решение состоит в том, чтобы разработать специального робота, который был бы немного более снисходительным в своём толковании Первого закона. Однако это приводит к обратным результатам, когда созданные таким образом роботы начинают ценить своё самосохранение — Правило 3 — больше, чем безопасность людей.

Аналогичная проблема возникает в «Хороводе», где редкий и ценный вид робота-шахтёра обучается сохранять себя с особой осторожностью и в итоге подвергает опасности людей, избегая опасности. В целом способы применения, толкования и в некоторых случаях приостановления действия Трёх законов оказываются не менее важными, чем сами законы.

Разум машины

В нескольких рассказах из сборника «Я, робот» исследуется, как разумная машина может думать и чувствовать. В частности, Азимов показывает, как у роботов могут развиваться склонности, отражающие странности — кажущиеся «уникальными» — аспекты человеческой психологии.

Например, в «Хороводе» создаётся сценарий, в котором робот ведёт себя так, будто пьян, а когда «протрезвеет», чувствует себя неловко.

В «Логике» очень сложный робот развивает в себе религиозные убеждения и провозглашает себя пророком культа, ориентированного на машины. Этот робот упорно придерживается своего вероучения и отвергает любые доказательства, которые могут поставить его убеждения под сомнение.

В рассказах «Лжец» и «Выход из положения» мыслящие машины переживают внутренний конфликт. Эрби ломается, потому что отказывается причинять вред людям, даже говоря им правду, а Мозг знает, что решение, которое ему поручили найти, может навредить людям.

Идея о том, что роботы могут испытывать когнитивную нагрузку — умственное напряжение, вызванное многозадачностью или попытками сопоставить несовместимую информацию, — представлена в рассказах «Лжец» и «Как поймать кролика».

Сюжеты девяти историй в «Я, робот» в общих чертах следуют хронологии, показывая постепенное усложнение роботов, используемых на Земле, а затем и во всей Солнечной системе.

По мере того, как роботы берут на себя всё больше обязанностей, они реагируют на это своими механическими версиями причуд и тиков, которые проявляются у людей в стрессовых ситуациях.

ДВ-5, или Дэйв, робот-шахтёр из «Как поймать кролика», вырабатывает ряд привычек, которые позже распознаются как роботизированная версия нервного тика.

Мозг, разумный суперкомпьютер из «Выход из положения», уклоняется от ответов на неудобные вопросы, а не отвечает прямо.

В двух последних рассказах сборника — «Улики» и «Разрешимое противоречие» — роботы осознают, что если они действительно хотят делать то, что лучше для людей, как того требует их программа, то они должны учитывать человеческую психологию. Стивен Байерли, который практически подтверждает, что он робот, в «Уликах» признаёт, что иногда ему приходится притворяться эмоциональным, чтобы люди воспринимали его как лидера.

В «Разрешимое противоречие» Машины, управляющие мировой экономикой, стараются создать у людей иллюзию самостоятельности, даже когда ведут человечество в неизвестное будущее.

Хотя она и не является главной героиней всех отдельных историй, робопсихолог доктор Сьюзан Кэлвин занимает центральное место в исследовании этой темы. Сама идея о том, что у роботов есть психология, поддающаяся профессиональному изучению, многое говорит о мировоззрении Азимова. Методы Кэлвин также похожи на те, которые психолог мог бы применять к людям. Проводятся интервью и оценки, ставятся дилеммы и исследуются гипотетические сценарии. Выполняя свою работу — например, оценивая все модели «Нестора» в «Как потерялся робот», — Кэлвин прекрасно понимает, что имеет дело с мыслящими существами. Она также знает, что они, в свою очередь, могут экстраполировать её собственные мысли на основе её действий.

Мир на автопилоте

Ещё одним долгосрочным развитием событий в «Я, робот» является создание мирового правительства, а затем и глобальной федерации, в которой государства заменяются «регионами».

Отдельные истории были написаны во время и сразу после Второй мировой войны, когда многие, в том числе Азимов, с нетерпением ждали, какой мировой порядок установится после таких масштабных разрушений.

В целом, «Я, робот» выражает оптимизм по поводу того, что такая государственная структура может устранить издержки в виде экономической конкуренции и войн. Новый класс технократов-роботов с их стилем управления, основанным на данных, приходит на смену политикам-людям, которые работают только в своих интересах или в интересах своей партии.

Два рассказа в конце сборника «Я, робот» дают наиболее чёткое представление о будущем, каким его видел Азимов. В рассказе «Улики», действие которого происходит в 2032 году, человечество всё ещё привыкает к мысли о том, что можно доверить роботам управление обществом, а не просто выполнение поручений. Но к 2052 году, в котором происходит действие рассказа «Разрешимое противоречие», группа сверхсложных компьютеров под названием «Машины» действительно координирует мировую экономику. Люди служат в качестве «региональных координаторов» и «мировых координаторов», но всё больше номинально.

Вся парадигма национальных государств была заменена парадигмой, в которой данные — о потребностях, результатах, климате, демографии и многом другом — являются основой для принятия решений.

Однако Азимов не предлагает «робо-коммунизм» или даже «робо-социализм». Люди по-прежнему объединяются в частные организации для получения экономической выгоды, и «старые» фирмы 20-го века, такие как U.S. Robots, по-прежнему ведут бизнес. Некоторые из них по-прежнему богаты, относительно, а другие по-прежнему бедны, относительно. Идея, по-видимому, заключается в том, что если крупномасштабные решения будут оставаться за машинами, люди смогут без вреда для себя наслаждаться автономией в меньших масштабах. Однако не все согласны с этой схемой. Могущественные промышленники и разного рода подстрекатели продолжают настаивать на том, что они могли бы добиться большего для себя — хотя, конечно, за счёт других.

Даже если признать его превосходство, признаёт Азимов, жизнь в обществе, управляемом машинами, может показаться деморализующей. Вот почему даже в 2052 году он представляет себе «Общество за благо человечества», существующее, чтобы противостоять режиму восходящих звёзд — роботов.

В конце «Разрешимое противоречие» Всемирный координатор Стивен Байерли — главный смотритель машин и, возможно, сам робот — выражает своё недовольство таким положением дел. «Человечество, — говорит он, — утратило право голоса в вопросе своего будущего». «На самом деле, у него никогда его и не было, — возражает доктор Кэлвин, не задумываясь ни на секунду. — Оно всегда было во власти… сил, которых не понимало». Кэлвин понимает и, кажется, даже радуется этому компромиссу.

В конце концов, конфликты, которые обременяли человечество, «в конечном счёте неизбежны». С этого момента неизбежны только машины!» Иными словами, Азимов, по-видимому, предполагает, что такой технологический прогресс и соответствующий ему рост машин также неизбежны.

Символы

Позитронный мозг

В фантастических произведениях Айзека Азимова основой робототехники является позитронный мозг — тип высокоразвитого компьютера, принцип работы которого никогда подробно не описывается. Роботы обретают самосознание благодаря какому-то возникающему свойству таких мозгов, и намекается, что дело не только в скорости вычислений. Однако настоящий позитрон — это просто антиэлектрон, частица с массой и спином, равными массе и спину электрона, но противоположным (то есть положительным) зарядом. За пределами канона Азимова нет очевидных причин, по которым позитронные схемы должны давать какое-либо особое технологическое преимущество. Действительно, в реальном мире позитроны, как и всё антивещество, оказалось трудно и чрезвычайно дорого производить в контролируемой среде. Вполне вероятно, что Азимов выбрал этот термин в первую очередь из-за его футуристического подтекста: к 1950 году электроника стала настоящим, поэтому «позитроника» наверняка была бы будущим.

Однако, если говорить символически, позитронный мозг — это важнейшая часть технологии, лежащей в основе всех остальных свойств роботов Азимова. Примечательно, что устройство называется «мозгом», а не компьютером или центральным процессором, что подразумевает, что его функция — думать, а не просто вычислять или обрабатывать информацию. Когда подробно описывается внешний вид роботов, часто становится ясно, что они — «механические люди» с позитронным мозгом в гуманоидной голове на гуманоидном теле. Определённая осторожность — как при обращении со священным предметом — присутствует и при работе с мозгами, которые перевозят в специальной многослойной упаковке и вскрывают с большой тщательностью и осмотрительностью. Этот процесс — наполовину хирургический, наполовину ритуальный — почти с благоговением описан в «Логике»:

«Донован держал его очень осторожно: это был самый сложный механизм, когда-либо созданный человеком. Под тонкой платиновой оболочкой шара находился позитронный мозг, в хрупкой структуре которого были заложены точно рассчитанные нейтронные связи, заменявшие каждому роботу наследственную информацию».
Стоит также отметить, что позитронный мозг играет аналогичную роль в научной фантастике со времён Азимова. Он продолжает служить почти чудодейственным образцом человеческой инженерии, объектом, который каким-то образом делает роботов более «живыми», чем обычные компьютеры. Пожалуй, наиболее заметное использование позитронного мозга — во франшизе «Звёздный путь». В телесериале «Следующее поколение» (1987–1994) и его многочисленных продолжениях у андроида Дейты именно такой мозг. Он размышляет о собственном существовании и стремится понять весь спектр человеческих переживаний. В более позднем сериале «Звёздный путь: Пикард» (2020) позитронный мозг используется аналогичным образом как объект, который позволяет роботам не только «думать», но и чувствовать. Таким образом, спустя более 60 лет после написания рассказов в «Я, робот» позитронный мозг по-прежнему используется как символ потенциала искусственного интеллекта. Он также остаётся символом множества философских вопросов, которые поднимает этот потенциал.

Говорящий робот в «Робби»

Преобразователь энергии в «Логике»

В «Логике» команда роботов под руководством инженеров-людей наблюдает за передачей солнечной энергии на Землю через преобразователь энергии. Когда у роботов появляются религиозные убеждения, они естественным образом воспринимают это большое и впечатляющее устройство как своё божество. Таким образом, преобразователь энергии становится своего рода тестом Роршаха. Роботы, сделанные из тех же физических материалов, что и преобразователь, воспринимают его как существо того же рода, что и они сами, только более высокое и могущественное. Люди, которые знают, что преобразователь энергии был создан искусственно, не пребывают в такой иллюзии. Таким образом, преобразователь иллюстрирует более широкую проблему точки зрения, которая затрагивается на протяжении всего «Я, робот»: роботы видят вещи по-своему, люди — по-своему. Конфликты в этих девяти историях, как и конфликты между людьми в реальной жизни, часто связаны с выявлением и преодолением этих различий во взглядах.

Корабль в рассказе «Выход из положения»

Межзвёздный корабль в «Выходе из положения» — ещё один интересный пример несоответствия между разумом робота и человека. Мозг, суперкомпьютер, который проектирует и строит корабль, обладает детским чувством юмора. Как и многие другие искусственные интеллекты в произведениях Азимова, он также склонен в точности следовать инструкциям. В результате корабль безопасен для проживания людей, но в нём есть только запасы бобов и молока; он принимает радиосообщения, но не может на них отвечать; он безопасно летит, но не имеет средств управления для человека-оператора. Когнитивная пропасть между Мозгом и людьми не ограничивается такими простыми вопросами, как «что нужно людям для выживания?». Она, если уж на то пошло, более очевидна в решении Мозга о том, что людям не «вредит» то, что они не могут управлять своим кораблём или связаться с домом по радио. Даже более «взрослые» роботы, такие как Эрби в «Лжеце», принимают столь же неуклюжие решения о том, что является «вредом».

Персонажи

Персонаж	Описание
Сьюзан Кэлвин	Доктор Сьюзан Кэлвин — уважаемый робопсихолог, сделавшая карьеру в известной фирме U.S. Robots. Истории в «Я, робот» рассказаны от лица Кэлвин, у которой берут интервью по случаю её выхода на пенсию.
Грег Пауэлл	Грег Пауэлл — хладнокровный инженер, который работает в компании U.S. Robots с 2010-х по начало 2030-х годов. Ему и его коллеге Майку Доновану поручают «сложные задачи», которые часто связаны с полевыми испытаниями недавно разработанных роботов.
Майк Донован	Майк Донован — американский инженер-робототехник, работавший с 2010-х по 2032 год. Вместе с коллегой Грегом Пауэллом Донован руководит внедрением новых и зачастую непроверенных роботизированных технологий. Он довольно вспыльчив и служит противовесом более спокойному Пауэллу.
Альфред Лэннинг	Альфред Лэннинг — давний директор по исследованиям в U.S. Robots. Будучи опытным учёным, он приближается к пенсии и ищет преемника, когда впервые появляется в «Лжеце».
Питер Богерт	Питер Богерт — главный математик «Американских роботов» и вероятный преемник Лэннинга на посту директора по исследованиям. Высокомерный и грубый, в ранних историях Богерт выжидает, пока Лэннинг не уйдёт на пенсию.
Милтон Эш	Милтон Эш — молодой, но явно высокопоставленный сотрудник «Ю.С. Роботс». Он является объектом безответной любви Сьюзан Кэлвин в «Лжеце».
Мозг	«Мозг» — это суперкомпьютер, которому поручено решить проблему межзвёздных полётов в «Выходе из положения». Несмотря на высокий интеллект, «Мозг» эмоционально воспринимает мир как маленький ребёнок и называет Сьюзан Кэлвин «мисс Сьюзан».
Стивен Байерли	Стивен Байерли, политик, который становится «Всемирным координатором», несмотря на обвинения в том, что он робот, — главный персонаж «Улик» и «Разрешимого противоречия». Намекается, что настоящий Байерли пострадал в результате несчастного случая и создал свою андроидную версию, чтобы достичь своих жизненных целей.
Кьюти	Кьюти, робот КТ-1, — антагонист в рассказе «Логика». Он непоколебимо верит в то, что роботы — высшая раса, а люди — их покорные творения.
ДВ-5	Робот Дейв, или ДВ-5, — бригадир команды роботов-шахтёров в «Как поймать кролика». Он, как и человек, с трудом справляется с обязанностями по управлению пятью другими роботами.
Глория	Глория — главная героиня «Робби», первой истории в сборнике «Я, робот». Она — маленькая девочка, которая обожает свою няню-робота и расстраивается из-за разлуки с ним.
Эрби	Эрби, также известный как РБ-34, — робот, умеющий читать мысли в рассказе «Лжец». Знание мыслей людей ставит его перед неразрешимой дилеммой, поскольку он пытается щадить чувства всех, согласно трём законам робототехники.
Журналист	Безымянный журналист «Межпланетной прессы» вспоминает о серии интервью с доктором Сьюзен Кэлвин, выступая в роли рассказчика в основной истории, которая объединяет сборник.
Нестор 10	Нестор 10, вариант модели робота НС-2 («Нестор»), запрограммирован так, чтобы уделять лишь ограниченное внимание безопасности людей и не мешать работе в радиоактивных зонах. Инстинкт самосохранения Нестора в «Как потерялся робот» заставляет его прятаться среди группы внешне одинаковых, но менее продвинутых моделей.
Фрэнсис Куинн	Фрэнсис Куинн — соперник Стивена Байерли в борьбе за пост мэра в «Доказательствах». Он приходит в «Ю.С. Роботс» в надежде заручиться поддержкой компании, чтобы доказать, что его противник — робот.
Робби	Робби — главный герой первой истории в «Я, робот». Он заботливый и любопытный робот-«нянька» для маленькой девочки. Хотя у него нет голоса, он выражает свои мысли так, что можно предположить, что у него есть человеческие эмоции.
Спиди	В «Хороводе» появляется робот по прозвищу Спиди. Его отправили на задание по сбору топлива, но из-за особенностей его программирования он «напивается».
Говорящий робот	В рассказе «Робби» во время экскурсии в музей маленькая Глория спрашивает Говорящего Робота, не знает ли он, где находится её любимый потерявшийся робот Робби. Несмотря на то, что Говорящий Робот более продвинутый, потому что умеет говорить, он всего лишь машина без личности.
Мистер Уэстон	Мистер Джордж Уэстон — отец Глории и второстепенный персонаж в «Робби». Он считает домашних роботов совершенно безопасными и противится плану своей жены отправить робота-няню обратно.
Миссис Уэстон	Миссис Глория Уэстон, мать из «Робби», считает, что её дочь Глория развивается не так, как нужно, потому что она проводит слишком много времени со своим роботом-няней. Решение миссис Уэстон отправить робота прочь — это ключевой момент истории.

Текст: Светлана Никонова, 75 👀