Человек и робот

1. Робот не может принести вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен подчиняться человеку, если это не противоречит Первому закону.

3. Робот должен заботиться о своём существовании, если это не противоречит Первому и Второму законам.

Три закона роботехники Исаака Азимова

В интересное время мы живем. Послушать иных деятелей — человечество обречено на скорую гибель. Послушать других — мелкие неприятности вроде голода, войн, терроризма, глобального потепления и президентских выборов не очень актуальны, и пора заняться вопросами действительно серьезными, вроде прав домашних животных. Я не шучу: юридические факультеты ведущих университетов вводят уже такие курсы. Всему этому самое место на газетной полосе. Прочтут и забудут. Но так хочется заглянуть подальше. Лет на двести.

Одно могу предсказать с полной уверенностью: времена, когда какая-нибудь эпидемия чумы или там гибель Армады могла изменить курс истории, давно прошли. Теперь, в одном лишь двадцатом столетия существованию нашей цивилизации угрожали две мировые войны, холодная война, фашизм, коммунизм, ядерная гонка — и мы не просто уцелели, а победили. Стали сильнее, богаче опытом и знаниями. Да и просто богаче, в смысле доступных материальных благ. Апокалипсис — исламистский, террористский, энергетический, экологический — не состоится. Но одна опасность останется. Робот.

Смахивает на шутку. Луноходы, сварочные автоматы на японских автозаводах, пылесосы, полицейские роботы, подрывающие бомбу, — угроза человечеству? Для ответа придется вначале вернуться в античное прошлое, когда афинские граждане занимались поэзией, философией, математикой — тем, что в современных американских университетах называется liberal arts, искусства свободного человека. А для физического труда существовали рабы. Экономически такое разделение было совершенно необходимым: без концентрации продукта труда многих в руках немногих прогресс невозможен. Белой Америке тоже извиняться не за что, хоть это и в моде нынче. Рабство было трамплином, с которого начался её взлет, и в конечном итоге все выиграли.

Все экономические формации, от рабства до капитализма, определялись антагонизмом. Маркс предлагал с ним покончить хирургически, просто ликвидировать капиталистов с помощью пролетарской революции. Не получилось. Однополюсных магнитов не бывает, и вакуум заполнил групповой феодал, номенклатура. Герберт Уэллс, как и положено социальному фантасту, довел антагонизм до предела в «Машине времени», где потомки пролетариата, морлоки, берут на себя полную заботу обо всех нуждах наследников правящих классов, элоев, и превращают их в домашний скот. Откармливают на мясо. Поворот на 180 градусов от античных времен, когда скотом (правда, не мясным, а рабочим) считались рабы.

Оба сценария, хоть и не очень человечные, были вполне человеческими. Роботом и не пахло. Но история решила по-своему. Когда зрелому капитализму, основанному на массовом производстве, понадобился массовый же потребитель, пролетариат, единственный кандидат на эту должность, превратился в обеспеченный средний класс. Противоречия есть, магнит, как ему и положено, остался двухполюсным, но антагонизма больше нет. Для этого, однако, потребовался существенный рост производительности труда, и здесь-то на помощь человеку пришел робот.

Слово это придумал менее ста лет назад Карел Чапек. Его фантастический робот (от чешского robota) принес с собой сразу два конфликта: экономический (начал вытеснять людей с рабочих мест) и социальный (потребовал равноправия). Отсюда и повышенный интерес к ним, вначале чисто литературный, теперь и инженерный, а в будущем неизбежно и социологический. Реальному роботу равноправие ни к чему, на остальное стоит взглянуть повнимательнее.

Робот — это устройство, способное функционировать без непосредственного участия человека. Два замечания. Функционировать — очень широкое понятие. Но, хотя вполне возможны робо-собака или робо-лошадь, их социальный эффект не очень заметен. Иное дело — человек. Поэтому условимся под функционированием понимать выполнение функций, свойственных человеку. И второе. «Без непосредственного участия» — следовательно, человек не устраняется из картины, а продолжает определять поведение робота, хотя бы в самом общем виде.

Но всё же от выполнения каких-то функций он отстраняется и, если это — трудовые функции, может потерять работу, то есть источник средств существования. В этом и состоит, на первый взгляд, опасность робота. Да ещё в излюбленном хобби человека — убивать себе подобных. Соответственно запрограммированный робот сработает не хуже фанатика-самоубийцы.

Но робо-солдат — не пакет с взрывчаткой, в гараже не изготовишь. Индустриальное же производство с неизбежным участием правительств и международных организаций маловероятно. Времена глобального противостояния и холодной войны прошли. Идеологически противостоять некому, а экономически незачем. А уж робот, по собственной воле атакующий человека — это вообще по ведомству голливудской малонаучной фантастики.

С вытеснением дело обстоит несколько сложнее. В космос, под воду и т. п. человек должен брать с собой частичку пригодной ему среды обитания, защищенную скафандром или батисферой. Замена его роботом в таких условиях вполне правомерна. Но как определить эти условия? Смертельной опасностью? Угрозой здоровью? Исаак Азимов, блестящий исследователь взаимоотношений между роботом и человеком и автор трех законов роботехники, доказал неопровержимо, что робот, послушный этим законам, обязан защищать человека от любого «вреда», даже от ущемленного самолюбия. Превратит человека — хозяина Земли, смельчака и преобразователя, в библейскую райскую куклу, только без змия и потому без выхода.

Чтобы предотвратить этот непоправимый вред, роботы Азимова в согласии с Первым законом решили исчезнуть. Реальные роботы этого не сделают, потому что причина не в них (закон можно и изменить), а в самом человеке, который, как обиженное дитя, бежит за защитой от самых мелких неприятностей, вроде слишком горячего кофе в Макдоналдсе или утери штанов в химчистке. Правда, не к роботу, а в суд, но с приходом роботов вряд ли повзрослеет. Изнеженным американцам это особенно присуще, но и во времена Исхода, и после падения советской империи многие предпочитали скудный, но верный хлеб раба рискованной жизни свободного человека.

А как же с любителями независимости, риска и ответственности? В будущем, например, робот заменит человека за рулем, потенциально опасного себе и окружающим. Дорожные правила, ограничение скорости — долой, происшествий больше не будет. Но для этого придется запретить вождение машины всем, независимо от их желания и умения. Превратить человека не на Луне, а на его собственной планете из водителя в пассажира. (Oops, как любят говорить американцы. Оказывается, General Motors начал делать это уже сегодня).

В менее экзотических условиях человек давно уже вытесняется из многих функций. Не роботом, а нормальным технико-экономическим прогрессом. Исчезает не функция даже, а вся профессия. Где извозчики, прачки, кочегары, фонарщики? Тем, кому пришлось поэтому найти иные источники заработка, какая разница, общий прогресс тому причиной или конкретный робот?

Но для экономики разница есть. Труд человека стоит дорого. Если принять 90 лет за среднюю продолжительность жизни в цивилизованных странах, то её продуктивный период составляет не более половины этого срока. За эту половину он должен произвести достаточно, чтобы покрыть свои потребности за все 90 лет. Плюс потребности общества, многие функции которого необходимы, но не производительны. Плюс потребности нетрудоспособных. Плюс ресурсы, необходимые для научно-технического и социоэкономического прогресса, иначе —стагнация. Плюс гуманитарную помощь. И я, вероятнее всего, что-то ещё упустил. Без опережающего роста производительности труда это невозможно.

До середины двадцатого века основой такого роста была механизация. Швея со швейной машинкой не в пример производительнее швеи с иглой. Но возможности механизации ограничены: человек всё ещё остается непосредственным исполнителем функции. На двух машинках одновременно швея работать не может. Стоимость продукта (определяемая, в конечном счете, затратами труда на единицу его) остается заметной, и человеку приходится его покупать. Работа, приятно это или нет, продолжает оставаться необходимостью.

Но робот такого ограничения не имеет. Затраты ничтожны, работать он может круглосуточно, производительность растет неограниченно, и стоимость продукта падает настолько, что его можно будет предоставлять всем по потребности, как школьное образование, дороги, услуги парков, библиотек, а в странах западного социализма медицину и многое иное.

Легче всего поддаются роботизации рутинные функции массового производства предметов потребления. Получается, в терминах кибернетики, положительная обратная связь: человеку эти функции не интересны, это только источник заработка. Робот его лишит заработка, зато произведет бесплатно, что требуется. Кому-то это даст возможность переквалифицироваться, других устроит гарантированный уровень жизни. Никакого конфликта. И в конечном итоге останутся человеку только функции, которые ему интересны. Творчество. Наука. Соревнование.

Стремление продемонстрировать своё физическое или интеллектуальное превосходство — стимул исключительно сильный, особенно в обществе, где свободный доступ к благам, произведенным роботами, лишает всякого смысла понятие превосходства финансового. В предположении, что человечеству доступны практически неограниченные ресурсы Солнечной системы (скоро так и будет), нетрудно представить себе, как может выглядеть такое общество.

В соответствии с Третьим законом Азимова, роботы будут заботиться о своем существовании, включая воспроизводство, техническое обслуживание и программирование. Первый закон обяжет их обеспечить безопасность каждого человека и снабдить его всем необходимым. Для капризов, если они никому не вредят, существует Второй закон: сделай мне вот это. Ресурсов хватает, все будут довольны. Капиталисту, который сегодня всё это обеспечивает в расчете на прибыль, придется заметно потесниться. Или совсем уйти.

Робо-экономика создаст материальное равенство. Кто хочет, может выделиться из массы интеллектуально или спортивно. Оценит ли кто-либо его усилия, это уже другой вопрос. Получается прямо по диалектической спирали Гегеля: хотел заглянуть вперед, а попал на тысячелетия назад. Те же древние Афины: элита, демос, рабы. Олимпиады, скульптуры, храмы. Поэзия, философия, наука. Только вместо рабов роботы, с которыми конфликта, тем более антагонизма, быть не может. Вместо двухполюсного магнита общество вообще размагничивается. Крушению взяться неоткуда. Социоэкономическому прогрессу — тоже. Можно это считать золотым веком человечества. Можно — застоем и медленным умиранием. Дело вкуса.

Edward Tester, Ph. D., Чикаго