Калибан - Аллен Роджер Макбрайд - Страница 59
- Предыдущая
- 59/90
- Следующая
Обратите внимание, что большая часть положений Трех Законов предписывает, чего роботы не должны делать. Самостоятельные действия роботов почти не поощряются. Однажды мы провели в нашей «Лаборатории» один эксперимент. Мы создали высокоразвитого робота и встроили в его главную цепь временной переключатель. Мы усадили робота одного в пустой комнате и прикрыли дверь, но на замок не закрыли. Временной переключатель сработал, робот включился. Но рядом не было людей, и некому было отдавать приказания. И не пришел никакой другой робот, чтобы передать приказ человека. Мы просто оставили этого робота одного, чтобы проверить, как он будет себя вести. И робот просидел там два года, неподвижный, совершенно безучастный ко всему. Мы даже забыли о нем, пока нам зачем-то не понадобилась эта комната. Когда я туда вошла, то приказала роботу встать и найти себе какое-нибудь занятие. Он так и сделал! И он до сих пор остается в лаборатории, выполняет много полезной работы, и во всем остальном ведет себя совершенно нормально.
Дело в том, что в Трех Законах не заложено никаких побуждений к действию. Наши роботы так созданы, что не станут делать ничего, если им не прикажут. Я считаю, что это бессмысленная потеря огромных возможностей роботов. Представьте только, что можно создать еще один, Четвертый Закон: «Робот может делать все, что пожелает, кроме тех действий, что противоречат Первому, Второму или Третьему Законам»! Почему до этого еще никто не додумался? Или если не Закон, то почему мы хотя бы не отдаем такого приказа? Когда последний раз вы приказывали своим роботам: «Иди и делай что хочешь»?
В зале раздался дружный смех.
– Да, я понимаю, это звучит нелепо! Может, это и в самом деле нелепо. Я знаю, что большинство, если не все существующие ныне роботы просто не способны чего-то хотеть. И если бы кто-то и отдал такой приказ, то робот просто сидел бы на месте и не делал ничего из тех соображений, что, ничего не делая, он не сможет никому причинить никакого вреда. Но по крайней мере мой предполагаемый Четвертый Закон рассчитан на то, что роботы – мыслящие существа, которым нужно дать шанс выбрать, о чем размышлять. Потому что просто невероятно, чтобы вам больше нравились привычные спутники и собеседники, которые в свободное время только и делают, что торчат без движения, без мысли в своих нишах или возятся с какой-нибудь никому не нужной, бессмысленной работой.
У нас бытует выражение «работать, как робот», но насколько то, чем роботы обычно заняты, действительно необходимо? Толпы из тысяч роботов целыми месяцами возводят небоскребы, в которых никто никогда не будет жить. Эти дворцы годами стоят пустые, никому не нужные. А потом приходят другие толпы роботов, разбирают их и строят новые, еще более замысловатые дворцы, которые тоже никому не понадобятся. Роботы постоянно чем-то заняты, но их труд пропадает впустую – они делают ненужные вещи!
Каждый робот общего профиля сходит с конвейера со встроенными умениями и навыками любой домашней работы. Он умеет водить аэрокар, готовить пищу, подбирать своему господину одежду и украшения, следить за чистотой в доме, делать всевозможные покупки и вести счета хозяина, и тому подобное. Однако вместо того, чтобы предоставить делать все это одному и тому же роботу, мы для каждой из этих задач держим отдельного робота, а то и нескольких. И двадцать роботов заняты тем, что вполне под силу одному-единственному. Они выполняют самые незначительные задания, и, пока один занят, остальные вынуждены заниматься чем попало или скрываться в нишах и бездействовать, чтобы не мешать друг другу. А если роботов слишком много, нам приходится заводить специального робота-надсмотрщика, чтобы управлять всей этой толпой бездельников.
Поселенцы каким-то образом обходятся вообще без роботов, без личных слуг. Вместо этого они используют сложные машины, хотя иногда это доставляет им массу затруднений. Я считаю, что, совершенно отказываясь от роботов, они обрекают себя на целую кучу ненужной работы. Тем не менее их общество растет и развивается. На сегодняшний день, леди и джентльмены, на одного жителя Аида приходится в среднем девяносто восемь целых и четыре десятых робота. Включая всех личных роботов, промышленных и роботов общественных служб. За пределами города этот показатель гораздо выше. Это просто нелепо, леди и джентльмены, когда одного человека обслуживает целая сотня роботов! Это все равно, как если бы у каждого из нас было по сотне домов и сотне аэрокаров!
Я говорю вам, друзья мои, мы вплотную приблизились к тому, чтобы попасть в полную зависимость от своих слуг-роботов, а они все сильнее и сильнее деградируют от такого обращения. Полагаясь на роботов во всем, кроме творчества, мы обречены. И даже от творчества мы уже почти готовы отказаться! Тем не менее роботы тоже обречены, если по-прежнему будут полагаться только на наши приказания, на нас как на единственную причину их существования. Несмотря на то, что мы как народ угасаем, вырождаемся.
И снова в зале повисла мертвая тишина. Настало время. Она должна это сказать, здесь и сейчас!
– И чтобы остановить неуклонное загнивание, застой нашего общества, мы должны совершенно изменить взаимоотношения с роботами! Мы должны снова взяться за те дела, которые можем выполнять, замарать свои руки, снова связать себя с реальным миром, снова научиться что-то делать! Только так можно избежать духовного и физического опустошения, деградации.
И в то же время мы должны подумать, как лучше использовать свои превосходные мыслящие машины. Наш мир в опасности, планета на грани катастрофы. Нужно сделать очень многое, и работа найдется для всех желающих. Настоящая работа для роботов, которые сейчас служат подставками для зубных щеток. Если мы хотим использовать роботов на полную мощность, нужно позволить им, даже заставить их во всей полноте проявить свои способности. Мы должны превратить их из рабов в сотрудников. И тогда они разделят с нами тяжесть трудов, не отнимая того, что делает нас людьми.
И для этого мы должны изменить Три Закона.
Она сказала это. Зал замер, потом взорвался выкриками протеста, злобы и страха. Эмоции вышли из-под контроля! Фреда вцепилась в край кафедры и приготовилась заговорить громко и уверенно.
– Три Закона прекрасно нам послужили, – начала Фреда, понимая, что надо сказать что-нибудь приятное для слушателей. – С ними мы смогли достичь грандиозных свершений. Они – величайшее достижение цивилизации колонистов. Но не все достижения годятся во все времена, на все случаи жизни.
Снова возмущенный рев, крики, свист.
– Пришло время создать лучших роботов.
И зал затих. Ага! Они все внимание! В конце концов, даже девиз Железноголовых – «Больше лучших роботов!». И Фреда продолжила:
– Когда-то, давным-давно, в незапамятные времена, когда еще не было в помине никаких роботов, люди для скрепления самых разных конструкций пользовались двумя видами приспособлений – гвоздями и винтами. Для того чтобы забивать гвозди, применяли инструмент под названием молоток, а винты завинчивали инструментом, который назывался «отвертка». И не могло быть даже речи, чтобы самый лучший молоток использовали вместо самой плохонькой отвертки. Сегодня, когда мы не применяем ни гвоздей, ни винтов, оба эти инструмента никому не нужны. И самый распрекрасный молоток нам ни на что не сгодился бы. Мир меняется. Точно так же и с роботами. Сейчас нам нужны новые, лучшие роботы, с новыми, лучшими Законами.
Погодите возражать – те, кто хотел повторить то, что обычно говорят наши роботы. Что Три Закона вечны и неизменны, потому что заложены в саму основу позитронного мозга. Все мы, конечно, знаем, что Три Закона неразрывно связаны с позитронным мозгом. Мы убедились в этом за тысячи лет, тысячи попыток усовершенствовать позитронный мозг. И любой современный позитронный мозг в своей основе почти такой же, как самые первые, примитивные образцы, созданные на Земле многие тысячелетия назад. И всякое усовершенствование только накладывалось на прежнюю основу, а Три Закона по-прежнему оставались вплетенными в каждую цепь, каждую извилину позитронного мозга. Ни одно усовершенствование не задевало Трех Законов. Невозможно создать позитронный мозг без Трех Законов, как невозможен человеческий мозг без нейронов!
- Предыдущая
- 59/90
- Следующая
