Три закона роботехники: различия между версиями

{{Q|Утопично предположение, будто Три Закона Роботехники Азимова можно было бы заложить в фундамент интеллектронного программирования. <…> Но и робота, снабженного каким-то эрзацем личности, невозможно сделать совершенно безопасным для окружения, учитывая такую рефлексию, которая, правда, не может считаться доказательством, но на след его наводит. <…> В принципе же моральную оценку такого поступка можно дать лишь постольку, поскольку удаетсяудаётся проследить уходящие максимально далеко причинные цепочки, запущенные данным действием. Тот, кто смотрит дальше и замечает такие возможные последствия своих действий, которых кто-либо другой на его месте не в состоянии предвидеть, порой действует не так, как этот другой. Но чем дальше в будущее уходит предвидение последствий действия, тем значительнее в предикции будет участие вероятностных факторов. Добро и зло скорее в виде исключения образуют полярную дихотомию: включение в оценку пробабилистического элемента делает принятие решения всё более трудным. Поэтому гипотетический робот, имеющий аксиологически очень сильную защиту, в ходе реальных событий, презентующих присущую им степень сложности, чаще всего бы замирал, не зная, как поступить, тем самым уподобляясь тем восточным мудрецам, которые [[w:У-вэй|бездействие чтили превыше действия]], кое в запутанных ситуациях просто не может быть этически не рискованным. Но робот, охваченный параличом в ситуациях, требующих активности, не был бы наиболее совершенным из всех технических устройств, и поэтому в конце концов сам конструктор вынужден был бы оставить некоторый люфт его аксиологическим предохранителям.

Впрочем, это только одна препона среди обильного их множества, поскольку теория решений показала нам сравнительно недавно, скажем, на примерах типа так называемого [[w:теорема Эрроу|парадокса Эрроу]] <…>. Того же, что логически оказывается невозможным, ни цифровая машина, ни какой-либо робот, так же, как и человек, реализовать не сумеет. Сверх того — и это уже третий пункт доказательства, — разумное устройство — это не более чем самопрограммирующийся комплекс, то есть прибор, способный преобразовывать — даже фундаментально — действовавшие до того законы собственного поведения под влиянием опыта (или обучения). А поскольку заранее невозможно точно предвидеть ни чему, ни каким образом такое устройство будет научаться, машина она или человек, то и невозможно конструктивно гарантировать появление этически совершенных предохранителей активности. Иначе говоря, «свободная воля» есть признак любой системы, снабженной свойствами, которые мы отождествляем с интеллектом. Вероятно, можно было бы вмонтировать в систему типа робота определенныйопределённый аксиологический минимум, но он подчинялся бы ему лишь в такой степени, в какой человек подчиняется особо сильным инстинктам (например, инстинкту самосохранения). Однако же известно, что даже инстинкт самосохранения можно преодолеть<ref>Лишь в некоторых поздних новеллах Азимов написал об этом, — например, в [[«...Яко помниши его» (Азимов)|«...Яко помниши его»]] (1974).</ref>. Стало быть, программирование аксиологии мозгоподобной системы может быть только пробабилистичным, а это означает всего лишь, что такое устройство может выбирать между добром и злом.|Оригинал=''см. в статье''|Комментарий=частью — парафраз идей не Лема|Автор=[[Станислав Лем]], «[[Фантастика и футурология]]», книга 2 ([[Фантастика и футурология (книга 2)#II. Роботы и люди|II. Роботы и люди]]), 1970}}

Никто никогда не цитирует эти три закона, поскольку все принимают их как должное. Каждый закон, если о немнём говорят вслух, будет встречен дружным восклицанием вроде: «Ну, это же любому ясно!»

В таком случае давайте сравним «Три закона инструментов» c Тремя законами роботехники, и вы увидите, что они полностью совпадают. А разве может быть иначе? Ведь робот, или, если желаете, компьютер, является инструментом, которым пользуется человек.|ОригиналАвтор=I[[Мечты didроботов|«Законы notроботехники realize»]], at the time I constructed those laws, that humanity has been using them since the dawn of time. Just think of them as “The Three Laws of Tools,” and this is the way they would read:1989}}

{{Q|Эти«Три законыосновных правила роботехники» <…> со временем стали известны как «Три закона роботехники Азимова», <…> как оказалось впоследствии (я никак не мог этого предположить), стали самыми знаменитыми, их очень часто цитируют, да и вообще мне представляется, что они — самое важное из того, что я написал. (И я сделал это в двадцать один год, что заставляет меня снова и снова спрашивать себя: а сделал ли я что-нибудь полезное с тех пор, чтобы оправдать своё существование?) <…>

«Хоровод» <…> был первым рассказом, в котором я чётко сформулировал Три закона роботехники, <…> и они имеют для меня тройное значение:

в) отрывок из «Хоровода» <…> был первым случаем использования слова «роботехника» в английском языке. Таким образом, я стал изобретателем нового термина, (как<…> ипричём слов[[w:Оксфордский «позитронный»словарь и «психоистория»), причёманглийского языка|Оксфордский словарь английского языка]] не жалеет места на то, чтобы полностью процитировать Три закона роботехники.|ОригиналАвтор=Those«[[Хроники lawsроботов]]», as it turned out (and as I could not possibly have foreseen), proved to be the most famous, the most frequently quoted, and the most influential sentences I ever wrote. (And I did it when I was twenty-one, which makes me wonder if I’ve done anything since to continue to justify my existence.)1990}}