Три закона роботехники: различия между версиями

[досмотренная версия][досмотренная версия]
Содержимое удалено Содержимое добавлено
Новая страница: «{{википедия}} '''Три закона роботехники''' ({{lang-en|Three Laws of Robotics}}) — обязательные правила пове…»
 
мНет описания правки
Строка 7:
Впрочем, это только одна препона среди обильного их множества, поскольку теория решений показала нам сравнительно недавно, скажем, на примерах типа так называемого [[w:теорема Эрроу|парадокса Эрроу]] <…>. Того же, что логически оказывается невозможным, ни цифровая машина, ни какой-либо робот, так же, как и человек, реализовать не сумеет. Сверх того — и это уже третий пункт доказательства, — разумное устройство — это не более чем самопрограммирующийся комплекс, то есть прибор, способный преобразовывать — даже фундаментально — действовавшие до того законы собственного поведения под влиянием опыта (или обучения). А поскольку заранее невозможно точно предвидеть ни чему, ни каким образом такое устройство будет научаться, машина она или человек, то и невозможно конструктивно гарантировать появление этически совершенных предохранителей активности. Иначе говоря, «свободная воля» есть признак любой системы, снабженной свойствами, которые мы отождествляем с интеллектом. Вероятно, можно было бы вмонтировать в систему типа робота определенный аксиологический минимум, но он подчинялся бы ему лишь в такой степени, в какой человек подчиняется особо сильным инстинктам (например, инстинкту самосохранения). Однако же известно, что даже инстинкт самосохранения можно преодолеть<ref>Лишь в некоторых поздних новеллах Азимов написал об этом, — например, в [[«...Яко помниши его» (Азимов)|«...Яко помниши его»]] (1974).</ref>. Стало быть, программирование аксиологии мозгоподобной системы может быть только пробабилистичным, а это означает всего лишь, что такое устройство может выбирать между добром и злом.|Оригинал=''см. в статье''|Комментарий=частью — парафраз идей не Лема|Автор=[[Станислав Лем]], «[[Фантастика и футурология]]», книга 2 ([[Фантастика и футурология (книга 2)#II. Роботы и люди|II. Роботы и люди]]), 1970}}
 
* см. [[Вл. Гаков]], «[[Заповеди Исаака (Вл. Гаков)|«Заповеди Исаака»]]», 1992
 
===Айзек Азимов===