Машины изобретательнее людей?

«Машины изобретательнее людей?» — интервью Норберта Винера начала 1964 года.

Цитаты

— Д-р Винер, существует ли опасность, что <…> вычислительные машины когда-нибудь возьмут верх над людьми? — Такая опасность, несомненно, существует, если мы не усвоим реалистического взгляда на вещи. Собственно говоря, это опасность умственной лени. Некоторые так сбиты с толку словом «машина», что не представляют себе, что можно и чего нельзя делать с машинами и что можно и чего нельзя оставить человеку. <…> Машины предназначены для службы человеку, и если человек предпочитает передать весь вопрос о способе их употребления машине, из-за слепого машинопоклонства или из-за нежелания принимать решения (назовёте ли вы это леностью или трусостью), тогда мы сами напрашиваемся на неприятности. — Согласны ли Вы с прогнозом, который мы иногда слышим, что дело идёт к созданию машин, которые будут изобретательнее человека? — <…> Это не будет убийством нас машиной. Это будет просто самоубийством.

Dr. Wiener, is there any danger that <…> computers will someday get the upper hand over men? There is, definitely, that danger if we don’t take a realistic attitude. The danger is essentially intellectual laziness. Some people have been so bamboozled by the word “machine” that they don’t realize what can be done and what cannot be done with machines-and what can be left, and what cannot be left, to the human beings. <…> The machines are there to be used by man, and if man prefers to leave the whole matter of the mode of their employment to the machine, by overworship of the machine or unwillingness to make decisions-whether you call it laziness or cowardice-then we’re in for trouble. Do you agree with a prediction, sometimes heard, that machines are going to be constructed that will be smarter than man? <…> That isn’t our being assassinated by the machine. That will be suicide.

… генетическая память <…> в значительной степени зависит от веществ, являющихся комплексами нуклеиновых кислот. В последнем году стали подозревать более или менее широко, что память нервной системы — того же рода. На это указывает открытие комплексов нуклеиновых кислот в мозгу и тот факт, что они обладают свойствами, обеспечивающими хорошее запоминание. <…> Я предполагаю — и я не одинок, — что ближайшее десятилетие увидит это в техническом воплощении. <…> Мы будем располагать веществами, родственными генам.

… genetic memory <…> largely dependent on substances which are nucleic-acid complexes. Within this last year it’s coming to be pretty generally suspected that the memory of the nervous system is of the same sort of thing. This is indicated by the discovery of nucleic-acid complexes in the brain and by the fact that they have the properties that would give a good memory. <…> My hunch is-and I’m not alone in this-that the next decade or so will see this used technically. <…> You will have substances allied to genes.

— Существует ли вероятность, что машины могут учиться больше, чем человек? Способны ли они к этому сейчас? — Сейчас наверняка нет, и наверняка нет ещё долгое время, если вообще когда-либо будут способны. Но если смогут, то лишь потому, что мы перестанем учиться. Я хочу сказать, что нам учиться легче, чем машине. Если же мы поклоняемся машине и всё ей оставляем, то мы должны благодарить самих себя за все неприятности, в которые попадаем.

Is there a chance that machines may learn more than man? Are they doing this now? Certainly not now and certainly not for a long time, if ever. But if they do, it’s because we have ceased to learn. I mean, it’s easier for us to learn than for the machine. If we worship the machine, and leave everything to the machine, we’ve got ourselves to thank for any trouble we get in.

— Эти машины будущего отнимут ещё много занятий у людей? — Отнимут. <…> мы больше не можем оценивать человека по той работе, которую он выполняет. Мы должны оценивать его как человека. В этом суть. Вся уйма работы, для которой мы сейчас используем людей, — это работа, в действительности делаемая лучше машинами. Ведь уже давно человеческая энергия стоит немного, поскольку речь идёт о физической энергии. Сегодня человек, пожалуй, не смог бы произвести столько энергии, чтобы купить пищу для своего собственного тела. Реальная коммерческая стоимость его услуг в условиях современной культуры недостаточна. Если мы оцениваем людей, мы не можем оценивать их на этой основе. Если мы настаиваем на применении машин повсюду, безотносительно к людям, но не переходим к самым фундаментальным рассмотрениям и не даём человеческим существам надлежащего места в мире, мы погибли. <…> причина, по которой нам нельзя идти назад, заключена в том, что нам никогда не удастся уничтожить возможность использования вычислительных машин. <…> Конкуренция, как она понималась в прошлом, существенно изменяется при наличии автоматизации. Автоматизация больше несовместима с laissez faire.

Are these machines of the future going to take away a lot more jobs from humans? They will. <…> we can no longer value a man by the jobs he does. We’ve got to ,value him as a man. Here is the point: A whole lot of the work that we are using men for is work which really is done better by computers. That is, for a long time human energy hasn’t been worth much as far as physical energy goes. A man couldn’t possibly generate enough energy today to buy the food for his own body. The actual commercial value of his services in modem culture isn’t enough. If we value people, we can’t value people on that basis. If we insist on using the machines everywhere, irrespective of people, and don’t go to very fundamental considerations and give people their proper place in the world, we’re sunk. <…> the reason we can’t go back is that we can never destroy the possibility of computers’ being used. <…> Competition, as it has been understood in the past, has been greatly changed by the existence of automatization. Automntization no longer fits in with laissez faire.

— Вы нашли во время вашей последней поездки в Россию, что Советы придают большое значение вычислительной машине? — Я скажу вам, насколько большое. У них есть институт в Москве. У них есть институт в Киеве. У них есть институт в Ленинграде. У них есть институт в Ереване, <…> в Тифлисе, в Самарканде, в Ташкенте и Новосибирске. У них могут быть и другие. <…> Общее мнение — и оно идёт от самых разных лиц — таково, что они отстают от нас в аппаратуре: не безнадёжно, а немного. Они впереди нас в разработке теории автоматизации.

On your last trip to Russia, did you find the Soviets placing much emphasis on the computer? I’ll tell you how much emphasis they’re placing on it. They have an institute in Moscow. They have an institute in Kiev. They have an institute in Leningrad, They have one in Yerevan, <…> in Tiflis, in Samarkand, in Tashkent and Novosibirsk. They may have others. <…> The general verdict-and this is from many different people-is that they’re behind us in hardware-not hopelessly, but slightly. They are ahead of us in the theorization of automatization.

— Как можно программировать вычислительную машину для ядерной войны, не имея никакого настоящего опыта подобной войны? — Совершенно нельзя. Но тем не менее это сейчас пытаются делать. Экспертов по атомной войне нет. Эксперт — это человек, обладающий опытом. Такого человека сегодня мы не имеем. Поэтому программирование военных игр на основании искусственных критериев успеха в высшей степени опасно и может кончиться плохо. <…> глупость верхов меня поражает. Автомат обладает свойством, которым некогда наделяли магию. Он может дать вам то, что вы просите, но не скажет вам, чего просить. Мы слышали речи, что нам нужно создать машинные системы, которые скажут нам, когда нажать кнопку. Но нам нужны системы, которые скажут нам, что случится, если мы будем нажимать кнопку в самых разных обстоятельствах, и — главное — скажут нам, когда не нажимать кнопки! — парафраз из гл. IX «Кибернетики» (2-е изд., 1961)

How can you program a computer for a nuclear war if you’ve never had any actual experience in that kind of war? You can’t completely. But, nevertheless, that is what people are trying to do. There are no experts in atomic war. An expert is a man who is experienced. This man does not exist today. Therefore, the programing of war games by artificial criteria of success is highly dangerous and likely to come out wrong. <…> it strikes me as top-level foolishness. The automaton has the property of what magic once was supposed to have. It may give you what you ask for, but it won’t tell you what to ask for. We have heard people say that we need to develop machine systems which will tell us when to push the button. What we need are systems that will tell us what happens if we push the button under a lot of different circumstances—and, importantly, tell us when not to push the button.

Перевод

Г. Н. Поваров (с незначительными уточнениями)