Библиотека    Новые поступления    Словарь    Карта сайтов    Ссылки





назад содержание далее

Часть 1.

Дрейфус Х.

Чего не могут вычислительные машины.1968.

Дрейфус Х. Чего не могут вычислительные машины. М.: Прогресс, 1978. 333с.

Оглавление

От издательства 5

Введение 7

Часть I

Десять лет исследований в области "искусственного

интеллекта" (1957-1967)

Глава 1. Первый этап {1957 - 1962). Моделирование процессов познании33

I. Анализ работ в области машинного перевода, решения задач и распознавания образов33

II. Причина неудач43

Глава 2. Второй этап (1962 - 1967). Процессы переработки

семантической информации Щ

III Анализ программ переработки семантической информации 81

IV Значение сегодняшних трудностей96

Заключение

Часть II

Допущения, лежащие в основе "стойкого оптимизма"

Введение105

Глава 3. Биологическое допущение108

Глава 4. Психологическое допущение113

I. Экспериментальные данные в пользу психологического допущения: критика научной методологии,

используемой при моделировании процессов познания121

II. Априорные аргументы в пользу психологического допущения126

Глава 5. Эпистемологическое допущение143

I. Ошибочный аргумент, основанный на успехах физики....146

II. Ошибочный аргумент, основанный на успехах

современной лингвистики153

Глава 6. Онтологическое допущение166

Заключение190

Часть III

Альтернативы к традиционным воззрениям

Введение195

Глава 7. Телесная организация человека и разумное поведение...199

Глава 8. Ситуация: упорядоченное поведение без правил . . .........222

Глава 9. Ситуация - ее зависимость от потребностей человека241

Заключение. 252

Заключение

Возможности и пределы искусственного разума

Глава 10. Пределы "искусственного интеллекта"257

Будущее "искусственного интеллекта" .. 264

Примечания283

Бирюков, Что же могут вычислительные машины?

Вместо послесловия ...298

Дрейфус Х. Чего не могут вычислительные машины. М.: Прогресс, 1978. 333с.

ОТ ИЗДАТЕЛЬСТВА

Книга американского философа Хьюберта Дрейфуса посвящена методологическим проблемам кибернетики, точнее, вопросу о возможностях и пределах машинной имитации и "усиления" человеческого разума. В научной литературе эта область исследований известна как кибернетическое моделирование познавательных процессов и разработка систем "искусственного интеллекта". Под последним понимаются системы, которые по некоторым своим характеристикам существенно приближаются к процессам функционирования чисто человеческих феноменов восприятия и мышления и их проявления в разумном поведении.

Следует подчеркнуть, что в нашей стране данная область кибернетики является предметом активных исследований. Так в Академии наук СССР имеется Научный совет по искусственному интеллекту, являющийся одновременно секцией Научного совета по комплексной проблеме "Кибернетика" при Президиуме Академии. Модельно-кибернетические исследования интенсивно ведутся в Институте кибернетики АН УССР и многих других научных центрах. В этой работе советские ученые деятельно сотрудничают со своими зарубежными коллегами: в 1975 г. в Тбилиси была проведена IV Международная объединенная конференция по искусственному интеллекту, в которой приняла участие большая группа американских кибернетиков; б апреле 1977 г. в Ленинграде состоялось Международное совещание по искусственному интеллекту, на котором специалисты из Советского Союза обсуждали проблемы кибернетического моделирования познавательных процессов совместно со своими коллегами из США и других зарубежных стран. За последние годы в нашей стране был переведен ряд книг и статей, написанных видными американскими кибернетиками, с многими из которых автор полемизирует в предлагаемой читателю монографии.

Книга написана не ученым-кибернетиком, а философом, основательно изучившим соответствующую проблематику и стремящимся осмыслить возможности и границы "искусственного разума". При этом автор уделяет особое внимание не столько возможностям данного направления исследований (о них уже

5

достаточно много написано самими специалистами в области "искусственного интеллекта"), сколько пределам его развития, которые X. Дрейфус и стремится выявить в ходе своего анализа. Появление такого рода работы в западной философско-кибернетической литературе не случайно. Оно вызвано рекламными заявлениями, которые были сделаны представителями данного направления кибернетики в США, а также тем обстоятельством, что некоторые из выдвигавшихся ими прогнозов относительно реализации тех или иных модельно-кибернетических проектов оказались неоправданными. В этой связи X. Дрейфус ставит ряд важных проблем методологического характера, заслуживающих критического анализа и осмысления с позиций диалектико-материалистической методологии. Такой анализ предпринят в статье "Что же могут вычислительные машины? (вместо послесловия) ", написанной доктором философских наук Б.В. Бирюковым, которая помещена в конце книги. Книга снабжена также примечаниями, разъясняющими, уточняющими и исправляющими отдельные ее положения.

Предлагаемая вниманию читателей работа X. Дрейфуса, основанная на богатом фактическом материале и носящая дискуссионный характер, несомненно, привлечет внимание кибернетиков, философов, психологов и специалистов других областей знания-

6

ВВЕДЕНИЕ

I

С тех пор как древние греки изобрели логику и геометрию, мысль о том, что всякое рассуждение может быть сведено к своего рода вычислению - так что любые дискуссии можно было бы считать улаженными раз и навсегда,- занимала умы большинства представителей точного знания на Западе. Первым, кто высказал эту мысль, был Сократ. Рассказ об "искусственном интеллекте" можно было бы начать с 450 г, до н. э., когда (как повествует Платон) Сократ обратился с вопросом к афинскому гражданину Эвтифрону, который собирался в порыве благочестия выдать властям своего отца, совершившего убийство; "Открой же мне теперь... то, что для тебя, по твоему признанию, совершенно ясно, то есть как надобно отличать благочестие от нечестия.,, что такое сама эта идея, чтобы, смотря на нее и пользуясь ею, как образцом, я мог бы согласное с нею- и в твоих поступках, и в поступках других людей - назвать святым, а несогласное - не святым"*, Сократ просит Эвтифрона открыть ему то, что специалисты по математическому обеспечению вычислительных машин назвали бы "эффективной процедурой", набором "сообщаемых нам время от времени правил, которые точно регламентируют наше поведение"**.

Платон придал этой потребности в моральной уверенности эпистемологический характер. Согласно Платону, всякое знание должно быть представлено в виде точных определений, которыми может пользоваться всякий. Если человек не может представить свое умение в виде такого рода точных правил, то есть если он не в состоянии обратить свои знания о том, как нечто делается, в знание о том, что делать, значит, он располагает не знанием, а верой, уверенностью. Согласно Платону, повара, например, руководствующиеся в своем деле вкусом и интуицией, и поэты, работа

* Платон. Соч., т. 1, Эвтифрон 5 D, 6 Е, СПб., 1863, с. 362, 365. (Звездочками отмечены подстрочные примечания автора; цифрами -примечания к русскому переводу, помещенные в конце книги. - Ред.)

** М. Минский. Вычисления и автоматы1- М., 1971,с, 135. Разумеется, Минский имеет в виду вычислительные процессы, а не действия морального характера.

7

которых зависит от вдохновения, вообще не обладают знанием: то, что они делают, не связано с пониманием и не может быть понято. Таким образом, все, что не может быть сформулировано в виде четких правил - все сферы человеческой мысли, требующие мастерства, интуиции или чувства традиции,- следует расценивать как своего рода бессмысленную одержимость.

Однако Платона еще нельзя считать кибернетиком в полном смысле слова (хотя, согласно Н. Винеру, он был первым, кто употребил этот термин2), поскольку его интересовали главным образом семантические, а не синтаксические критерии. Платон исходил из предположения, что человек понимает значение понятий, составляющих правила. В "Государстве"* Платон говорит, что понимание как таковое (то есть подразделяющаяся на части и подчиняющаяся правилам линия познания)3 зависит от разума, который предполагает диалектический анализ и в конечном счете интуитивные представления о значении основных понятий, используемых в процессе понимания. Таким образом, Платон признает, что его правила не могут быть полностью формализованы. Точно так же современный специалист по вычислительным машинам М. Минский, пытаясь реконструировать представления Платона об эффективной процедуре4, замечает: "Эта попытка дать определение вызывает критику, потому что интерпретация предусмотренных правил не должна зависеть от некоторого субъекта или посредника"**.

Аристотель, расходившийся с Платоном в этом вопросе, как и во многих других, касающихся приложения теории к практике, с удовлетворением отмечает, что для применения платоновских правил необходимо обращение к интуиции. По его мнению, совсем не просто найти формулу, с помощью которой можно было бы определить, как далеко может зайти человек и до какой степени он может заблуждаться, прежде чем в наших глазах он станет виновным5. Точно так же трудно дать определение и в случае любого объекта восприятия; такого рода вопросы о степени виновности неразрывно связаны с обстоятельствами, сопутствующими рассматриваемому конкретному случаю, где единственным нашим критерием служит восприятие***.

Для того чтобы осуществить идею Платона,требуется только одно: исключить какое бы то ни было обращение к интуиции и оценкам, носящим характер мнений. Подобно тому как Г. Галилей пришел к своему открытию чисто формального описания движения физических тел, исключив из рассмотрения все второ-

*См.: Платон. Соч. т. 3. ч. 1,M., 1971, с 89-454. ** **См.: М. М и н с к и й. Цит. соч. с. 135.

***См.: Аристотель. Этика (к Никомаху) . В кн.: Этика Аристотеля, СПб., 1908.

8

степенные факторы и телеологические соображения, новый Галилей е науке о человеческом поведении мог бы добиться успеха, сведя все семантические соображения (обращение к значениям) к методам синтаксических (формальных) преобразований.

Убеждение в возможности такого рода тотальной формализации познания вскоре стало доминирующим в западной мысли. Теперь оно уже выражала основной моральный и интеллектуальный императив, а успехи физических наук подтверждали (как это казалось философам XVI в., а сегодня - таким мыслителям, как Минский) возможность реализации этого императива. Впервые синтаксическая концепция мышления как процесса вычисления была в явной форме сформулирована Т. Гоббсом: "Когда человек рассуждает, он лишь образует в уме итоговую сумму путем сложения частей... ибо рассуждение,., есть не что иное, как подсчитывание"*.

Оставалось только установить первичные элементы - словесные "кванты"6, которыми мог бы оперировать этот чисто синтаксический "калькулятор"- Лейбниц - изобретатель двоичной системы счисления - посвятил свою жизнь разработке необходимого для этого однозначного формального языка. Он полагал, что ему удалось найти универсальную и точную систему обозначений, некоторую алгебру, символический язык, "универсальную характеристику"7, с помощью которой каждому объекту можно приписать определяющее его "характеристическое число". Используя этот прием, всякое понятие можно представить в виде небольшого количества исходных и неопределяемых идей; все знание же может получить выражение и быть объединено в единой дедуктивной системе. На основе этих характеристических чисел-характеристик и правил их комбинирования может быть разрешен любой спор и решена любая проблема. "И если кто-нибудь усомнился бы в том, что я выдвигаю, я ответил бы ему: "Давайте вычислим, сударь!" - и мы, взяв перо и чернила, быстро вышли бы из затруднительного положения"**.

Подобно современному специалисту по математическому обеспечению ЭВМ, сообщающему о некоторой программе, которую он еще только собирается составить, Лейбниц заявляет:

"Так как в силу удивительной связи, в которой находятся все вещи, чрезвычайно трудно выделить изолированные характеристические числа, изображающие небольшое число отдельных вещей, п придумал остроумный искусственный прием, с помощью которого удастся предварительно выра-

· Г о б с с. Избран, произв., т.2, М., 1964, с. 75, 76, G. W. L е i b n i z. Fragments гиг Logik, Akademie-Verlag. Berlin, 1960,S.91ff8.

9

зить (darlegen) и зафиксировать определенные соотношения, после чего их уже можно подтвердить далее арифметическим вычислением"*.

И Лейбниц не скрывает огромной важности этой почти завершенной программы:

"...после того как для большинства понятий будут установлены характеристические числа, человеческий род приобретет как бы новый орган, который расширит творческие возможности духа в гораздо большей мере, чем это делают оптические инструменты по отношению к остроте зрения, и который в той же мере превзойдет микроскопы и телескопы, в какой разум превосходит зрение"**.

Обладая этим новым мощным инструментом, искусство, способы формализации которого безуспешно искал Платон, можно поднять до уровня теории, В одной из своих "финансовых заявок" (где он объясняет, каким образом можно было бы свести все мышление к манипулированию числами, если бы для этого имелось достаточно средств и времени) Лейбниц замечает:

",,.наиболее важные наблюдения и тонкости в разного рода занятиях и профессиях до сих пор не описаны. Это подтверждается на опыте, когда, пытаясь что-либо произвести, мы переходим от теории к практике. Разумеется, мы имеем возможность самым детальным образом описать результаты этой практики, ибо практика есть, по сути, не что иное, как более сложная и подробная теория"***.

Если Лейбниц только обещает, то Дж. Буль - математик и логик XIX в.- предпринимает шаги для реализации этой программы. Подобно Гоббсу, Буль считает, что рассуждение есть вычисление; его цель -"исследовать основные законы тех операций разума, посредством которых осуществляется рассуждение, выразить их на символическом языке некоторого исчисления"****.

Булева алгебра- это бинарная алгебра для представления элементарных логических функций. Если а и Ь- переменные, точка представляет союз "и", знак плюс - союз "или", а 1 и 0 представляют соответственно "истину" и "ложь", то правила логических переходов могут быть представлены в следующем алгебраическом виде9:

а+ а = а, а + 0 = а, а + 1 = 1,

а* а = а, а * 0 = 0, а +*1 = а.

Теперь западный человек был готов к началу вычисления.

Почти немедленно - с появлением изобретений Ч.Бэббеджа (1835)- практика стала догонять теорию10. Бэббедж задумал

*G.W. Leibniz; Selections. Ph. W i e n e r led.). New York, Siribner, 1951, p. 15,

** Ibid., p. 23.

***lbid.,p. 48 (курсив мой. -Х.Д.).

**** G.Boole, Collected Logical Works. Vol. II. The Laws of Thought (1854). Lasaller Illinois, 1952, p. 1.

10

проект "аналитической машины", как он ее назвал, которая - хотя она так и не была построена11 -должна была функционировать в точности так же, как и современная цифровая вычислительная машина: в ней использовались перфокарты, сочетание арифметических и логических операций, а логические решения, принимавшиеся в ходе вычислительного процесса, находились в зависимости от результатов предшествующих вычислений .

Существенная особенность машины Бэббеджа заключалась в том, что она была цифровой. Существует два основных типа вычислительных машин: аналоговые и цифровые. Аналоговые машины не вычисляют в строгом смысле слова- их функционирование заключается в измерении физических величин. Используя такие физические величины, как электрическое напряжение, длительность, угол поворота диска и т,д., пропорциональные исследуемой величине, они физически комбинируют упомянутые величины и измеряют получающийся результат. Типичный пример аналоговой вычислительной машины - логарифмическая линейка. В цифровой вычислительной машине, как это следует из используемого в ее названии слова "цифровая" - по-английски digit, что по-латыни означает "палец", - все величины представлены дискретными состояниями, например состояниями реле ("включено - выключено") телефонного диска, занимающего любую из десяти позиций, и т. д. Такая машина для получения результата считает в буквальном смысле слова.

Таким образом, в то время как аналоговые вычислительные машины оперируют непрерывными величинами, все цифровые вычислительные машины являются машинами с дискретными состояниями, или машинами дискретного действия. Говоря словами А.Тьюринга, получившего известность благодаря данному им определению природы цифровой вычислительной машины12, работа машины с дискретными состояниями

"складывается из совершающихся последовательно одна за другой резких смен их состояния- Состояния, о которых идет речь, достаточно отличны друг от друга, для того чтобы можно было пренебречь возможностью принять по ошибке одно из них за другое. Строго говоря, таких машин не существует. В действительности всякое движение непрерывно. Однако имеется много видов машин, которые удобно считать машинами с дискретными состояниями. Например, если рассматривать выключатели осветительной сети, то удобно считать, отвлекаясь от действительного положения деп, что каждый выключатель может быть либо включен, либо выключен. То, что выключатель фактически имеет также и промежуточные состояния, несущественно для наших целей, и мы можем

об этом забыть"*.

Идеи Бэббеджа опередили технологию его времени, ибо в то время еще не существовало быстрого и эффективного способа

*А. Тьюринг. Может ли машина мыслить? М., 1960, с. 28.

11

представления цифр и манипулирования с ними. Для реализации дискретных состояний Бэббеджу пришлось использовать неуклюжие механические средства, такие, например, как зубчатое колесо. Необходимым технологическим решением оказались электрические переключательные схемы. Когда в 1944 г. Х.Айкен построил первую работающую цифровую вычислительную маши-ну, она представляла собой электромеханическое устройство, в которое входило около 3000 телефонных реле. Однако подобные машины работали еще медленно; и лишь следующее поколение вычислительных машин, в котором использовались электронные лампы, знаменовало собой появление современной ЭВМ, пригодной для любых вычислений.

Но что значит "для любых вычислений"? Цифровая вычислительная машина оперирует абстрактными символами, которые могут означать все что угодно, и логическими операциями, которые могут связывать все что угодно; поэтому любая цифровая вычислительная машина (в отличие от аналоговой) универсальна. Во-первых, говоря словами Тьюринга, она может моделировать любую другую цифровую вычислительную машину.

"Именно зто особое свойство цифровых вычислительных мэшин - то, что они могут имитировать любую машину с дискретными состояниями,- и имеют в виду, когда говорят, что цифровые вычислительные машины являются универсальными машинами. Из того, что имеются машины, обладающие свойством универсальности, вытекает важное следствие: чтобы выполнять различные вычислительные процедуры, нам вовсе не нужно создавать все новые и новые разнообразные машины (если отвлечься от растущих требований к быстрое вычислений) . Все вычисления могут быть выполнена с помощью одной-единственной цифровой вычислительной машины, если снабжать ее надлежащей программой для каждого случая- В дальнейшем мы увидим в качестве следствия из этого результата, что все цифровые вычислительные машины в каком-то смысле эквивалентны друг другу"*.

Во-вторых (для философа это крайне важно), любой процесс, в случае если его можно формализовать таким образом, чтобы он представлял собой последовательность правил выполнения некоторых действий над дискретными элементами, может быть, по крайней мере в принципе, воспроизведен на такой машине. Следовательно, даже аналоговая вычислительная машина может быть промоделирована на машине цифровой, при условии что отношение между состояниями входа аналоговой машины и состояниями ее выхода будет описано точной математической функцией**.

*Там же, с, 31.

** В гп. 5 нам представится случай разобраться в том, как этот прин­цип создает у исследователей, работающих в области моделирования мысли­тельных процессов человека, глубокую, однако ни на чем не основанную уверенность в правильности избранного ими пути*

12

Однако эти машины так и остались бы просто арифмометра-ми-"переростками", если бы в них не нашли свое воплощение идеи Платона, рафинированные двумя тысячелетиями развития метафизики. Наконец появилась машина, оперирующая "квантами" данных по синтаксическим правилам. Более того, эти правила встроены в схемы самой машины. После того как в машину закладывается программа, отпадает всякая необходимость в интерпретации: никакого обращения к человеческой интуиции, никаких суждений, основанных на мнениях. Именно к этому стремились Т. Гоббс и Г.Лейбниц; недаром М. Хайдеггер справедливо назвал кибернетику кульминацией философской традиции*.

Таким образом, пока практичные люди вроде Дж. Эккерта и

Дж. Мошли проектировали в Пенсильванском университете первую электронную цифровую вычислительную машину, теоретики, такие, как А. Тьюринг, пытаясь понять, какова сущность и возможности машин такого типа, оказались вовлеченными в круг вопросов, который до той поры находился в ведении философов; какова природа рассуждения как такового?

В 1950 г. Тьюринг написал программную статью "Вычислительные машины и интеллект", в которой подчеркнул, что «наш интерес к "мыслящим машинам" возник благодаря машине особого рода, обычно называемой "электронной вычислительной машиной" или "цифровой вычислительной машиной"»**. Затем он поставил вопрос: "Могут ли (такие.- Х.Д.) машины мыслить?"

Для получения ответа на него Тьюринг предложил тест, который назвал игрой в имитацию. Мы читаем:

"Эта новая форма проблемы может быть описана с помощью игры, которую мы назовем "игрой в имитацию". В этой игре участвую^ три человека; мужчина {А), женщина (Й и кто-нибудь задающий вопросы (С), которым может быть лицо любого пола. Задающий вопросы отделен от двух других участников игры стенами комнаты, б которой он находится. Цель игры для задающего вопросы состоит в том, чтобы определить, кто из двух других участников игры является мужчиной (А), а кто -женщиной {В} - Он знает их под обозначениями X и У \л в конце игры говорит либо: "X есть А и У есть В", либо: "X есть В, и У есть А". Ему разрешается задавать вопросы такого, например, рода:

С: "Попрошу X сообщить мне длину его (или ее) волос".

Допустим теперь, что в действительности X есть А. В таком случае А и должен давать ответ. Для А цель игры состоит в том, чтобы побудить С прийти к неверному заключению. Поэтому его ответ может быть, например, таким:

*М. Н е i d е g ge г. La fin de la philosophie et la tache de la pensee,-ln: Kierkegaard vivant, Paris, 1966, p. 178-17913: "В нашу эпоху философия пришла к своему завершению. Она нашла свое место в научном взгляде на мир.,. Фундаментальной особенностью научного детерминизма является его кибернетичность",

**А.Тьюринг. Цит, соч., с. 22-23.

13

"Мои волосы коротко острижены, а самые длинные пряди имеют около девяти дюймов в длину".

Чтобы задающий вопросы не мог определить по голосу, кто из двух других участников игры мужчина, а кто -женщина, ответы на вопросы следовало бы давать в письменном виде или, еще лучше, печатать на машинке. Идеальным случаем было бы телеграфное сообщение между комнатами, где находятся участники игры. Если же этого сделать нельзя, то ответы и вопросы может передавать какой-нибудь посредник. Цель игры для третьего игрока - женщины (В) - состоит в том, чтобы помочь задающему вопросы. Для нее, вероятно, лучшая стратегия - давать правдивые ответы. Она также может делать такие замечания, как: "Женщина - я, не слушайте его!" - но этим она ничего не достигнет, так как мужчина тоже может делать подобные замечания.

Поставим теперь вопрос: "Что произойдет, если в этой игре вместо А будет участвовать машина?" Будет ли в этом случае задающий вопросы ошибаться столь же часто, как и в игре, где участниками являются только люди? Эти вопросы и заменят наш первоначальный вопрос: "Могут ли машины мыслить?"*

Этот тест получил известность как тест Тьюринга. Вероятно, философу простое сходство в поведении машины и поведении человека покажется недостаточным основанием для признания за машиной свойства разумности**, но в качестве цели работы для тех, кто действительно пытается построить думающую машину, а также в качестве критерия, которым можно было бы пользоваться при критической оценке этих попыток, тест Тьюринга подходил как нельзя лучше.

Конечно, ни одна из существовавших тогда машин не могла быть немедленно использована в качестве партнера в игре Тьюринга. Цифровые вычислительные машины, несмотря на их быстродействие, точность и универсальность, все еще оставались ничем иным, как устройствами для переработки символов произвольного вида. Дело, однако, явно склонялось в пользу лейбницевской позиции. Пришло время для создания соответствующего символизма и детальных предписаний, с помощью которых правила ведения рассуждений можно было бы включить в программу для вычислительной машины. Осознав эту задачу, Тьюринг и предложил критерий проверки эффективности такой программы. Однако его статья заканчивается лишь очень общими соображениями по поводу имеющихся перспектив:

"Мы можем надеяться, что машины в конце концов будут успешно соперничать с людьми во всех чисто интеллектуальных областях. Но какие из этих областей наиболее пригодны для того, чтобы начать именно с них? Решение даже этого вопроса наталкивается на затруднении. Многие считают, что начать лучше всего с какой-нибудь очень абстрактной деятельности, например с игры в шахматы. Другие предлагают снабдить машину хорошими органами чувств, а затем научить ее понимать и говорить по-англий-

*Там же, с. 19-20,

**См., например, критические статьи К. Гундерсома и М.Скрайвена в

кн.: A. R. Anderson. Minds and Machines. N.Y., Prlntice-Hah, 1964.

14

ски. В этом случае машину можно будет обучать, как ребенка: указывать на предметы и называть их и т. д. В чем состоит правильный ответ на этот вопрос, я не знаю, но думаю, что следует испытать оба под-

хода"*

Методов нахождения правил, существование которых предполагали мыслители от Платона до Тьюринга - методов превращения любой практической деятельности, будь то игра в шахматы или обучение языку, в набор указаний-команд, который Лейбниц называл теорией,- еще не было. Но немедленно, как будто по подсказке Тьюринга, начались работы по программированию игры в шахматы и машинной обработке информации, записанной на естественном языке. В том же году, когда была опубликована статья Тьюринга, появилась статья создателя теории информации К. Шеннона о машинах, играющих в шахматы, в которой обсуждались возможные подходы к программированию игры в шахматы на цифровой вычислительной машине.

"Исследование одного направления развития игры на 40 кодов вперед настолько же плохо, как и исследование вариантов только на два хода. Подходящим компромиссом было бы исследование только важнейших возможных вариантов, таких, как форсированные варианты взятия фигур и основные угрозы, и продолжение их исследования настолько далеко, чтобы проверить каждый такой вариант до полной ясности. Вполне возможно установить некоторые грубые критерии для выбора важнейших вариантов, конечно, не так эффективно, как это делает шахматист, но достаточно для того, чтобы ощутимо уменьшить число вариантов и, следовательно, позволить рассматривать достаточно глубоко выбранные варианты"**.

К.Шеннон не составил шахматной программы, но он выразил уверенность в том, что "по описанной выше программе машина будет играть довольно сильно и по скорости сравнимо с человеком"***.

В 1955 г. А. Ньюэлл произвел серьезный обзор проблем, возникающих при программировании игры в шахматы, включив в него собственные соображения по поводу того, как к этим проблемам можно было бы подойти. Он писал: "Эти (предлагаемые им.- Х.Д.) механизмы настолько сложны, что невозможно сказать заранее, будут ли они работать"****. Однако уже в следующем году мы стали свидетелями потрясающего успеха. Группа исследователей из Лос-Аламоса составила программу, которая позволила машине играть в шахматы на уменьшенной

* А. Тьюринг. Цит. соч., с. 57.

** К. Ш е н н о н. Машина для игры в шахматы.- В кн.: К.Шеннон. Работы по теории информации и кибернетике1. М-, 1963, с. 187. ***Там же, с. 188.

****А. Newell. The Chess Machine.- In: The Modeling of Mind, К. М. Say-re and FJ. Crosson (eds.). South Bend, tnd., Notre Dame University Press, 1963, p. 89.

15

доске - хотя и слабо, но с полным соблюдением шахматных правил. Анализируя эту работу, А.Ньюэлл, Дж.Шоу и Г.Саймон писали: "машина с очень несложной программой способна по крайней мере вступить на шахматное поприще: она может обыграть начинающего игрока"*- К 1957 г. А. Бернштейн уже располагал программой для IBM-7G4, сыгравшей две "сносные любительские партии"**.

Тем временем А.Эттингер работал над реализацией второго из предложенных Тьюрингом подходов. Уже в 1952 г, он реализовал на машине программу, моделирующую простой условный рефлекс-способность усиления или ослаблении определенной реакции в зависимости от положительного или отрицательного подкрепления. Затем А.Эттингер занялся проблемой автоматического перевода и составил программу для машинной реализации русско-английского словаря. Казалось, что дальнейшие исследования в этом направлении приведут к созданию такой машины, которую можно научить устанавливать связи между словами и объектами.

Однако ни тот, ни другой подход не привели ни к чему, хотя бы отдаленно напоминающему общую теорию разумного поведения. Отсутствовали правила, в соответствии с которыми любой вид интеллектуальной деятельности можно было бы представить в виде набора инструкций (команд, указаний). В это время Г.Саймон и А.Ньюэлл, анализируя процесс решения студентами логических задач, обратили внимание на то, что их испытуемые зачастую пользуются такими правилами или "прямолинейными" приемами, которые, не будучи универсально применимыми, во многих случаях приводят к успеху, хотя случается и так, что они не позволяют решить задачу. Примером такого чисто эмпирического приема может служить следующее правило: всегда старайся заменить длинное выражение более коротким. А.Ньюэлл и Г.Саймон решили попытаться разработать модель такого практического интеллекта. Получающиеся при этом программы были названы "эвристическими" этим подчеркивалось их отличие от так называемых алгоритмических программ, которые хотя и гарантируют решение соответствующих задач (используя метод исчерпывающего поиска), однако слишком громоздки для практической реализации.

Понятие практически применимого правила дало возможность расширить поле деятельности исследователей, занятых поисками путей программирования на вычислительных машинах таких

*А. Ньюэлл, Дж. Шоу, Г.Саймон. Программа для игры в шахматы и проблема сложности. -- В кн.: Вычислительные машины и мышление, под ред. Э.Фейгенбаума и Дж. Фепьдмана^. М., 1967, с.45.

**Тамже, с. 45.

16

форм поведения, которые имеют место при решении задач общего

характера. Волнение, вызванное появлением этой новой идеи, в некоторой степени отразилось на первом параграфе ставшей классической статьи А.Ньюэлла, Дж.Шоу и Г.Саймона «Эмпирические исследования машины "Логик-теоретик"; пример изучения эвристики)):

"Эта работа касается изучения процесса решения задач и является частью программы исследования сложных систем обработки информации. Мы разработали схему дни нахождения доказательства теорем в элементар­ной символической логике. Составив по этой схеме программу для вычислительной машины, мы с ее помощью получили эмпирические данные, касающиеся процесса решения задач в элементарной логике- Мы назвали эту программу «машина Логик-теоретик» (ЛТ). Она была разработана для того, чтобы изучить возможность решения таких трудных задач, как доказательство математических теорем, выявление научных законов в совокупности опытных данных, игра в шахматы или понимание смысла английской прозы.

Цель настоящего исследования -разобраться в тех сложных процессах ("эвристиках"), которые участвуют в решении задач. Поэтому мы не интересуемся методами, обеспечивающими решения задач, но требующими очень большого объема вычислений, а стремимся понять, каким образом, например, математик в состоянии доказать теорему, даже если он вначале не знает, как ему это сделать, и сможет ли он вообще ее доказать" .

Однако вскоре А.Ньюэлл и Г.Саймон осознали, что и этот подход не может считаться достаточно общим. В следующем, 1957 г. они поставили перед собой задачу выделить используемые в "Логике-теоретике" эвристики и применить их к другим задачам того же рода. В результате возникла программа, получмвшая название "Общий решатель задач"-по-английски "General Problem Solving (сокращенное название - GPS). Мотивы, побудившие ее авторов заняться "Общим решателем задач", и направленность всей работы в своем первом серьезном отчете об этом начинании Ньюэлл, Шоу и Саймон объясняют следующим образом:

"Данная статья.,• является частью работы, посвященной изучению чрезвычайно сложных процессов, протекающих при разумном, адаптивном и творческом поведении .,

Решению задач может способствовать использование информации само­го различного рода; информация может подсказать порядок, в котором следует проверять возможные решения; послужить основанием для того, чтобы исключить из рассмотрения целый класс решений, считавшихся ранее допустимыми; она может оказаться простым тестом для различения правдоподобных и маловероятных вариантов и т. д. Всякая информации такого рода есть эвристика, то есть то, что способствует открытию. Эвристики в редких случаях могут служить безошибочным руководством... Они часто "срабатывают", но их результаты варьируют от

А. И ь ю э л л, Дж. Шоу, Г Саймон. Эмпирические исследования машины "Логик-теоретик"; пример изучения эвристики. - В кн,: Вычислительные машины и мышление, 113.

17

задачи к задаче, и успешность их применения нельзя гарантировать"*,

Для того чтобы передать смысл тех общих эвристик, которые Ньюэлл и Саймон используют в своей программе, они приводят пример повседневного разумного поведении:

"Я хочу отправить своего сына в ясли. Что мешает достичь соответствия между тем, что есть, и тем, к чему я стремлюсь? Расстояние. Что может устранить это несоответствие? Использование автомашины. Но мой автомобиль не работает. Что нужно, чтобы он заработал? Новый аккумулятор. А где его достать? В авторемонтной мастерской. Итак, мне нужно обратиться в авторемонтную мастерскую. Но в мастерской не знают о том, что мне нужен аккумулятор. В чем затруднение? В связи. Как установить связь? Для этого существует телефон... И так далее.

Такого рода анализ - классификация объектов с точки зрения функций, которые они выполняют, и переход от поставленных целей к необходимым для их выполнения функциям и средствам их реализации и обратно - составляет основу системы эвристик GPS.

Точнее, такая эвристическая система анализа в терминах "средств и целей" предполагает следующее:

1.Если дан объект, отличный от цели - желаемого объекта,- то следует

стремиться к тому, чтобы установить различия между наличным объектом

и целью.

2.Операторы воздействуют на одни признаки операндов10, оставляя

другие неизменными. Следовательно, операторы можно охарактеризовать,

указав на изменений, которые они производят; применяя соответствующие

операторы к имеющимся объектам, можно устранять различия между ними

и целевыми объектами.

3. Одни различия поддаются воздействию операторов с большим

трудом, чем другие. Поэтому следует стремиться к элиминации "трудных"

различий, пусть даже ценой введений новых различий, но меньшей трудности. Этот процесс можно продолжать до тех пор, пока не будет достигнут прогресс в элиминации более "трудных" различий"**.

Когда выяснилось, что цифровые машины могут решать задачи такого, например, рода, как задача о людоедах и миссионерах (каким образом переправить через реку трех людоедов и трех миссионеров, и при этом так, чтобы ни один миссионер не был съеден?) 17, возникло ощущение, что наконец-то мечта философов нашла необходимые для своей реализации технические средства и что в универсальную быстродействующую ЭВМ удалось ввести правила, превращающие рассуждение в вычисление, Г.Саймон и А.Ньюэлл почувствовали важность момента и торжественно провозгласили наступление эры разумных машин:

<<Мы начинаем понимать, как использовать ЭВМ для решения задач, по отношению к которым мы не располагаем регулярно применимыми и эффективными алгоритмами. И теперь, по крайней мере в некоторой ограниченной области, мы умеем не только программировать

* A. Newell, J. C.Shaw and H. A- S i m о п. Report on a Genera! Problem-Solving Program, -In: Proc. int. Conf. on Information Processing, Paris, UNESCO, 1960, p. 257. ** Ibid., p. 259.

18

ЭВМ таким образом, чтобы она успешно выполняла действия, ведущие к решению задачи, но и закладывать в нее способность научения этому.

Короче говоря, теперь в нашем распоряжении имеются элементы теории эвристического (в отличие от алгоритмического) решения задач. Мы можем использовать эту теорию как для того, чтобы понять, как организованы эвристические процессы у человека, так и для того, чтобы моделировать эти процессы на цифровой машине. Интуицию, инсайт и обучение нельзя более считать исключительной прерогативой человека; ими располагает любая достаточно крупная быстродействующая ЭВМ, запрограммированная соответствующим образом"*.

Эта область исследований, в которой цифровые вычислительные машины используются для моделирования разумного поведения, вскоре получила название "искусственного интеллекта". Не следует, однако, думать, что она действительно соответствует этому названию. Вне всякого сомнения, искусственная нервная система, в достаточной степени близкая к человеческой, которая связана с органами чувств и реализована в некотором теле, конечно, будет обладать разумом. Однако термин "искусственный" не означает, что исследователи искусственного интеллекта пытаются построить искусственного человека. На современном уровне развития физики, химии и нейрофизиологии это недостижимо. Саймон и другие пионеры "искусственного интеллекта" предлагают создать нечто более ограниченное: эвристическую программу, дающую возможность цифровой машине, перерабатывающей информацию, проявлять разумность.

Термин "интеллект" тоже может привести к недоразумениям. Проектируя робота, никто не ожидает от него, что он будет воспроизводить любое поведение, которое считается разумным для человека. Роботу не придется, например, выбирать себе хорошую жену или переходить улицу на оживленном перекрестке. Он должен конкурировать с человеком только в более объективных и отвлеченных сферах человеческого поведения - с тем чтобы быть в состоянии одержать верх в игре Тьюринга.

Но именно эта ограниченность цели, поставленной исследователями, работающими в области "искусственного интеллекта", придает такое большое значение их работе. Эти "последние метафизики" делают ставку только на способность человека к формализации своего поведения; в случае выигрыша они смогут, пренебрегая мозгом и телом, постичь самую суть рационального.

Вычислительные машины уже привели к научно-технической революции, сравнимой по значению с промышленной революцией. Если Саймон прав, говоря о неизбежности "искусственного интеллекта", то ЭВМ подводят нас к грани свершения еще более значительной, концептуальной революции - к изменению наших

H.A.Simon, A.NewelL Heuristic Problem Solving: The Next Advance in Operations Research.- Operations Research, vol. 6, 1958, January-February, p. 6.

19

представлений о человеке. Важность этой революции ощущается всеми, однако мы настолько близки к соответствующим событиям, что порой бывает трудно четко представить себе их смысл. Во всяком случае, ясно следующее. Аристотель назвал человека разумным животным, и с тех пор считалось, что разум неразрывно связан с сущностью человека. Если мы находимся на пороге создания искусственного интеллекта, то в ближайшее время мы станем свидетелями триумфа весьма ограниченного представления о разуме. Действительно, если разум может быть "заложен" в вычислительную машину, то это подтвердит такое понимание природы человека, к которому в течение двух тысяч лет на ощупь шли западные мыслители и которое лишь сегодня получило средства для выражения и реализации. Воплощение этой интуитивной идеи коренным образом изменит наши представления о самих себе. Если же создание "искусственного интеллекта" окажется невозможным, то нам придется найти ту границу, которая отделяет человеческий разум от искусственного, что также радикально изменит наше понимание самих себя. Таким образом, наступил тот момент, когда мы должны либо окончательно признать, что имеющее за собой глубочайшую традицию интуитивное прозрение оказалось верным, либо отказаться от тех представлений, которые в течение двух тысячелетий считались проникновением в природу человека.

Хотя сейчас, по-видимому, еще не наступило время решения этого вопроса, мы все-таки обязаны попытаться определить масштабы и пределы такого рода разума, который полностью вступил в свои права с тех пор, как "аналитическая машина" была доведена до совершенства. Мы должны попытаться понять, в какой степени осуществим "искусственный интеллект", а если возможности машинного моделирования разумного поведения ограниченны, мы должны найти эти границы, определить, где они проходят. Все, что мы узнаем о границах разумного в применении к вычислительным машинам, будет добавлением к нашему представлению о характере и объеме человеческого интеллекта. Для этого нам понадобится ни больше ни меньше, как критика "искусственного разума".

II

Потребность в критике "искусственного разума" есть лишь частное проявление общей потребности в критическом отношении к наукам о поведении. Н.Хомский однажды заметил, что в этих науках "всегда наблюдалась вполне естественная, но достойная сожаления тенденция к "экстраполяции": полученный в результате тщательной экспериментальной работы и точной обработки

20

данных минимум знаний экстраполировался на вопросы, которые имеют гораздо более широкое значение и наполнены огромным социальным содержанием". Его вывод, относящийся к 1968 г., состоит е следующем:

«[ Специалисты ] несут на себе ответственность за тог чтобы были ясны действительные пределы их знания и тех результатов, которые получены ими на сегодняшний день, а внимательный анализ этих пределов продемонстрирует, по моему мнению, что практически в каждой области социальных и поведенческих наук достигнутые на сегодня результаты не оправдывают такую "экстраполяцию"»*.

На первый взгляд кажется, будто искусственный интеллект является счастливым исключением из этого прискорбного правила. Каждый день мы читаем о том, как цифровые вычислительные машины играют в шахматы, переводят тексты, распознают образы и скоро вообще смогут делать всю нашу работу. В самом деле, это начинает походить на детскую забаву. В буквальном см: юле этого слова! В издании Североамериканского газетного объединения, вышедшем в декабре 1968 г., была помещена статья, озаглавленная "Компьютер для детишек", в которой говорится:

"Западногерманское издательство "Космос".-, предложило новую идею подарка... Это самый настоящий (хотя и маленький) компьютер стоимостью не более 20 долларов. Работает на батарейках и внешне напоминает портативную пишущую машинку- Однако, как и в любую большую ЭВМ, в это устройство можно вводить программы для перевода с иностранных языков, диагностики заболеваний и даже для получений прогноза погоды".

Из статьи под названием "Будьте знакомы: Шейки -первый электронный человек", появившейся 20 ноября 1970 г, в журнале "Life", ошарашенный читатель узнает о существовании ЭВМ, «"смонтированной из пяти главных электронных систем, в значительной степени соответствующих основным способностям человека: восприятию, разуму, речи, памяти [и] "самосознанию"» . Судя по статье, эта ЭВМ "видит", "понимает", "учится" и вообще "доказала, что машины могут мыслить". Цитируются также высказывания некоторых известных ученых - специалистов по вычислительным машинам, которые предсказывают, что по прошествии трех-пятнадцати лет "будет создана машина, общий интеллект которой будет на уровне среднего человека, а еще через несколько месяцев он окажется на уровне гения,..".

Хотя до создания совершенного робота пройдет еще несколько лет, все, кто интересуется, как будет выглядеть мир на рубеже двух столетий, могут посмотреть фильм "2001 год: космическая Одиссея", в котором показан робот по имени ХЭЛ, невозмутимый, рассудительный, знающий и умеющий чуть ли не все на свете. И этот фильм нельзя считать просто плодом научной фантазии: "Космическая Одиссея" снималась после тщательной

* Н. Хомский. Язык и мышление19 М., 1972, с. 10-11.

21

документальной проверки. Постановщик фильма С.Кубрик консультировался с самыми видными специалистами по вычислительной математике и технике, стремясь избежать ошибок и не включать в фильм совсем уж маловероятные вещи. Сам Тьюринг в 1950 г, выразил уверенность в том, что "к концу нашего века употребление слов и мнения, разделяемые большинством образованных людей, изменятся настолько, что можно будет говорить о мыслящих машинах, не боясь, что тебя поймут неправильно"*. Технический консультант этого фильма профессор Массачусетского технологического института М.Минский, работавший в своей лаборатории над одним из первых прототипов ХЭЛа, заверил Кубрика, что если Тьюринг и ошибается, то только в сторону излишнего пессимизма.

Тот факт, что С. Кубрик правильно истолковал слова М. Минского, очевиден из редакционной статьи последнего в "Science Journal", которая весьма напоминает сценарий к фильму "2001 год":

"Сначала машины выполняли самые простые действия. Но скоро их поведение станет фантастически изящным. Если раньше глаза ЭВМ могли нащупать лишь дырочки на перфокартах, то сейчас они распознают контуры на ровном фоне. Скоро они станут соперничать с человеком в анализе окружающей его обстановки. Было время, когда машины просто склады-вали столбики цифр. Сейчас они могут участвовать в играх (типа шахмат), понимают простой разговор, учитывают множество факторов при принятии решений. Что будет дальше?

Сегодня машины решают задачи главным образом по тем правилам, которые мы в них закладываем. Однако недалеко то время, когда мы, возможно, научимся настраивать их таким образом, чтобы они могли работать над очень важной проблемой совершенствовании собственной способности решения задач. При этом может случиться так, что после перехода через некоторый порог способности машины будут расти все быстрее, словно по спирали удаляясь от исходной точки, так что создание надежного их "регулятора" окажется совсем нелегким делом"**.

Складывается впечатление, что нет предела размаху и великолепию надлежащим образом запрограммированной ЭЦВМ, Неудивительно поэтому, что среди тех, кто занимается философией науки, встречается мнение, согласно которому машина в состоянии делать все, что в состоянии делать человек (это сопровождается попыткой представить себе, чем такая точка зрения чревата для философского осмысления разума); в то же время некоторые моралисты и теологи не на жизнь, а на смерть защищают такие в высшей степени утонченные формы поведения, как моральный выбор, любовь и творчество, считая их находящимися вне досягаемости машины. Однако мыслители как того, так и другого

* А. Тьюринг. Цит. соч., с. 32.

•*M.Minsky. Machines Are More Than They Seem.-Science Journal, 1968, October, p. 3,

22

толка оставляют без внимания вопрос, который должен был бы предшествовать всем остальным, а именно: действительно ли машины могут достичь хотя бы элементов творчества, играя в шахматы, разрешая простые проблемные ситуации, читая простые предложения и распознавай образы? По-видимому, это связано с тем, что под влиянием прессы и таких исследователей, работающих в области "искусственного интеллекта", как М. Минский, у них сложилось впечатление, что простые задачи - и даже некоторые из очень трудных - уже решены или находятся на пороге решения. Поэтому прежде всего займемся проверкой этих заверений.

Уместно начать с предсказания, сделанного Г.Саймоном в 1957 г., когда, казалось, его "Общий решатель задач" открывал эру искусственного интеллекта:

"В мои намерения не входит удивить или поразить вас. То, что я хочу сказать, можно выразить в нескольких словах: в настоящее время в мире существуют машины, которые мыслят, учатся и проявляют способность к творчеству. Более того, эти их способности будут быстро расти вплоть до того момента в обозримом уже будущем, когда сфера их деятельности охватит круг всех вопросов, над которыми когда-либо размышлял человеческий разум".

Далее Саймон продолжает:

"1. Не пройдет и десяти лет, как цифровая вычислительная машина

станет чемпионом мира по шахматам, если не будут введены правила, не допускающие ее к соревнованиям.

2. Не пройдет и 10 лет, как вычислительная машина найдет и

докажет важную и до сих пор неизвестную математическую теорему.

3. Не пройдет и десяти лет, как большинство психологических теорий

примет форму программ для вычислительных машин или качественных утверждений о тех или иных характеристиках машинных программ”*

К сожалению, десятая годовщина этого исторического выступления прошла незамеченной, а исследователям "искусственного интеллекта" ни на одной из своих многочисленных конференций (как международных, так и внутри США) так и не удалось выкроить время между докладами, посвященными их успешной работе, чтобы сопоставить эти предсказания с реальными результатами. До настоящего момента прошло уже четырнадцать лет20, и нас по-прежнему предупреждают, что, быть может, вскоре нам будет трудно справляться с нашими роботами. Вне всякого сомнения, давно пора сопоставить эти своеобразные пророчества с действительностью.

По прошествии пяти лет после предсказаний Саймона в опубликованных работах появились намеки на то, что первое из

H,A.Si mon, A.IM е w e I I, Heuristic Problem Solving: The Next Advance »n Operations Research. Operations Research, voL 6, 1958, p. 6 .

23

его предвидений уже наполовину осуществилось, а в отношении второго наблюдается значительный прогресс. Что касается этого последнего, то есть предсказания о машинных открытиях теорем, то его стали считать "исполнившимся" после того, как У.Р.Эш-би - один из ведущих авторитетов в этой области - в произведенном им обзоре коллективного труда "Вычислительные машины и мышление", вышедшего под редакцией Э.Фейгенбаума и Дж. Фельдмана, поделился своими восторгами по поводу математических способностей надлежащим образом запрограммированной ЭВМ: "Программа Гелернтера для доказательства теорем нашла новое доказательство теоремы pons asinorum, которое не требует никаких построений". Это доказательство, продолжает доктор Эшби, "в течение 2000 лет оставалось незамеченным величайшими математиками.,, будь оно найдено, это доказательство получило бы самую высокую оценку"*.

Машинная теорема выглядит внушительно, и наивный читатель невольно начинает разделять энтузиазм У.Эшби. Однако небольшое углубление в вопрос показывает, что pons asinorum, или «ослиный мост», есть не что иное, как элементарная теорема, доказываемая в геометрии Евклида21; согласно этой теореме, в равнобедренном треугольнике углы, лежащие против равных сторон, равны. Более того, первое упоминание об этом будто бы новом доказательстве, "открытом" машиной, приписывается Пап-пу Александрийскому, жившему в конце III - начале IV в. н.э.** Несоответствие между ликованием Эшби, древностью теоремы и тривиальностью ее доказательства просто поразительно. Нет, мы еще весьма далеки от "важной математической теоремы", которая должна была быть найдена к 1967 году!

История с игрой в шахматы более запутана, она могла бы послужить моделью для изучения процесса возникновения интеллектуального смога, В 1958 г,, через год после предсказания Саймона, появилась тщательно разработанная шахматная программа Ньюэлла, Шоу и Саймона. Как указывалось в их классической работе, названной "Программа для игры в шахматы и проблема сложности", эта программа была "еще полностью не отлажена", так что о ее поведении имелся "лишь небольшой фактический - материал"***; тем не менее авторы предполагают, что принципов, заложенных ими в программу, достаточно для разыгрывания дебютов. Это была последняя подробная публикация, посвященная данной программе. Однако в том же году Ньюэлл, Шоу и Саймон

* W,R. A s h b у. Review of E.A. Feigenbaum and J.Feldman feds,). Compu­ters and Thought. The Journal of Nervous and Mental Diseases, vol. 140, No 6, June 1965, p. 468^70.

** D.E.S m i t h. History of Mathematics. Boston, Ginn, 1925, vol. II, p. 284,

*** A, Newell, J, Shaw and H.Simon, Chess-Playing Program and

the Problem of Company, p.60.

24

провозгласили: "Мы составили программу, играющую в шахматы"*. На основе этого заявления Саймон пересмотрел сделанное им ранее предсказание:

"В одной из наших публикаций мы предсказывали, что не пройдет и десяти лет, как ЭЦЙМ откроет и докажет важную математическую теорему. Исходя из опыта нашей работы с эвристиками в логике и шахматах, мы готовь/ добавить к этому дополнительное предсказание: понадобится всего лишь незначительное развитие возможностей уже существующей программы для того, чтобы достичь необходимого для такого рода моделирования увеличения ее мощности в решении задач" **.

Доверчивость читателей и энтузиазм Саймона были столь велики, что одних только заверений Ньюэлла, Шоу и Саймона, касающихся их все еще не отлаженной программы, оказалось достаточно, чтобы шахматная машина была запущена на орбиту научной мифологии. В 1959 г. Н.Винер, развивая утверждение Саймона об умении программы "хорошо разыгрывать дебюты", сообщил Институту философии Нью-Йоркского университета, что "машины, играющие в шахматы, типа тех, которые существуют уже сегодня, будут отвечать на ходы мастера ходами, которые рекомендуются для таких позиций в учебниках; на этом уровне машина сможет продолжать игру вплоть до определенного момента в миттельшпиле"***. На том же симпозиуме М. Скрайвен перешел от расплывчатых заверений типа "машины теперь играют в шахматы" к более сильному утверждению о том, что "способности машины уже позволяют ей вести хорошую игру"****.

На самом же деле в нескольких зарегистрированных играх программа Ньюэлла, Шоу м Саймона играла слабо, хотя и по правилам, а в официальной схватке в октябре 1960 г. она проиграла на 35 ходу десятилетнему начинающему шахматисту. Этот факт, однако, не имеет отношения к делу.

В то время как программа Ньюэлла, Шоу и Саймона терпела поражение в плохо сыгранных ею пяти-шести партиях, а порожденная теми же авторами мифическая программа успешно противостояла шахматным мастерам вплоть до миттельшпиля, сами авторы хранили молчание. Когда же года три спустя они вновь обрели дар речи, то сообщили не о трудностях и разочарованиях, а скорее наоборот: как бы продолжая прерванное изложение мифа, в статье, опубликованной в журнале "Behavioral Science'', Саймон

*A.N e w e I I, J.Shaw and H. S ! т о n, - The Processes of Creative

Thinking, The RAND Corporation, P-1320, September 16, 1958, p, 6,

**ibld., p. 78.

*** N,Wiener. The Brain and the Mashine (Summary).-In: Dimensions

e, 1961, p. 110,

****Scriven, The Complete Robot: A Prolegomena to Androidologyp.122

25

объявил о создании программы, которая гложет играть "высокотворческие" шахматные эндшпили, включающие "комбинации, не уступающие по сложности любым из тех, которые вошли в историю шахмат"*. Тот факт, что программа ограничивается только рассмотрением эндшпилей, в которых можно непрерывно шаховать противника, что значительно сокращает перебор вариантов, лишь упоминается, но не подчеркивается. Искусственно создается впечатление, что такие же простые эвристики достаточны для ведения игры на уровне мастера даже в миттельшпиле**. Таким образом, у читателя создается впечатление, что та часть предсказаний, которая касается шахмат, почти реализована. С такими достижениями можно хоть сегодня претендовать на титул чемпиона мира по шахматам. И действительно, один из специалистов по вычислительным машинам назвал прогноз Г.Саймона, рассчитанный на десять лет, "консервативным"***. Другой ученый - Ф. Грюнбергер из корпорации RAND - намекнул, что титула чемпиона мира недостаточно и что следует стремиться к созданию "программы, которая играла бы лучше любого шахматиста"****. Эта новая волна тумана наводит на мысль о загадочном звере из французской легенды, который мог дышать только дымом, им же извергаемым.

А действительность, прихрамывая, плетется позади этих впечатляющих заверений. Замешательство, вызванное моей попыткой привлечь внимание исследователей в области "искусственного интеллекта" к несоответствию между их энтузиазмом и по-

* Н. A. S i m о n and P.A.S im on. Trail and Error Search in Solving Difficult Problems: Evidence from The Game of Chess,- Behavioral Science vol. 7 1962, October, p. 429.

** Например, в резюме к работе Г. Саймона и П. Саймона 1см. предыдущее примечание) даже не упоминается, что речь идет о форсированных матах; авторы просто заключают, что "в этой работе делается попытка до какой-то степени рассеять мифический туман, окутывающий игру в шахматы; мы показали, что успешное решение задач основывается не на чудесном даре воспоминания и озарения, а на некоторой эвристической "программе", обладающей высоким уровнем избирательности" (р. 425) , А в заключении к самой статье делается ничем не оправданное обобщение: "Из приведенных данных следует совершенно определенный вывод: мастерам шахматной игры удается находить те или иные комбинации не потому, что они быстрее думают или лучше запоминают, чем другие люди, а потому, что их программы реализуют мощные эвристики выбора" (р. 429). Если к приведенным данным отнестись честно, то из них в лучшем случае следует, что этот вывод применим лишь к некоторым конкретным ситуациям эндшпиля,

***См,: Р, Армер, О возможностях кибернетических систем22. - В кн.: М. Т а у б е. Вычислительные машины и здравый смысл- Миф о думающих машинах, 1964, с. 181.

**** F.Grunberger, Benchmarks in Artificial Intelligence.-The RAND

Corporation, P-2586, 1962, June, p. 6.

26

лученными результатами, в конце концов привело к появлению более или менее компетентной программы. "Мак Хэк" - программа, написанная Р. Гринблатом, -действительно победила автора этих строк*, типичного шахматиста-любителя, и приняла участие в нескольких турнирах, где выиграла некоторое количество партий. Этот скромный успех возродил былые надежды и претензии. С.Пейперт, второе по рангу лицо в реализации программы разработки роботов в Массачусетсом технологическом институте, выступил в защиту предсказания Саймона, заявив, что "в качестве формулировки ближайших целей, которые исследователи в данной области считают достижимыми, оно вполне разумно"**. А на первой странице октябрьского выпуска "Science Journal" за 1968 г. Д.Мичи, возглавляющий исследования в области "искусственного интеллекта" в Англии, писал: "Сегодня машины могут играть в шахматы на уровне чемпионов"***. Однако, как сказал при обсуждении первых шахматных про* грамм шахматный мастер А. де Гроот, "машины все еще очень слабо играют в шахматы, и у меня мало надежд на существенное улучшение их игры в будущем". Другой шахматист, Э.Херст, обсуждая на страницах журнала "Psychology Today" шахматную программу, составленную в Массачусетском технологическом институте, добавляет, что, хотя "замечание де Гроота было сделано в 1964 г., результаты, полученные "Мак Хэк" на последнем турнире, не изменили бы его мнения"****. То же можно сказать и о положении дел в настоящее время. Программа Грин-блата постепенно усовершенствовалась; однако она достигла, по-

* Ликование, охватившее "машинные" круги в связи с сообщением об этом новом успехе, который якобы подтверждает обоснованность предшествующих заявлений о возможностях ЭВМ, нашло отзвук в книге А. Тофлера "Грядущий шок" (А. Т о f f f e r, Future Schock, New York, Random House, 1971, p. 187). По словам этого автора, я будто бы утверждал, что ни одна вычислительная машина никогда не сможет играть в шахматы даже на любительском уровне. Если взять эту цитату в контексте, то станет ясно, что автор искажает смысл сказанного мною- Мое утверждение сводилось просто к объективной констатации уровня развития программирования шахмат на тот момент (1965 г.), когда оно было выдвинуто: "В соответствии с оценкой, даваемой Ньюэллом, Шоу и Саймоном программам Лос-Аламосской группы исследователей, группы исследовательского центра фирмы IBM и их собственной, "все три программы играют приблизительно на одном уровне (посредственном), затрагивая при этом приблизительно одно и то же машинное время". Однако ни одна шахматная программа не в состоянии вести игру даже на уровне любителя, е то время как до мирового чемпионата по шахматам осталось только два годэ".

** S. Р а р в г t\ 9th RAND Symposium, 1966, November 7, p, 116.

*** D. M i с h i e. Machines that Play and PJan.-"Science Journal/' vol. 4-. 1968, No. 10, October, p. 83.

**** E. H e a r s t. Psychology Across the Chessboard.-Psychology Today

1967, June, p. 32.

27

видимому, некоторой точки "насыщения". За прошедшие два года она проиграла все партии в турнирах, в которых принимала участие, и больше о ней не упоминалось. Вскоре мы увидим, что, учитывая ограниченные возможности вычислительных машин, именно этого и следовало ожидать.

К чести Р. Гринблата следует сказать, что, даже когда его "Мак Хэк" находилась в зените славы, он избегал предсказаний; что же касается прогнозов Саймона и вопроса об участии ЭВМ в борьбе за шахматную корону, то заметим только, что десять лет давно прошли, а вычислительная машина в лучшем случае в состоянии претендовать в шахматах на категорию С23, то есть любительскую категорию*.

Надеюсь, что этот беглый обзор положения дел в данной области и его сопоставление с обоими предсказаниями Салопа прояснили существующую ситуацию. Очень важно с самого начала отдавать себе отчет в том, что, несмотря на всякого рода предсказания, сообщении в печати, демонстрации кинофильмов и т.д., "искусственный интеллект" все еще остается обещанием, а не свершившимся фактом. Только при этом условии мы можем начать исследование реального положения дел и будущих перспектив, касающихся "искусственного интеллекта” на достаточно изначальном уровне.

В области "искусственного интеллекта" существует множество делений и подразделений, но самые важные работы можно сгруппировать в следующие четыре направления: программирование игр, автоматический перевод, решение задач24 ц распознавание образов. Какого уровня достигли исследователи в программировании игр, мы уже видели. Ниже мы займемся более детальным анализом остальных трех направлений. Основной тезис, развиваемый мною в части I, сводится к тому, что в области "искусственного интеллекта" ход событий следует одной и той же схеме: первоначальный впечатляющий успех быстро сменяется неожиданными трудностями. Эта схема присутствует во всех четырех областях, реализуясь в два этапа, каждый из которых

* Третье предсказание - о том, что большинство психологических теорий примут форму программ для ЭВМ, - действительно до некоторой степени осуществилось, хотя в психологии до сих пор имеется немало "чистых бихевиористов”. Однако действительно важным является не решение тех или иных задач, пусть даже весьма значительных (например, составление программ игры в шахматы на уровне мастера или доказательство нетривиальных теорем), а то, представляет ли реализация некоторого предсказании фактический шаг вперед. Так, неясно, насколько плодотворным а психологии оказывается переход от "поведенческих" моделей к моделям машинным. Этот вопрос достаточно сложен и требует подробного обсуждения (см. гл. 4).

28

назад содержание далее



ПОИСК:




© FILOSOF.HISTORIC.RU 2001–2021
Все права на тексты книг принадлежат их авторам!

При копировании страниц проекта обязательно ставить ссылку:
'Электронная библиотека по философии - http://filosof.historic.ru'
Сайт создан при помощи Богданова В.В. (ТТИ ЮФУ в г.Таганроге)