Часть 12.

преобладающей, что люди начнут воображать себя цифровыми устройствами - в том плане, в каком это мыслится исследователями, работающими в области "искусственного интеллекта", - то, поскольку (по тем причинам, которые мы не раз повторяли на этих страницах) машины не могут стать похожими на человека, человек постепенно начнет приобретать сходство с машиной. За прошедшие две тысячи лет такие представления, как уверенность в основополагающей роли объективности, убежденность в том, что действия человека управляются фиксированными оценками, ценностями, представления о возможности формализации навыков, умений и мастерства и вообще о том, что теория практической деятельности может быть построена, - все это постепенно завоевывало все большее признание в психологии и социальных науках. Среди людей уже встречаются такие, которые мыслят себя объектами, укладывающимися в рамки безошибочных вычислений лишенных тела машин, тех машин, для которых человеческие формы жизни представляют собой не изменчивую и гибкую предрациональную основу всего рационального, а нечто такое, что должно быть разложено в неосмысленный список фактов. Нам грозит не пришествие сверхразумных вычислительных машин, а появление неполноценно мыслящих человеческих существ. ЗАКЛЮЧЕНИЕ

Предлагаемая альтернатива представлений о человеке и о его способности к разумному поведению основана на анализе того, каким образом совершенствование навыков и умений, которыми наделено человеческое тело - совершенствование, происходящее по мере деятельности человека, направленной на удовлетворение его потребностей, - приводит к возникновению человеческого мира. Этот мир и устанавливает те условия, при выполнении которых человек получает доступ к конкретным фактам, воспринимаемым в их бесконечном разнообразии и открытости, поскольку эти факты с самого начала организованы в терминах его потребностей. Такой подход дает возможность понять фундаментальнейшие различия между человеческим разумом и "машинным интеллектом". "Искусственный интеллект" вынужденно начинается на том уровне, где факты уже сформулированы. Абстрагируя эти факты* от ситуации, в которой они являются частью ее структуры, "искусственный интеллект" пытается использовать получающийся при этом результат для моделирования разумного поведения. Но эти факты, оторванные от контекста, представляют собой страшно громоздкую массу нейтральных данных, с которой специалистам в области "искусственного интеллекта" до сих пор не удалось ничего сделать. Все существующие программы "по мере роста массивов информации безнадежно увязают в массе фактов"**.

На сегодняшний день не существует никакого метода обработки данных, кроме накопления фактов, и, поскольку главные философские предпосылки, лежащие в основе разработок, ведущихся в сфере "искусственного интеллекта", оказались под

* Факты типа "у человека две руки", а не типа "контакт К замкнут". Различие между этими фактами аналогично различию между фактом, относящимся к содержанию какого-нибудь рисунка, и фактом, касающимся одной из множества составляющих картину точек. Совершенно ясно, что под вопрос поставлена реальность мира фактов первого типа, поскольку М. Минский говорит, что нам приходится иметь дело с миллионами фактов, а не с миллионами квантов информации.

** М.М i n s k у. Introduction.-in: M.M i n s к у (ed.). Semantic Information Processing, pr 18.

252сомнением, потеряло убедительность предположение, что методы хранения и поиска дискретных данных рано или поздно достигнут достаточного уровня развития - достаточного для того, чтобы справиться с тем объемом данных, который возникает при попытке выразить в точной форме наше знание мира. Поскольку масса этих данных о мире может оказаться бесконечной, а формализация нашей формы жизни невозможной, есть всe основания полагать, что дискретные методы хранения информации никогда не станут адекватными поставленной цели.

Более того, если данное нами феноменологическое описание человеческого интеллекта соответствует истине, то существуют принципиальные соображения, по которым искусственный интеллект вообще не может быть полностью реализован. Помимо технологических трудностей, возникающих в связи с хранением огромного количества нейтральных данных, возникает проблема, связанная с тем, что если довести анализ до конца, то у нас совсем не останется фиксированных фактов-будь их перед этим хоть миллион, хоть десять миллионов, как того хочется М.Минскому. При концептуальных революциях изменяются даже сами факты, поскольку они создаются человеком.

И наконец, если найдется такой философ или исследователь в области "искусственного интеллекта", который предложит в ответ на это возражение формализовать сами человеческие потребности, порождающие этот все время меняющийся контекст, то он столкнется с целым потоком тех же самых трудностей. Неопределенные потребности и цели, так же как переживание чувства вознагражденности, направляющее их относительное уточнение, не могут быть заложены в дискретную машину, для которой мыслима только одна форма существования - последовательность детерминированных состояний. И пожалуй, именно потому, что эти потребности ни у индивида, ни у человечества в целом никогда не становятся полностью определенными, они сохраняют способность к уточнению, а природа человека получает возможность повторных изменений в ходе революций личностей и культур

253

ЗАКЛЮЧЕНИЕ

ВОЗМОЖНОСТИ И ПРЕДЕЛЫ ИСКУССТВЕННОГО РАЗУМАГлава 10 ПРЕДЕЛЫ "ИСКУССТВЕННОГО ИНТЕЛЛЕКТА"

Теперь мы подготовлены к тому, чтобы объединить в одно целое все многообразие философских соображений, касающихся ограниченных возможностей "искусственного интеллекта". Введенное нами разделение области "искусственного интеллекта" в широком смысле на две части - на моделирование процессов познания и "искусственный интеллект" в собственном смысле (ИИ) - позволило нам рассмотреть два отдельных, но взаимосвязанных вопроса: 1) Действительно ли человек "в процессе переработки информации" следует некоторым формальным правилам, подобно цифровой машине? и 2) Может ли поведение человека, независимо от того, как оно возникает, быть описано средствами какого-либо формализма, допускающего реализацию с помощью , цифрового устройства?

Обсуждая эти вопросы, мы пришли к выводу, что, во-первых, данные описательного или феноменологического характера - если подходить к ним с позиций, свободных от предрассудков традиционной философии, - указывают на то, что в разумном поведении любого рода принимают участие непрограммируемые способности человека. Более того, мы показали, что все эмпирические соображения, приводимые в защиту противоположного взгляда/ с методологической точки зрения не выдерживают критики. Таким образом, в той мере, в какой вопрос о возможности создания искусственного интеллекта представляет собой вопрос эмпирический, можно, по-видимому, утверждать, что появление в процессе дальнейшей работы сколько-нибудь значительных результатов в области моделирования процессов познания и "искусственного интеллекта" (в собственном смысле) в высшей степени маловероятно.

Таким образом, если исследователи, работающие в области "искусственного интеллекта" в широком смысле, несмотря на все трудности, все-таки- считают свой оптимизм оправданным, то бремя доказательства целиком ложится на их плечи; они должны доказать, что вопреки этим эмпирическим трудностям должен существовать некоторый путь, ведущий к построению такого интеллекта. Однако в данном случае априорная сторона вопроса о

257достижимости искусственного интеллекта еще более уязвима, чем эмпирическая. Те самые доводы, которые, по предположению, должны свидетельствовать в пользу того, что формализация, несомненно, возможна, оказываются либо непоследовательными, либо противоречащими сами себе и оборачиваются доказательством того, что без поддержки определенных в высшей степени малоправдоподобных эмпирических предпосылок провести формализацию невозможно. Таким образом, априорные доводы в пользу формализации оказываются доводами против - доводами, говорящими о невозможности "моделирования процесса познания" и "искусственного интеллекта".

Рассмотрим эти доводы более подробно- Обсуждая моделирование процесса познания, мы обнаружили, что в таких играх, как шахматы, в таких процессах, как решение сложных задач, распознавание подобия и фамильного сходства, в метафорическом использовании языковых средств, так же как в тех случаях употребления языка, которые нам кажутся странными или грамматически неправильными, - во всех этих случаях как сам человек, так и анализирующий его действия наблюдатель согласны с тем, что, по всей видимости, соответствующее поведение не подчиняется правилам. Наоборот, создается впечатление, что в таком поведении человек пользуется глобально воспринимаемой им организацией, прагматическим различением существенных и несущественных операций, обращением к парадигме, а при передаче смысла некоторого высказывания другому лицу-обращением к разделяемому обоими участниками чувству ситуации.

Разумеется, вся эта упорядоченная, но, очевидно, не правило-образная деятельность могла бы, тем не менее, оказаться результатом подсознательного следования правилам. Однако если попытаться в качестве некоторого философского предположения развить гипотезу, согласно которой всякое поведение обязательно следует понимать как возникающее в результате применения некоторого набора правил, то мы сталкиваемся с не имеющим конца процессом обращения к правилам, к правилам применения правил и т. п.- с регрессом в бесконечность. Этот процесс не может завершиться обращением к обычным фактам, потому что, согласно исходному утверждению, сами факты всегда узнаются и интерпретируются в свою очередь по некоторым правилам.

Чтобы избавиться от трудностей, связанных с этим "регрессом в бесконечность", можно ввести предположение, что изначальные данные представляют собой входные потоки энергии, которые всегда допускают выражение в численном виде и обработку в соответствии с некоторым правилом. По-видимому, к этому сводится точка зрения Дж.Фодора. Утверждение, согласно которому поступающая на входы энергия преобразуется, проходя

258последовательность операций, представляющую собой нечто вроде программы для машины дискретного действия, нельзя назвать невразумительным, однако - по признанию самого Фодора - для этого требуется невероятно сложный формализм, который пока что никому не удалось ни обнаружить, ни изобрести. Пока у нас нет никаких эмпирических или априорных доводов в пользу того, что такой формализм для описания преобразования физических входных сигналов существует (или должен существовать); эмпирические данные свидетельствуют о том, что мозг функционирует подобно аналоговой вычислительной машине. Учитывая все это, приходится заключить, что нет никаких оснований полагать (но есть все основания сомневаться), будто обработка физических входных сигналов в мозгу человека может быть представлена в виде программы для цифровой вычислительной машины.

Если мы хотим избежать "регресса в бесконечность", проистекающего из незавершимости процесса введения правил, правил о правилах, правил о правилах правил и т. д., нам остается единственный выход - изменить исходный тезис-и заявить, что на самом низшем уровне правила применяются автоматически, без использования каких-либо инструкций. Но это ведет к затруднениям двоякого рода. Во-первых, раз уж произведено описанное выше ослабление априорного тезиса (гласящего, что всякое поведение обязательно подчиняется тем или иным инструкциям), мы можем с тем же успехом утверждать, что и на любом уровне поведение, требующее умений, навыков и мастерства, не должно основываться на подсознательном следовании инструкциям, так что надлежит вообще отбросить аргумент, согласно которому - в противоречие с феноменологическими данными - испытуемый обязательно следует правилам. Во-вторых, если, тем не менее, кто-нибудь возьмется настаивать на том, что обязательно существует изначальный уровень неинтерпретируемых фиксированных характеристик и что эти фиксированные характеристики не являются ни физическими входными сигналами, ни обычными объектами, то ничего не остается, кроме как предположить, что они должны представлять собой лишенные содержания "кванты" информации о человеческом мире. Так мы приходим к понятию "информации, содержащейся в раздражителе", чувственным или мгновенным снимкам, введенным У.Ниссером. Однако априорное понятие информации, несомой стимулом, оказывается совершенно непонятным. Все, что мы имеем с эмпирической точки зрения, - это, с одной стороны, непрерывные физические входные сигналы, поступающие в организм, а с другой - мир обычных объектов, данный воспринимающему субъекту. Ни одному специалисту по психологии процессов познания не удалось дать определение какого-нибудь третьего вида входных сигналов, лежащего где-то между этими двумя и дающего возможность

259выделить те изначальные "биты" информации, к которым должны

примениться правила. Все предложенные до сих пор определения

на поверку оказываются несуразной смесью физических описаний, производимых в терминах энергии, и феноменологических описаний, которые даются в терминах непосредственных чувственных данных, для которых невозможно дать строгое определение. Таким образом, с психологической точки зрения, утверждение, согласно которому разумное поведение может, вопреки очевидным свидетельствам противного, осуществляться посредством применения тех или иных фиксированных формальных правил (как это имеет место в цифровой вычислительной машине) , "не работает", поскольку при этом возникает бесконечный процесс введения правил применения правил. Ни обращение к понятию физического входного сигнала (применение которого оказывается невозможным), ни использование понятия входного стимула (для которого не удается найти подходящего определения) не могут устранить этот "регресс в бесконечность".

Несмотря на то, что ни психологин, ни последние достижения в области вычислительных систем не дают достаточных эмпирических оснований надеяться на успех, исследователи, работающие над проблемой "искусственного интеллекта",-так же как специалисты, разрабатывающие модели процессов познания, -уверены в том, что формализация разумного поведения возможна. Четкой формулировки их доводов обнаружить не удается; по всей видимости, они основываются на онтологическом допущении, согласно которому мир может быть разложен на независимые друг от друга логические элементы, и на эпистемологическом допущении, согласно которому наше понимание мира может быть затем восстановлено путем комбинирования этих элементов в соответствии с некоторыми эвристическими правилами. Первое допущение не грозит никакими затруднениями. Поскольку исследователь в области "искусственного интеллекта", в отличие от психолога, изучающего познавательные процессы, не обязан непременно ориентироваться на человеческие свойства, он может легко выделить изначальные элементы, к которым должны применяться правила, - это дискретное представление звуковых волн и элементы мозаики телевизионного экрана. Их можно распознать без дальнейших обращений к правилам. Однако использование второго допущения (гласящего, что эти элементы могут быть затем воссоединены), выдвинутое как априорно необходимое, влечет за собой представление о правилах все более и более высокого порядка - процессе, обратном тому "регрессу в бесконечность", с которым мы сталкиваемся при моделировании процессов познания.

260Поскольку каждый из упомянутых логических элементов

предполагается независящим от всех остальных, ему нельзя

приписать никакого значения, до тех пор пока он не будет

соотнесен с остальными элементами. Но после того, как эти

элементы изъяты из контекста и очищены от всякого значения,

совсем не так просто вернуть им его. Значение, которое должно

быть приписано каждому логическому элементу, зависит от

других логических элементов, и для того, чтобы можно было

сказать, что те или иные входные сигналы формируют сначала

образы, а в конце концов- объекты и осмысленные высказывания каждый из этих сигналов должен быть соотнесен по некоторым правилам с другими сигналами.. Но ведь в соответствии с различными правилами элементы могут иметь различную интерпретацию, выбор же правила определяется контекстом. А вычислительная машина может распознавать контексты только с помощью некоторых правил.

Следует также заметить, что этот навязываемый вычислительной машиной способ анализа противоречит нашему опыту. Феноменологическое описание нашего опыта, связанного с пребыванием в ситуациях, наводит на мысль, что мы всегда находимся в какой-либо ситуации или контексте, который мы переносим из ближайшего прошлого и подгоняем под настоящее в терминах тех событий, которые в свете минувшей ситуации представляются нам значительными. Каждый раз мы сталкиваемся не с бессмысленными элементами, в терминах которых мы должны идентифи цировать контексты, а только с фактами, которые уже имеют интерпретацию и в свою очередь определяют ситуацию, в которой мы находимся. Жизненный опыт человека можно понять только в том случае, когда он организован в терминах ситуаций, в которых уже заданы релевантности и значения. Такого рода необходимость в первичной организации в случае "искусственного интеллекта" принимает вид задачи разработки иерархии контекстов - иерархии, в которой более широкий контекст (контекст более высокого уровня) используется для определения релевантности и

значения элементов более узких контекстов (или контекстов

более низкого уровня).

Рассмотрим пример. Для того чтобы установить релевантность объекта "нож" и определить однозначный смысл объектов и высказываний, имеющих к нему отношение, необходимо знать, в каком из контекстов мы находимся - бытовом, медицинском или относящемся к столкновениям между людьми (это лишь некоторые примеры). Только в таких контекстах появление "ножа" становится релевантным и получает значение. После того как контекст установлен, он может быть использован для интерпретации объектов или высказываний с тем, чтобы определить подконтекст более низкого уровня. Например, если мы встретим

261"нож" в бытовом контексте, это приведет, как правило, к рассмотрению подконтекста питания, в котором уточнение смысла объектов и высказываний будет ориентировано на "прием пищи", а не на "нападение". Но ведь если каждый контекст может быть опознан только в терминах признаков, выбранных по их релевантности, и интерпретирован только в терминах более широкого контекста, то перед исследователем в области "искусственного интеллекта" возникает задача преодоления явления неограниченного сведения одних контекстов к другим.

Как и в случае моделирования процесса познания, можно было бы попытаться найти эмпирический выход из этого "регресса в бесконечность"- Точно так же, как в упомянутом моделировании изначальные неинтерпретируемые элементы могут быть дискретными представлениями физических входных сигналов, здесь, в "искусственном интеллекте" за изначальный контекст или множество контекстов можно было бы принять контексты, выразимые в терминах некоторых образов или объектов, которые имеют фиксированные значения и могут быть использованы для переключения программы на соответствующие подконтексты объектов или высказываний. Но, как и в "моделировании процесса познания", имеющийся материал не свидетельствует в пользу этой эмпирической возможности. По всей видимости, не существует таких слов или объектов, которые имеют отношение ко всем ситуациям и всегда имеют одно и то же значение, подобно тому, как красное пятнышко на самке колюшки всегда означает для самца начало брачного сезона.

Остается одно-единственное возможное "решение". Программист может сам задать вычислительной машине иерархию контекстов и общие правила их организации. При этом он будет

руководствоваться присущим ему глобальным чутьем, которое

подсказывает ему, что вообще релевантно и значимо для человека. Однако любой факт может стать важным в некоторых ситуациях. Для осуществления такой формализации, при которой

вычислительная машина могла бы проявить человеческую гибкость и приспособляемость, программисту пришлось бы умудриться выразить в явной форме все то, что он обычно принимает за само собой разумеющееся для любого человека. Однако как только он попытается подойти к ситуации, в которой он находится, с позиции машины, как бы смотрящей на нее со стороны, он столкнется с неограниченно большим количеством неосмысленных фактов, релевантность и значение которых можно определить только в более широком контексте.

Таким образом, оказывается, что логико-атомистическая онтология не может служить гарантией истинности логико-атоми­стической эпистемологии. Даже если бы удалось с помощью техники сканирования, использующей логически независимые

262элементы, загнать весь мир в вычислительную машину, это еще не

означало бы a priori, что его можно снова воссоединить в единое

целое Фактически сами попытки обосновать a priori тезис, что,

поскольку мир может быть разложен на элементы, его можно

интерпретировать с помощью формальных правил, приводят как

раз к обратному заключению.

Изложенные выше соображения подтверждаются общей теорией человеческого жизненного опыта как "бытия в ситуации", в котором факты всегда имеют интерпретацию. В этой теории предполагается, что каждая первичная ситуация, в которой оказывается человек, зависит от его намерений, представляющих в свою очередь функцию его тела и его потребностей; предполагается также, что эти потребности не фиксированы раз и навсегда, а интерпретируются и становятся определенными в процессе принятия той или иной культуры, проходя тем самым через изменения интерпретации человеком самого себя. Таким образом, из данного анализа становится понятным, почему не существует ни фактов с встроенными в них заранее значениями, ни каких-либо фиксированных человеческих форм жизни, которые можно было бы надеяться когда-нибудь запрограммировать.

Из сказанного отнюдь не следует, будто маленький ребенок не начинает с определенных фиксированных ответных реакций - на самом деле, если бы этого не происходило, то обучение никогда не могло бы начаться, - просто эти ответные реакции очень скоро становятся ребенку недостаточными и отбрасываются им по мере его развития. Таким образом, у взрослого человека не остается фиксированных ответных реакций, которые не находились бы под контролем значимости ситуации.

Но тогда возникает вопрос: почему не запрограммировать вычислительную машину так, чтобы она вела себя сначала как маленький ребенок, а затем направлять ее по пути к разуму? Этот вопрос уводит нас за пределы сегодняшнего уровня проникновения в тайны психологии и сегодняшних возможностей вычислительной техники. При написании этой книги я ставил перед собой только одну задачу: показать, что существующие в настоящее время попытки заложить в машину полностью сформировавшийся интеллект (как его представляли себе афинские мыслители) наталкиваются на эмпирические трудности и фундаментальные понятийные противоречия. Может ли машина-ребенок начать с независящих от ситуации ответных реакций и постепенно обучиться - это зависит от того, насколько существенна роль, которую играют в обучении нежестко определенные потребности и способность реагировать на глобальный контекст. Например, судя по результатам, полученным Ж.Пиаже в его исследованиях процесса обучения, можно сказать, что в явлениях, связанных с

263обучением, используются те же формы "переработки информации", что и в разумном поведении взрослого человека, и что развитие интеллекта идет по пути "концептуальных революций"95- Это не должно нас удивлять. Вычислительные машины могут иметь дело только с фактами, а ведь человек- источник фактов - представляет собой не факт и не множество фактов, а существо, создающее в процессе своей жизни в мире и самого себя, и сам мир фактов. Этот человеческий мир со всеми его различным^ объектами организован людьми, которые пользуются особенностями и возможностями своего тела для того, чтобы удовлетворять свои потребности. Нет никаких оснований полагать, что к миру, организованному в терминах этих фундаментальных человеческих способностей, можно подойти с какими бы то ни было другими мерками.

Будущее "искусственного интеллекта”

Проанализированные нами трудности сами по себе не дают возможности судить о будущем "искусственного интеллекта". Даже если любая попытка программирования изолированных аспектов разумной деятельности всегда безоговорочно требует программирования всего образа жизни зрелого человека и даже если в принципе невозможно создать цифровую машину на "афинский" лад (то есть если зрелый человеческий интеллект организован в терминах некоторого поля, которое в свою очередь определяется объектами, входящими в него, и которое подвержено радикальным изменениям),~ даже в этом случае остается открытым вопрос, до какой степени исследователям, работающим в области "искусственного интеллекта", с помощью используемых ими фрагментарных методов удастся приблизиться к разумному поведению человека. Для того чтобы наш анализ возможностей и ограничений "искусственного разума" был полным, мы должны теперь указать в общих чертах практические следствия, вытекающие из изложенных выше доводов.

Однако прежде чем перейти к практическим выводам, нам будет удобнее подразделить разумное поведение на четыре сферы. Наша задача затем будет состоять в определении того, в какой мере разумное поведение в каждой из этих сфер предполагает использование тех четырех форм "переработки информации" человеком, которые мы выделили в ч, I данной книги. Это даст нам возможность объяснить те успехи, которые были достигнуты до настоящего времени, и предсказать, в каких пределах мы вправе рассчитывать на прогресс в дальнейшем.

Можно выделить четыре типа разумного поведения (табл. 1). Как мы видели, первые два типа поддаются моделированию на

264Таблица 1

Классификация разумной деятельностиАссоциа­тивнаяII. Простая формальнаяllI. Сложная

формальнаяIV. Нефор­мальнаяХарактеристики деятельностиНезависимость

от смысла и ситуацииСмысл не зави­сит от ситуации

И ПОЛНОСТЬЮ

представим в точной формеВ принципе то же самое, что и в случае !!; на практике - зависимость от ситуации во внутреннем контексте; зависимость от внешней ситуации отсутствует. Обучение с помощью правил, а также практикиЗависимость от смысла и ситуа­ции, непредста­вимых в явном виде

Обучение с помощью непосредственно понимаемых примеровИгры на вспоминание, например "игра в города"

(ассоциации)

Лабиринтные задачи (метод

Проб И Ошибок)

Пословный перевод (использование машинного словаря)

Реакция на жесткий стимул (врожденные механизмыРазрешимые и квазиразреши- -мые игры, например "ним" или "крестики и нолики" (алгоритмы поиска или просчитывание)

Комбинаторные

задачи (неэвристический анализ в терминах "средств и целей")

Доказательство теорем с помощью машинно-автоматических процедур (алгоритмы поиска доказательств)

Распознавание простых четких образов, например чтение пе-Сложные комбинаторное задачи (планирование, анализ путей в лабиринте)

Доказательство теорем, для которых не существует машинно-автоматических процедур (интуиция и про-считывание)

Распознавание сложных образов при наличии шума (поискЗадачи с открытой структурой (интуиция, ин-сайт)

Перевод с одного естественного языка на другой (понимание языковых выражений в контексте их использования в языке)

Распознавание

видоизмененных и искаженных образов родовое265Продолжение таблицы 1Ассоциа­тивнаяII. Простая формальнаяIII. Сложная формальнаяIV. Нефор­мальнаяи классический условный реф-пеке)чатного текста закономернос-

(поиск призна- тей) ков, конъюнкция

которых определяет принадлежность к соответствующему классу)

Типы программразпознавание или

использование

парадигм)Дерево решений. Поиск по спискам. Сравнение

с образцомАлгоритмыЭвристики, служащие для сокращения перебораНикакихцифровой машине, в то время как третий тип лишь частично программируется, четвертый же абсолютно не программируем.

В сфере I лучше всего себя чувствуют психологи, занимающиеся изучением поведения, допускающего описание по схеме "стимул - реакция", К этой сфере относятся все виды элементарной ассоциативной деятельности, в которой смысл и контекст не играют никакой роли. Из всех видов поведения, запрограммированных на сегодняшний день, заучивание бессмысленных слогов представляет собой наиболее характерный пример поведения этого типа (хотя с тем же успехом здесь можно было бы привести любую форму условного рефлекса). Кроме того, к этой сфере принадлежат такие игры, как "игра в города" (она сводится к тому, что игрок называет город, начинающийся с той буквы, на которую оканчивается название города, предложенного предыдущим игроком). В области автоматического перевода этому классу соответствует уровень машинного словаря; в решении задач - программы чистого поиска методом проб и ошибок; в распознавании образов - сравнение входного образа с фиксированными стандартами. - ,

Сфера II соответствует esprit de geometrieque Б. Паскаля96;это излюбленная область "искусственного интеллекта". Она объемлет с 266В сфере И мы имеем дело не с естественным, а формальным

языком* наилучшим примером здесь служат логические исчисления.

Игры описываются точными правилами и допускают полное

просчитывание, как в случае игры "ним" или "крестики и

нолики". Распознавание на этом уровне происходит путем установления соответствия между опознаваемым образом и четко

определенными типами образов, которые задаются с помощью

списка признаков, характеризующих принадлежащие к рассматриваемому классу отдельные образы. Решение задач сводится к

сокращению расстояния между текущим состоянием и целью с

помощью последовательного применения формальных правил-

формальные системы, входящие в эту область, достаточно просты

и ими можно пользоваться с помощью таких алгоритмов, которые совершенно не требуют поисковых процедур (такова, например, логическая программа Хао Вана). Эвристики здесь не только

не нужны, они положительно мешают, как это легко видеть из

явного превосходства алгоритмической логической программы

Хао Вана над эвристической логической программой А.Ньюэлла,

Дж.Шоу и Г.Саймона. Только в этой сфере"искусственный интеллект" добился безоговорочных успехов.

Сфера III-область сложных формальных систем - труднее других поддается определению; именно с ней связано большинство недоразумений и трудностей, о которых говорилось в этой книге. В нее входят те формы поведения, которые в принципе воспроизводимы машиной, но на практике оказываются для нее недоступны; ибо по мере роста числа элементов число необходимых преобразований растет экспоненциально. Мы будем называть "сложными формальными системами" такие системы, к которым практически нельзя применить алгоритмы исчерпывающего перебора (шахматы и др.) и которые поэтому требуют использования эвристических программ*.

* Довольно трудно подвергнуть классификации и оценке всю совокупность разнообразных одноцелевых программ, разработанных для проектирования двигателей, наладки конвейерных линий, сборки узлов машин и

т. д. Эти программы имеют некоторое отношение к исследованиям в

области "искусственного интеллекта", однако считать их успешно выполняющими свое назначение можно только в том случае, если: а) проведено

сравнение их эффективности с работой человека-профессионала (как это

имеет место в случае шахматных и шашечных программ) и б) задачи, для

решения которых предназначены эти программы, в достаточной степени

формализованы (если это возможно), так что соответствующие программы можно сравнить с неэвристическими программами, составленными для

решения тех же задач, (Во всех случаях, когда такое сравнение удалось

произвести - игра в шашки, задачи из области логики, распознавание

образов, игра в шахматы,- неэвристические программы оказывались либо

эквивалентными по эффективности, либо более эффективными, чем эвристические.)

Следует заметить, что программы, моделирующие банковские операции или что-то в этом роде, не имеют никакого отношения ни к моделированию

267Сфера IV может быть названа областью неформального поведения. Сюда входят все те случаи повседневной деятельности в нашем человеческом мире, которые регулярны, но не подчиняются правилам. Самым ярким примером такой управляемой неточности является то, как мы справляемся с многозначностью естественного языка. В этот класс входят также игры, правила которых не определены, например отгадывание загадок. Распознавание образов в этом классе основывается на узнавании родовых, типических черт в рамках некоторой парадигмы. Задачи на этом уровне являются задачами с открытой структурой, для решения которых необходимо отыскание релевантных признаков и интуитивное постижение существенности тех или иных операций еще до того, как начинается процесс решения*. В этом случае методика обучения основывается обычно на обобщении примеров, а само обучение проводится на интуитивном уровне, без обращения к правилам. Можно было бы принять терминологию Б. Паскаля и назвать сферу IV обителью esprit de f itesse. Поскольку в этой сфере во избежание необходимости запоминания бесконечно большого числа фактов требуется учет глобального чувства ситуации, использование дискретных методов для непосредственного воспроизведения поведения взрослого человека оказывается невозможным. Заметим, что сведение всех четырех сфер в единую таблицу уже само по себе может породить неверный взгляд на эту сферу, поскольку может вызвать ощущение, будто она отличается от сферы III просто добавлением некоторого более высокого

процессов познания, ни к "искусственному интеллекту". Они просто свидетельствуют о том, что некоторые формы человеческой деятельности столь просты и стереотипны, что их можно формализовать. Несомненно, при формулировании правил, которыми должны руководствоваться вкладчики, составляя перечень ценных бумаг, дело не обходится без интеллекта; однако формализация этих правил говорит лишь о том, что они представимы в точной и недвусмысленной форме, и никак не помогает проникнуть в процессы интеллекта, связанные с их определением или применением. Стоящие перед искусственным интеллектом проблемы относятся не к такого рода ex post facto формализациям конкретных задач - они лежат в сфере Ц, для которой формализация сама по себе достаточно сложна и поэтому требует элегантных методов для ее проведения, -а к сфере Ш, где формальные системы настолько сложны, что для них не существует разрешающих процедур и приходится прибегать к помощи эвристик, и к сфере IV, характеризующейся гибким поведением, которое не может быть строго формализовано,

*Типы деятельности, попадающие в сферу IV, можно представить себе в виде тех самых "вех", которых требовал П.Армер: "Для этой цели нам нужна четко сформулированная задача, представляющая в настоящий момент исключительно объект деятельности человека (и поэтому она должна быть, несомненно, из области мышления), но такая, чтобы мы могли надеяться на ее решение в будущем с помощью машины" (П.Армер. О возможностях кибернетических систем. - В кн.: М. Т а у б е. Вычислительные машины и здравый смысл. Миф о думающих машинах. М-, 1964, с. 170),

268уровня сложности, в то время как на самом деле сфера IV имеет совершенно иную природу, нежели сфера III. Она отнюдь не более сложна; по сути дела, она даже более примитивна, предшествуя, с точки зрения эволюционной, онтогенетической и феноменологической, сферам II и III, точно так же как естественный язык предшествует математике.

В литературе по "искусственному интеллекту" эти четыре сферы обычно не различаются97- Например, А.Ньюэлл, Дж.Шоу и Г.Саймон заявляют, что их машина "Логик-теоретик" "была разработана для того, чтобы изучить возможность решения таких трудных задач, как доказательство математических теорем [сферы II или IIJL - Х.Д.], выявление научных законов в совокупности опытных данных [сферы III или IV. - Х.Д. ], игра в шахматы [сфера III.- Х.Д. ] или понимание смысла английской прозы [сфера IV. - Х.Д-Г*- Принятие тезиса (ясно выраженного Арме-ром из корпорации RAND), согласно которому все формы разумного поведения принадлежат к одному и тому же типу, позволило упомянутым исследователям на базе успехов, достигнутых в первых двух рассмотренных нами сферах, прийти к необоснованным надеждам на успех в двух остальных.

Такого рода путаница таит в себе двоякую опасность. Во-первых, существует тенденция (ее типичный представитель Г.Саймон) полагать, что эвристики, обнаруживаемые в одной области разумной деятельности, например в доказательстве теорем, должны что-то говорить нам о "переработке информации" в любой другой области, такой, например, как понимание естественного языка. Тем самым некоторые простые формы переработки информации, применимые в сферах I и II, навязываются и сфере IV, в то время как уникальный по своему характеру тип "переработки информации", присущий этой сфере, а именно тот факт, что "данные" вообще не "перерабатываются", остается незамеченным. В результате та самая проблема экспоненциального роста, которая приводит к трудностям при распространении методов, применяемых в сферах I и II, на сферу III, возникает и при попытках моделирования поведения, характерногодля сферы IV**.

*А. Ньюэлп, Дж. Шоу и Г. Саймон. Эмпирические исследования машины "Логик-теоретик"; пример изучения эвристики. - В кн.: Вычислительные машины И'Мышление, с. 113.

** "Преграда... стоящая на пути дальнейшего развития семантических информационно-поисковых систем, - это та же преграда, на которую мы наталкиваемся в программах по доказательству теорем, в программировании игр и других областях "искусственного интеллекта": проблема поиска в экспоненциально растущем пространстве возможных решений. Здесь не существует никаких коренных переформулировок этой проблемы - переформулировок, которые дали бы возможность обойти тот чисто математи-

269Во-вторых, существует и обратная опасность. Успехи "искусственного интеллекта" в сфере II во многом зависят от того,

насколько удастся ограничить рассмотрение только дискретными,

определенными, не зависящими от контекста ситуациями. В связи

с тем, что сложные системы из сферы III, так же как и простые

системы из сферы II, полностью формализуемы, у исследователя,

занятого построением моделей, складывается впечатление, что тот

или иной тип поведения, принадлежащий сфере III, воспроизводим на цифровой машине. А когда различие в степени между

простым и сложным оказывается на практике различием в

качестве (т. е. когда экспоненциальный рост превращается в

серьезную проблему), тогда программист, не отдавая себе отчета

в особенностях, характерных для этих двух сфер, пытается в

сфере III ввести в рассмотрение процедуры, заимствованные из

наблюдений за человеческой деятельностью, принадлежащей сфере

IV (например, за тем, как человек оценивает позиции в шахматах,

решает задачи, используя понятия о целях и средствах, и апеллирует к смыслу при доказательстве теорем). Однако эти процедуры, когда ими пользуется человек, зависят от одной или нескольких специфически человеческих форм "переработки информации"; так, использование шахматных эвристик предполагает- по крайней мере у человека - феномен восприятия, с помощью периферийного сознания, сильных и слабых сторон позиции; проведение анализа в терминах "средств и целей" рано или поздно делает необходимым планирование, а тем самым и отделение существенных операций от несущественных; для семантических же рассмотрений требуется чувство контекста»

Математик-программист уверен, что сфера III в принципе формализуема- точно так же как сфера II. Он не отдает себе отчета в том, что, перенося методы, практикуемые в сфере IV, на сферу III, он распространяет на отношение между ними - отношение, характеризующееся скачком,- то свойство непрерывности, которое присуще отношению между сферами И и III, что влечет за собой все те трудности, которые связаны с формализацией неформального поведения. Таким образом, проблемы, которые в принципе должны возникать только при попытках программирования задач "с плохой структурой", то есть "открытых" видов деятельности, встречающихся в повседневной жизни,- проблемы эти возникают в практике обращения со сложными формальными системами. Поскольку в сфере III совершенно четко можно сформулировать, какие данные считаются имеющими отношение к делу, а какие нет, здесь до некоторой степени могут работать

ческий факт, что число возможных связей, соединяющих различные элементы, есть экспоненциальная функция от числа рассматриваемых элементов" (Raphael- SIR: Semantic Information Retrieval.-In: M.M insky (ed.). Semantic Information Processing, p. 114).

270эвристики (как в шашечной программе А. Сэмюэля). Однако поскольку сфера IV представляет собой именно ту область

разумного поведения, е которой всякая попытка программирования для цифровой машины полностью сформированного поведения взрослого человека обречена на неудачу, неизбежное в сфере III обращение к эвристикам, подразумевающим возможности сферы IV, рано или поздно обязательно приводит к трудностям. Как далеко может продвинуться эвристическое программирование в сфере III, прежде чем оно натолкнется на препятствия, связанные с необходимостью введения в рассмотрение периферийного сознания, феномена "допустимой неоднозначности", способности к отделению существенного от несущественного и т. д.,

представляет собой чисто эмпирический вопрос. Тем не менее,

как мы видели, существуют некоторые признаки, свидетельствующие уже сейчас о существовании препятствий на этом пути: это неудавшиеся попытки создания машинного "шахматного чемпиона", машинного доказательства какой-нибудь интересной теоремы, автоматического перевода с одного естественного языка на другой и, кроме того, отказ от дальнейшей работы над программой GPS.

Однако в сфере IV имеются некоторые средства сокращения

перебора, которые могут быть использованы для продвижения в

решении задач, относящихся к сфере Ш,- средства, не предполагающие упомянутых человеческих процессов "переработки информации", которые не могут быть воспроизведены какой-либо программой, организованной в соответствии с принципами древних афинян

Чтобы преодолеть тот застой, который наблюдается сейчас в сфере III, требуется, по-видимому, использование следующих более совершенных методов,

1. Поскольку современные вычислительные машины, включая даже примитивные роботы типа "глаз - рука", не имеют тела - в том смысле, в каком это описано в гл. 7,- и поскольку никто не понимает и не имеет ни малейшего представления о том, как заложить в программу ту глобальную организацию и оперирование с неопределенностями, которые столь характерны для человеческого восприятия и для приобретения человеком связанных с телом умений и навыков, мы можем в настоящее время рассчитывать на реализацию только какого-то грубого, целостного первичного процесса, являющегося некоторым приближением к человеческой способности концентрировать внимание на том или ином участке поля жизненного опыта еще до того, как начинаются точные, подчиняющиеся правилам манипуляции и просчитывание. Это, однако, не означает добавления новых точных способов выявления тех областей, которые заслуживают дальнейшего исследования. Например, в случае шахматных программ ныне

271становится все более очевидным, что введение в программу порождения приемлемых ходов все новых и новых конкретных элементов шахматной теории приводит к тому, что программа захлебывается от изобилия подпрограмм, реализующих соответствующие искусственные приемы. (Как считает А, Сэмюэль*, именно этим объясняется отсутствие сообщений о новых результатах работы над шахматной программой Р. Гринблата.) Программе чего-то не хватает, а именно того, что соответствует умению мастера воспринимать позицию на доске как распадающуюся на систему многообещающих и опасных зон.

На что именно мог бы походить такой "холистский" процесс, сказать трудно, особенно если принять во внимание дискретную природу любой машинной вычислительной процедуры. Сейчас, по-видимому, здесь конкурируют две различные идеи. Когда М. Минский и СаПейперт говорят об отыскании "глобальных признаков", они, вероятно, имеют в виду нахождение некоторых поддающихся выделению и вполне определенных отличительных особенностей образа (примером может служить тот или иной угол, под которым пересекаются две линии), которые позволяли бы программе строить обоснованные догадки об образе в целом. Это приводит просто к введению дополнительных эвристик и не представляет собой ничего интересного с точки зрения целостного взгляда на объекты и образы. Но вот предложение У.Ниссера, выдвинутое им в ходе рассмотрения проблемы предварительного разбиения на части предъявляемых для распознавания контуров изображения - предварительного в том смысле, что оно должно предшествовать более подробному его анализу,- претендует на нечто большее.

"Поскольку процесс сосредоточения внимания не может одновременно охватить все зрительное поле, он должен происходить только после того, как отдельные зрительные элементы образа уже выделены с помощью некоторых предварительных операций. Эти предварительные операции сами по себе представляют значительный интерес. Они частично соответствуют тому, что гештальтпсихологи называют "автохтонными силами"; результатом их является то, что Хебб называет "первичными единицами"- Я буду называть их процессами предвнимания, с целью подчеркнуть, что получающиеся в их результате объекты предстоит еще наполнить содержанием и найти их интерпретацию.

Из самой постановки этой задачи следует, что процессы предвнимания должны быть по-настоящему "глобальными" и "целостными". Каждая фигура и каждый объект должны быть отделены от всех остальных во всей своей цельности, образуя потенциальную рамку для последующего более детального анализа, проводимого на основе концентрации внимания"**.

Однако, когда У.Ниссер переходит к объяснению того, как* Эта мысль была высказана им на лекции в Калифорнийском университете в Беркли в марте 1970 г.

U, N е i s s e r. Cognitive Psychology, p. 89.

272такое первое грубое приближение должно осуществляться на цифровой машине, нас ждет разочарование. Очевидно, он имеет в виду только "подчищающие" эвристики, которые, по неявному его допущению, начинают работать только после того, как границы образов оказываются уже довольно четко обозначены, "При условии, что отдельные элементы образа имеют непрерывные контуры, или что между этими элементами существуют пустые пространства, разделение элементов осуществляется очень простыми операциями. Например, машинные программы, прослеживающие линии или обнаруживающие пустоты, не более сложны, чем те, которые заполняют пропуски и подправляют локальные отклонения"*. Но ведь эти методы оказываются неэффективными, например в случае распознавания рукописного текста.

Конечно, трудно предложить хоть что-нибудь взамен этого.

Речь идет о способе обращения к полю жизненного опыта еще до того, как оно оказывается разбитым на отдельные четко выделенные объекты; однако такого рода предобъектный жизненный опыт лежит вне пределов досягаемости цифрового устройства. Вычислительная машина должна применять специфицированные правила к четко определенным данным; если задача заключается в том, чтобы сначала выделить эти четко определенные данные, то программисту приходится задуматься над проблемой применения четко определенных правил к чему-то вроде расплывающейся кляксы.

Следовательно, лучшее, на что мы можем рассчитывать в своих попытках обойти способы действия, характерные для сферы IV,- это, вероятно, такого рода хитроумные эвристики, которые предлагают М. Минский и С.Пейперт для того, чтобы дать программе возможность уже при первом просмотре выбрать некоторые конкретные признаки - признаки, которые впоследствии должны оказаться полезными для управления работой программы, когда она будет производить более подробный анализ образа. Но применение приемов ad hoc всегда чревато опасностью выхода за пределы обозримости программы и уж во всяком случае никогда не может дать той общности и гибкости, которая свойственна глобальной ответной реакции человека.

2. Вторая трудность проявляется в связи с представлением задачи в машинной системе. Она отражает потребность в отделении существенного от несущественного. Обсуждая проблемы, стоявшие перед исследователями, работавшими в области "искусственного интеллекта" во втором десятилетии, Э. Фейген-баум называет данную проблему "важнейшей, хотя и не поддаю-

*Ibid

273щейся самому быстрому решению"*. Он следующим образом объясняет сущность этой проблемы:

"В эвристических программах решения проблем предусматривается, что поиск решения в пространстве задачи направляется и контролируется эвристическими правилами. Представление, задающее пространство задачи, определяется отношением исследователя к данной проблеме, его точкой зрения, и оно же предопределяет вид решения. Выбрав для задачи удачный способ представления, можно существенно повысить эффективность процессов поиска решения. Выбор способа представления задачи является уделом разрабатывающего программу исследователя и есть акт творческий" *

Это тот самый род деятельности, который мы назвали нахождением глубинной структуры задачи или инсайтом, Поскольку современные вычислительные машины, включая современные примитивные роботы, не обладают потребностями в том смысле, в каком мы их трактовали в гл. 9, а также поскольку никто на свете не имеет ни малейшего представления о том, как ввести такие потребности в машину, в настоящее время нет никакой надежды обойтись без этого "творческого акта". На данном этапе мы можем рассчитывать в лучшем случае на разработку программ с конкретными конечными целями, программ, служащих для активной организации данных, а не просто пассивно воспринимающих их. Программисты отмечают, что при анализе сложных сцен целесообразно заставить программу сформулировать некоторую гипотезу о том, что она могла бы обнаружить, исходя из уже имеющихся у нее данных, и затем организовать поиск в соответствии с этой гипотезой. Этот процесс не следует путать с тем, как человек организует нечто, принимаемое им за данное, в терминах поля своих намерений. Все, на что можно рассчитывать,- это на фиксированные правила в применении к фиксированным данным; другими словами, в программу должно быть заложено множество альтернатив, и на основе уже имеющихся данных она должна уметь произвести выбор одной из этих альтернатив - наиболее вероятной - с тем, чтобы дальнейший поиск данных происходил в соответствии с прогнозом, заключенным в альтернативе.

Таким образом, в игровые программы и в программы для решения задач можно будет встроить конкретные долговременные цели или набор альтернативных долговременных целей, так чтобы в некоторых ситуациях машина делала попытку использо> вать некоторые стратегии (и предсказывать стратегии противника) . Конечно, этот метод не устраняет ограничения, связанного с тем, что все альтернативы должны быть заранее введены в память машины и в явной форме учитываться в определенных

*Э. Фейгенбаум. Искусственный интеллект; темь» исследований во втором десятилетии развития. - Кибернетический сборник, новая серия, вып( 10, с. 194.

**Там же,

274