3.Каграманова М.С. "Р.Луллий и тест Тьюринга"

Исторический очерк

Человек - это самый сложный из доступных для нашего восприятия объект, а способность мышления - его главное свойство - атрибут. Искусственный интеллект - наука, поставившая своей целью изучение и моделирование атрибута человека. Какова природа мышления? Какие процессы происходят в нашем организме, когда мы думаем, чувствуем, видим, понимаем? Возможно ли в принципе понять, как работает наш мозг, и заставить мыслить неживую природу? На протяжении тысячелетий человек задавался этими вопросами, но до сих пор мы не можем на них ответить с полной определенностью.

История попыток создания искусственного подобия человеческого разума насчитывает более 700 лет. Первую зафиксированную в истории попытку создания машины, моделирующей человеческий разум, связывают с именем испанского рыцаря, поэта, философа, богослова, алхимика, изобретателя Раймунда Луллия. В возрасте 80 лет он был насмерть забит камнями. Это случилось при неудачной попытке чтения лекций по искусственному интеллекту.

Луллий родился в 1235 и умер в 1315 г. В его времена ученые были заняты поиском неких универсальных понятий и истин, которые, будучи связанными между собой, давали бы общую картину мироздания, а значит, и ответы на все интересующие человечество вопросы. Это был век философов-мудрецов, астрологов и алхимиков, занятых поисками философского камня.

Развивая традиции ученых своего времени, Луллий сконструировал машину, состоявшую из системы кругов, имевших возможность вращаться. Каждый круг был поделен, на секторы, окрашенные в разные цвета и помеченные латинскими буквами. Круги соединялись друг с другом, и, приводя их во вращение, можно было получить различные сочетания символов и цветов - так называемую формулу истины.

Машины Луллия могли работать в различных предметных областях и давать ответы на всевозможные вопросы, составлять гороскопы, ставить диагнозы болезней, делать прогнозы на урожай. В наиболее позднем варианте машина Луллия состояла из 14 кругов, размеченных буквами и раскрашенных в различные цвета, которые символизировали различные понятия, элементы, стихии, субъекты и объекты знания. Круги приводились в движение системой рычагов. Поворачиваясь, они могли образовывать около 18 квадриллионов (18 o 1015) разнообразных сочетаний буквенных и цветовых "истин". Запросы в машину вводились с помощью поворота внутреннего круга, на котором было начертано девять вариантов вопросов: Что? Почему? Из чего? Сколько? Каким образом? Где? Когда? Какое? Которое из двух?

Выражаясь современным языком, машина Луллия, по существу, представляла собой механическую экспертную систему, наделенную базой знаний, устройствами ввода и вывода, естественным языком общения. Свести к логическим операциям если не все знания о мире, то хотя бы часть из них, а затем поручить не человеческому мозгу, а механическому устройству процедуру вывода "формул знания", следующих из накопленной базы знаний, - эта идея искусственного интеллекта, впервые высказанная и реализованная средневековым рыцарем Раймундом Луллием, прожила семь веков и достигла в наши дни своего расцвета и триумфа.

В 40-х годах XX в. с появлением электронно-вычислительных машин искусственный интеллект обрел второе рождение. Произошло выделение искусственного интеллекта в самостоятельное научное направление. Сам термин "искусственный интеллект" (artifical intelligence) был предложен в 1956 г. на семинаре с аналогичным названием в Станфордском университете (США).

С тех пор история искусственного интеллекта представляла собой постоянные споры и метания между двумя крайностями - оптимизмом и пессимизмом. Интересны знаменитые предсказания американского экономиста и социолога, исследователя в области теории управления, моделирования социальных процессов Г. Саймона, сделанные в 1957 г. Приведем некоторые из них:

· в ближайшее десятилетие ЭВМ завоюет титул чемпиона мира по шахматам;

· в пределах десяти лет ЭВМ откроет и сумеет доказать важную новую математическую теорему;

· в десятилетний срок большинство теорий в области психологии примет вид программ для вычислительной машины.

Сейчас, спустя почти полвека, мы видим, что предсказания Саймона постепенно сбываются, что он ошибался только в сроках. Мы также можем отметить, что эйфория вокруг молодой кибернетики имела как положительные, так и отрицательные последствия. С одной стороны, она стимулировала интерес общественности к новому научному направлению, выразившийся в выделении крупных грантов правительством США. С другой стороны, кибернетика стала объектом весьма резкой критики более "трезво мыслящих" ученых. Мы также знаем, к каким тяжелым последствиям привела эта критика, в СССР, когда за решение проблем научных дискуссий взялся государственный репрессивный аппарат.

Вскоре после признания искусственного интеллекта самостоятельной отраслью науки произошло его разделение на два основных направления: нейрокибернетику и кибернетику "черного ящика". Первое из этих направлений иногда называют низкоуровневым, или восходящим, а второе - высокоуровневым, или нисходящим.

Основную идею нейрокибернетики можно сформулировать следующим образом. Единственный объект, способный мыслить, - это человеческий мозг. Поэтому любое мыслящее устройство должно быть обязательно выполнено по образу и подобию человеческого мозга, воспроизводить его структуру, его принцип действия. Таким образом, нейрокибернетика занимается аппаратным моделированием структуры мозга и его деятельности.

Как известно, мозг человека состоит из большого количества взаимосвязанных нервных клеток - нейронов. Поэтому усилия нейрокибернетиков сосредоточены на разработке элементов, подобных нейронам, и объединении этих элементов в системы - нейросети и нейрокомпьютеры. Первые нейросети и нейрокомпьютеры были предложены и созданы американскими учеными В. Мак-Каллоком, В.Питтсом и Ф. Розенблаттом в конце 1950-х годов. Это были устройства, моделирующие человеческий глаз и его взаимодействие с мозгом. Устройства умели распознавать буквы алфавита, однако были чувствительны к их написанию.

Сегодня нейрокомпьютерные и нейросетевые технологии являются одним из наиболее перспективных и быстро развивающихся разделов искусственного интеллекта. Крупных успехов в этой области добились японские исследователи. Ими создан компьютер VI поколения - нейрокомпьютер, моделирующий структуру мозга и имеющий обширную базу знаний. Значительных успехов в этой области добились российские ученые. Отечественные нейрокомпьютеры уже давно применяются для управления сложными техническими объектами военного назначения.

В отличие от нейрокибернетики кибернетика "черного ящика" не придает значения принципу действия мыслящего устройства. Главное, чтобы оно адекватно моделировало его функциональную деятельность. Это направление искусственного интеллекта ориентировано на поиски алгоритмов решения интеллектуальных задач с использованием существующих компьютеров независимо от их аппаратной базы.

Поставив перед собой задачу моделирования функций мозга, ученые столкнулись с серьезной проблемой. Оказалось, что несмотря на многовековую историю исследований ни одна из существующих наук (философия, психология, лингвистика и др.) не смогла предложить сколько-нибудь конкретный алгоритм человеческого мышления. Поэтому кибернетикам пришлось создавать собственные модели мышления.

В конце 50-х гг. XX в. появилась модель лабиринтного поиска. Согласно этому подходу решение интеллектуальной задачи выполнялось путем перебора огромного количества вариантов, который представлялся в виде движения по лабиринту. Создание таких алгоритмов, по словам их критиков, было не более разумно, чем попытки заново написать все книги, хранящиеся в Британском музее, посадив за пишущие машинки обезьян и надеясь, что обезьяны рано или поздно чисто случайно сумеют напечатать осмысленное слово, фразу или страницу. В настоящее время модель лабиринтного поиска признается тупиковой и имеет ограниченное использование в игровых компьютерных программах.

В начале 1960-х гг. началась эпоха эвристического программирования. Как писал автор этого термина американский математик Пойа, цель эвристики - исследовать методы и правила, как делать открытия и изобретения. Это очень сложная проблема. Дело в том, что Архимед, выпрыгнувший из ванны с криком "Эврика!", не объяснил, каким образом он догадался, что тело, погруженное в жидкость, теряет в своем весе ровно столько, сколько весит вытесненный им объем воды. Ньютон открыл закон всемирного тяготения, наблюдая за падением яблока. Менделеев пришел к принципу построения периодической таблицы во сне. Поэтов и музыкантов вдохновляют к творческим поискам возвышенные чувства, разобраться в которых в принципе не возможно.

Чтобы понять механизмы творческого мышления, авторы эвристического подхода провели эксперимент. Была отобрана группа студентов, не знакомых с математической логикой. Каждый студент должен был доказать самостоятельно одну или несколько теорем из учебника, не заглядывая в него. При этом ему вменялось в обязанность рассуждать вслух, делать любые записи, прекращать работу, если становилось ясно, что выбран неверный путь, и начинать все сначала.

Обработав магнитофонные записи, выкладки, черновики студентов, программисты нашли эвристики - способы, которыми пользовались студенты, доказывая теоремы. А затем с помощью этих эвристик была составлена программа, известная под названием "Логик-теоретик", которую принято считать родоначальницей эвристического программирования. И эта программа доказала все теоремы, какие были в учебнике, и сформулировала дополнительно те, которых не хватало до полной логической завершенности курса.

Наряду с указанными выше двумя подходами к проблеме моделирования мышления и создания искусственного интеллекта существует третий, названный эволюционным программированием (моделированием). Смысл этого подхода состоит в том, что процесс моделирования человека заменяется моделированием процесса его эволюции.

Серьезный прорыв в практических приложениях искусственного интеллекта произошел в середине 1970-х гг., когда, отказавшись от поисков универсального алгоритма мышления, программисты начали моделировать конкретные знания специалистов-экспертов. Открылось новое направление искусственного интеллекта - экспертные системы. С появлением экспертных систем бизнес в сфере интеллектуальных информационных технологий впервые становится рентабельным.

С середины 1980-х гг. искусственный интеллект - это одно из наиболее привлекательных в коммерческом отношении направлений компьютерной индустрии. Растут ежегодные капиталовложения, создаются промышленные и военные экспертные системы. В качестве альтернативы экспертным системам появляются и успешно завоевывают рынок нейросетевые и нейрокомпьютерные технологии, в которых, подобно процессам, происходящим в мозгу, знания растворяются в межнейронных связях, а процесс программирования системы заменяется ее обучением.

Подходы к пониманию идеи искусственного интеллекта. Тест Тьюринга.

Одна из первых работ, посвященных вопросу о машинном разуме в отношении современных цифровых компьютеров, "Вычислительные машины и интеллект" была написана в 1950 г (на русском языке она опубликована под названием "Могут ли машины мыслить?"). Даже сейчас, спустя почти 50 лет после ее написания, она, вызвавшая в свое время огромное количество как серьезных исследований, так и псевдонаучных спекуляций, нисколько не утеряла своего значения. Статья написана с юмором и иронией ("словно между строк стоят смайлики, по словам Э.Ходжеса, биографа Тьюринга), но за шутливым тоном изложения скрываются одни из самых оригинальных и глубоких идей, высказанных в уходящем веке."Игра в имитацию", описанная в этой статье, получила название "теста Тьюринга" (ставшего стандартным теоретическим тестом на "интеллектуальность машины"), который, помимо специалистов по кибернетике, интересовал и некоторых психиатров, усмотревших глубинный психоаналитический смысл в цели игры ("угадывание пола").

Она не теряет актуальности, как по части аргументов против возможности создания разумной вычислительной машины, так и по части ответов на них. Тьюринг, известный в основном благодаря своим трудам по теории вычислимости, рассмотрел вопрос о том, можно ли заставить машину действительно думать. Отмечая, что фундаментальная неопределенность в самом вопросе (что такое "думать"? что такое "машина"?) исключает возможность рационального ответа, он предложил заменить вопрос об интеллекте более четко определенным эмпирическим тестом.

Тест Тьюринга сравнивает способности предположительно разумной машины со способностями человека- лучшим и единственным стандартом разумного поведения. В тесте, который Тьюринг назвал "имитационной игрой", машину и ее человеческого соперника (следователя) помещают в разные комнаты, отделенные от комнаты, в которой находится "имитатор". Следователь не должен видеть их или говорить с ними напрямую - он сообщается с ними исключительно с помощью текстового устройства, например, компьютерного терминала. Следователь должен отличить компьютер от человека исключительно на основе их ответов на вопросы, задаваемые через это устройство. Если же следователь не может отличить машину от человека, тогда, утверждает Тьюринг, машину можно считать разумной.

Изолируя следователя от машины и другого человека, тест исключает предвзятое отношение- на решение следователя не будет влиять вид машины или ее электронный голос. Следователь волен задавать любые вопросы, не важно, насколько окольные или косвенные, пытаясь раскрыть "личность" компьютера. Например, следователь может попросить обоих подопытных осуществить довольно сложный арифметический подсчет, предполагая, что компьютер скорее даст верный ответ, чем человек. Чтобы обмануть эту стратегию, компьютер должен знать, когда ему следует выдать ошибочное число, чтобы показаться человеком. Чтобы обнаружить человеческое поведение на основе эмоциональной природы, следователь может попросить обоих субъектов высказаться по поводу стихотворения или картины. Компьютер в таком случае должен знать об эмоциональном складе человеческих существ.

Этот тест имеет следующие важные особенности.

1. Дает объективное понятие об интеллекте, т.е. реакции заведомо разумного существа на определенный набор вопросов. Таким образом, вводится стандарт для определения интеллекта, который предотвращает неминуемые дебаты об "истинности" его природы.

2. Препятствует заведению нас в тупик сбивающими с толку и пока безответными вопросами, такими как: должен ли компьютер использовать какие-то конкретные внутренние процессы, или же должна ли машина по-настоящему осознавать свои действия.

3. Исключает предвзятость в пользу живых существ, заставляя опрашивающего сфокусироваться исключительно на содержании ответов на вопросы.

Благодаря этим преимуществам, тест Тьюринга представляет собой хорошую основу для многих схем, которые используются на практике для испытания современных интеллектуальных программ. Программа, потенциально достигшая разумности в какой-либо предметной области, может быть испытана сравнением ее способностей по решению данного множества проблем со способностями человеческого эксперта. Этот метод испытания всего лишь вариация на тему теста Тьюринга: группу людей просят сравнить "вслепую" ответы компьютера и человека. Как видим, эта методика стала неотъемлемым инструментом как при разработке, так и при проверке современных экспертных систем.

Тест Тьюринга, несмотря на свою интуитивную притягательность, уязвим для многих оправданных нападок. Одно из наиболее слабых мест- пристрастие в пользу чисто символьных задач. Тест не затрагивает способностей, требующих навыков перцепции или ловкости рук, хотя подобные аспекты являются важными составляющими человеческого интеллекта. Иногда же, напротив, тест Тьюринга обвиняют в попытках втиснуть машинный интеллект в форму интеллекта человеческого. Быть может, машинный интеллект просто настолько отличается от человеческого, что проверять его человеческими критериями - фундаментальная ошибка? Нужна ли нам, в самом деле, машина, которая бы решала математические задачи так же медленно и неточно, как человек? Не должна ли разумная машина извлекать выгоду из своих преимуществ, таких как большая, быстрая, надежная память, и не пытаться сымитировать человеческое познание? На самом деле, многие современные практики ИИ говорят, что разработка систем, которые бы выдерживали всесторонний тест Тьюринга, - это ошибка, отвлекающая нас от более важных, насущных задач: разработки универсальных теорий, объясняющих механизмы интеллекта людей и машин и применение этих теорий к проектированию инструментов для решения конкретных практических проблем. Все же тест Тьюринга представляется нам важной составляющей в тестировании и "аттестации" современных интеллектуальных программ.

Тьюринг также затронул проблему осуществимости построения интеллектуальной программы на базе цифрового компьютера. Размышляя в терминах конкретной вычислительной модели (электронной цифровой машины с дискретными состояниями), он сделал несколько хорошо обоснованных предположений касательно ее объема памяти, сложности программы и основных принципов проектирования такой системы. Наконец, он рассмотрел множество моральных, философских и научных возражений возможности создания такой программы средствами современной технологии.

В своей работе Тьюринг уверен, что через пятьдесят лет станет возможным программировать работу машин с емкостью памяти около 106 так, чтобы они могли играть в имитацию настолько успешно, что шансы среднего человека установить присутствие машины через пять минут после того, как он начнет задавать вопросы, не поднимались бы выше 70%. Первоначальный вопрос "Могут ли машины мыслить?" он считает слишком неосмысленным, чтобы он заслуживал рассмотрения. Тем не менее он был убежден, что к концу XX века употребление слов и мнения, разделяемые большинством образованных людей, изменятся настолько, что можно будет говорить о мыслящих машинах, не боясь, что тебя поймут неправильно. Более того, Тьюринг считает вредным скрывать такие убеждения. Как мы сейчас можем видеть Тьюринг в своих расчетах ошибся.

Здесь мы приведем несколько возражений, рассмотренных самим Тьюрингом в статье "Могут ли машины мыслить?"

1. Теологическое возражение

"Мышление есть свойство бессмертной души человека, Бог дал бессмертную душу каждому мужчине и каждой женщине, но не дал души никакому другому животному и машинам. Следовательно, ни животное, ни машина не могут мыслить".

Однако данное возражение было бы более убедительным, если бы животные были отнесены в один класс с людьми, ибо, между типичным одушевленным и типичным неодушевленным предметами имеется большее различие, чем между человеком и другими животными. К тому же это возражение является необоснованным. Как, например, христиане отнесутся к точке зрения мусульман, считающих, что у женщин нет души?

2. Математическое возражение

Заключается в том, что если в игру в имитацию играет две машины, одна из которых(X) должна спросить у другой(Y) "Будет ли машина Y всегда отвечать "да" на любой вопрос? ", то ответ будет либо неверным, либо его вовсе не будет. В этом и состоит математический результат; утверждают, будто он доказывает ограниченность возможностей машин, которая не присуща разуму человека.

Здесь речь идет о так называемых (в современной терминологии) алгоритмически неразрешимых проблемах. Вот пример неразрешимой проблемы. Требуется составить программу U, которая бы по любому подаваемому ей на вход файлу X, содержащему текст программы, определяла бы, остановится ли когда-нибудь программа из файла Х в процессе своей работы, получив на вход известные данные, или "зациклится". Если программа Х зациклится, то программа U должна показать на экране фотографию юноши, иначе - девушки, после чего закончить свою работу. Оказывается, написать эту "проверяющую программу" U невозможно в принципе (даже если допустить, что компьютер, на котором выполняется U, имеет сколь угодно большую память и может работать неограниченно (астрономически) долгое время). Приведенный пример (так называемая "неразрешимость проблемы остановки") впервые был рассмотрен в работе Тьюринга 1936 г. - в то время, когда еще не было никаких компьютеров и программ для них!

3. Возражение с точки зрения сознания

Это возражение особенно ярко выражено в выступлении профессора Джефферсона на Листеровских чтениях за 1949 год: "До тех пор, пока машина не сможет написать сонет или сочинить музыкальное произведение, побуждаемая к тому собственными мыслями и эмоциями, а не за счет случайного совпадения символов, мы не можем согласиться с тем, что она равносильна мозгу, т.е. что она может не только написать эти вещи, но и понять то, что ею написано. Ни один механизм не может чувствовать (а не просто искусственно сигналить, для чего требуется достаточно несложное устройство) радость от своих успехов, горе от постигших его неудач, удовольствие от лести, огорчение из-за совершенной ошибки, не может быть очарованным противоположным полом, не может сердиться или быть удрученным, если ему не удается добиться желаемого". Согласно самой крайней форме этого взгляда, единственный способ, с помощью которого можно удостовериться в том, что машина может мыслить, состоит в том, чтобы стать машиной и осознавать процесс собственного мышления. Свои переживания можно было бы потом описать другим, но, конечно, подобное сообщение никого бы не удовлетворило. Точно так же, если следовать этому взгляду, то окажется, что единственный способ убедиться в том, что данный человек действительно мыслит, состоит в том, чтобы стать именно этим человеком. Быть может, подобные воззрения весьма логичны, но если исходить из них, то обмен идеями становится весьма затруднительным. Согласно этой точке зрения, А обязан думать, что "А мыслит, а В нет", в то время как В убежден в том, что "В мыслит, а А нет". Вместо того чтобы постоянно спорить по этому вопросу, обычно принимают вежливое соглашение о том, что мыслят все.

4. Возражение леди Лавлейс

В своем возражении леди Лавлейс высказывает такую мысль: "Аналитическая машина не претендует на то, чтобы создавать что-то действительно новое. Машина может выполнить все то, что мы умеем ей предписать".

5. Возражение с точки зрения неформальности поведения человека

Невозможно выработать правила, предписывающие, что именно должен делать человек во всех случаях, при всевозможных обстоятельствах. Например, пусть имеется правило, согласно которому человеку следует остановиться, если включен красный свет светофора, и продолжать движение, если свет зеленый; но как быть, если по ошибке оба световых сигнала появятся одновременно? По-видимому, безопаснее всего остановиться. Однако это решение в дальнейшем может быть источником каких-либо новых затруднений. Рассуждая так, мы приходим к заключению, что любая попытка сформулировать правила действия, предусматривающие любой возможный случай, обречена на провал, даже если ограничиться областью транспортной сигнализации.

Справедливо замечание, что управляющая логика, используемая в большинстве традиционных компьютерных программ, не проявляет великой гибкости или силы воображения, но неверно, что все программы должны писаться подобным образом. Большая часть работ в сфере ИИ за последние 25 лет была направлена на разработку таких языков программирования и моделей, призванных устранить упомянутый недостаток, как продукционные системы, объектные системы, сетевые представления и другие модели.

Современные программы ИИ обычно состоят из набора модульных компонентов, или правил поведения, которые не выполняются в жестко заданном порядке, а активизируются по мере надобности в зависимости от структуры конкретной задачи. Системы обнаружения совпадений позволяют применять общие правила к целому диапазону задач. Эти системы необычайно гибки, что позволяет относительно маленьким программам проявлять разнообразное поведение в широких пределах, реагируя на различные задачи и ситуации.

Нобелевский лауреат Герберт Саймон сказал, что большей частью своеобразие и изменчивость поведения, присущие живым существам, возникли скорее благодаря сложности их окружающей среды, чем благодаря сложности их внутренних "программ". Саймон описывает муравья, петляющего по неровной, пересеченной поверхности. Хотя путь муравья кажется довольно сложным, Саймон утверждает, что цель муравья очень проста: вернуться как можно скорее в колонию. Изгибы и повороты его пути вызваны встречаемыми препятствиями. Саймон заключает, что: "Муравей, рассматриваемый в качестве проявляющей разумное поведение системы, на самом деле очень прост. Кажущаяся сложность его поведения в большей степени отражает сложность среды, в которой он существует".