9.Мозговой О. "ИИ: "за" и "против""

Для теории ИИ долгое время основополагающим был тезис Черча-Тьюринга, сформулированный в 1930-х. Он гласит, что любая интуитивно вычислимая функция является частично-вычислимой, или, эквивалентно, может быть вычислена с помощью некоторой машины Тьюринга. Этот тезис невозможно строго доказать или опровергнуть т. к. он содержит неопределенное понятие интуитивно-вычислимой функции.(1) Допустим, человеческий разум является интуитивно-вычислимой функцией. Возьмем живого человека и зададим ему N вопросов, пусть он на каждый как-то ответит. Соответствие между вопросами и ответами будет устанавливаться какой-то, интуитивно-вычислимой, функцией. Согласно тезису, ее можно вычислить с помощью машины Тьюринга, или, что тоже самое, вычислить ее с помощью компьютерной программы. Допустим, мы так смоделировали мышление, что нельзя отличить ответы компьютера от ответов человека. Можно ли сказать, что мы искусственным путем создали разум?

Нас не должно смущать, что цифровой компьютер не очень то напоминает мозг. Физический материал не имеет никакого отношения к вычислимой функции: она зафиксирована в программе. Архитектура компьютера также не имеет значения т. к. разные архитектуры с разными программами могут вычислять одну и туже функцию.(1)

Для унификации процедуры определения разумности А. Тьюринг придумал универсальный тест. В этом тесте сравниваются способности человека и предположительно разумной машины. Человек и машина находятся в двух разных комнатах, а эксперт задает им вопросы, стараясь определить, кто есть кто. Причем цель опрашиваемых - заставить его придти к ложному заключению. Если задающий вопросы не может обосновано их отличить, то машина объявляется разумной.(2)

Это чисто бихевиористский тест. Его достоинства в том, что он охватывает почти любую область человеческой деятельности, какую мы хотим взять в рассмотрение. Он дает объективное понятие об интеллекте как реакции заведомо разумного существа на определенный набор вопросов. Кроме того, тест исключает предвзятость эксперта в ползу живых существ.(3)

На заре появления компьютерной техники никто особо не сомневался в возможности построения искусственного разума на основе алгоритма. Мощность компьютеров росла, остроумные программы все лучше имитировали поведение человека. В конце семидесятых увеличение быстродействия и объема памяти улучшало их умственные способности не намного. Тогда вышла книга Дрейфуса, в которой он критически относился к алгоритмической реализации интеллекта. Во-первых, такие программы не могут сравнивать далекие по смыслу предметы, им не достает обширной энциклопедии здравого смысла. Во-вторых, некоторые обычные для человека задачи, такие как распознавание образов, требуют неожиданно огромного объема вычислений.(1)

А Тест Тьюринга много критиковали в разное время.

Во-первых, нужна ли нам машина, которая решает математические задачи также медленно и неточно как человек? Многие практики ИИ говорят, что разработка систем, которые бы выдерживали всесторонний тест Тьюринга - это ошибка, отвлекающая нас от более важных, насущных задач.

Во-вторых, как утверждала Ада Лавлейс, машина может выполнить не более того, что ей скажут, следовательно, не может вести себя разумно. Однако современные экспертные системы могут формулировать выводы, которые не были заложены в них разработчиками. Многие исследователи считают, что творческие способности можно реализовать программно.(3)

Тест Тьюринга подвергался критике даже со стороны самих буржуазных кибернетиков, специалистов по философским вопросам, в частности Гундерсоном. Слабость критерия Тьюринга, по мнению Гундерсона, заключается в том, что он основан на сопоставлении мышления человека и ЭВМ только по конечному результату, а не по процессу. Следовательно, здесь речь может идти об имитации мышления машиной, а не о моделировании мыслительных процессов человека.(5)

Но качественно иное возражение против Теста Тьюринга, как и против возможности создания ИИ в цифровом компьютере высказал Джон Сирл в своей статье (4), быстро ставшей хрестоматийной. Он отрицает идею о том, что мышление есть не что иное, как манипулирование формальными символами.

Основной аргумент Сирла базируется на мысленном эксперименте с китайской комнатой. Он состоит в том, что человек, не понимающий китайский язык, сидит в комнате, у него есть две корзинки с иероглифами и книга, в которой написано, как работать с символами, чтобы сформировать ответ. В эту комнату китайцы через окошко для почтовой корреспонденции передают некие символы, человек ими манипулирует, подобно цифровому компьютеру, и передает иероглифы на выход. Для человека иероглифы - не больше чем совокупность закорючек, однако ответы комнаты ничем не отличаются от ответов человека, свободно владеющего китайским языком. Таким образом, комната пройдет Тест Тьюринга, хотя никакая часть комнаты не будет понимать ни слова по-китайски, т. е. не будет понимать реального семантического содержания сообщений.

Рассмотрим три аксиомы, высказанные Сирлом.

1.Программы - это формальные (синтаксические) объекты. Цифровой компьютер обрабатывает информацию, сначала кодируя ее в символических обозначениях, а затем манипулирует символами в соответствии с набором строго определенных правил. Эти правила представляют собой программу.

2.Человеческий разум оперирует смысловым содержанием (семантикой). Если, например, человек размышляет о последних президентских выборах, то ему в голову приходят определенные слова, но эти слова лишь потому относятся к выборам, что он придает им специфическое смысловое значение в соответствии со знанием своего разговорного языка. В этом отношении они принципиально отличаются от китайских иероглифов.

3.Синтаксис сам по себе не составляет семантику и его недостаточно для существования семантики. Эта аксиома подтверждается экспериментом с китайской комнатой. Не существует способа, с помощью которого человеку в китайской комнате удалось бы узнать значение хотя бы одного иероглифа. Он, конечно, может их как-то интерпретировать (например, давать имена), но его интерпретация никак не будет соотноситься с реальным семантическим содержанием иероглифов. Одни и те же символы можно интерпретировать по-разному. Интерпретация не тождественна смыслу. Из пустого синтаксиса семантика никак не выводится.

Из этих трех аксиом следует важный вывод: программы не являются сущностью разума и их наличия недостаточно для наличия разума.

Стоит заметить, что машины, моделирующие мозг на уровне нейронов, также не могут быть разумными. Их работа подобна большому китайскому спортивному залу. Зал лучше моделирует работу мозга, но люди в зале все равно просто манипулируют символами, не понимая их значения.(4)

Эволюционный подход для получения разума в формальной системе тоже не годится. Осознанный разум невозможен в любой системе, представляющую собой машину с дискретными состояниями (машину, состояние которой в любой момент времени можно определить, зная ее начальное состояние и сигналы, которые мы ей подаем(2)). Алан Тьюринг доказал, что любая машина с дискретными состояниями может эмулироваться машиной Тьюринга или, эквивалентно, программой. Программы не разумны в человеческом смысле, а значит не разумны и такие машины.

Является ли Тест Тьюринга достаточным критерием наличия сознательного разума, зависит от того, что понимать под разумностью. Его недостаточно, если разумность предполагает способность работать со смысловым содержанием. Для такого понимания непригоден простой бихевиористский тест, ведь имеет очень большое значение, какие процессы происходят внутри мыслящей машины.

В настоящее время Тест Тьюринга используют при испытании экспертных систем: группу людей просят сравнить вслепую ответы компьютера и человека. (4) Также он используется для защиты от спамовых программ. Чтобы предотвратить массовую регистрацию, при каждом обращении предлагается ввести число, изображенное на картинке. Для современных компьютеров такая задача имеет запредельную сложность.

Споры о том, можно ли создать искусственный сознательный разум в небиологической системе не утихают и по сей день. Известны удачные опыты по созданию искусственной сетчатки глаза при помощи электронных аналоговых устройств, при этом свойства искусственного глаза почти не отличаются от свойств настоящего. Почему бы ни создать искусственный электронный мозг? По крайней мере, сейчас нет свидетельств тому, что отсутствие в системе биохимических механизмов делает этот подход нереалистичным. (1)

Литература

1) П. М. Черчленд и П. С. Черчленд "Искусственный интеллект: Может ли машина мыслить?"

2) А. Тьюринг "Может ли машина мыслить?"

3) Ф. Люггер "Искусственный интеллект"

4) Дж. Сирл "Разум мозга - компьютерная программа?"

5) Орфеев Ю. В., Тюхин В. С. "О критериях формализуемости мышления."