Чекина М.Д. "Философские проблемы искусственного интеллекта". (Студенч-ская конференция ТТИ ЮФУ). 2007

Призовой доклад на Пятьдесят четвертой студенческой научной конференции

Таганрогского Технологического Института Южного Федерального Университета

Факультет Естественнонаучного и Гуманитарного Образования

Кафедра Высшей Математики

Группа Н-55

Руководитель: проф., доктор философских наук И.Н. Титаренко

Что такое интеллект?

Разум, не способный любить и страдать,

разумом не является.

С. Лукьяненко "Геном"

Выразить суть интеллекта в каком-то одном определении представляется исключительно сложной, практически безнадежной задачей. Интеллект есть нечто ускользающее, не вмещаю-щееся в установленные языком смысловые рамки. Поэтому ограничимся просто тем, что приве-дем ряд известных определений и высказываний об интеллекте, которые позволят представить себе "объем" этого необычного понятия.

"Наивные" определения естественного интеллекта сводятся к его выражению через тот или иной атрибут (иногда через набор способностей субъекта). Вообще, моделирование объекта че-рез его атрибуты есть вполне традиционный, рационалистический способ работы с понятиями в искусственном интеллекте. Для примера приведем пару определений типа "интеллект - это способность X".

1. Интеллект - это способность решать задачи на основе символьной информации.

2. Интеллект - это способность к обучению и самообучению.

Достаточно емкие и интересные определения интеллекта даны в английском словаре Вебстера и Большой Советской Энциклопедии. В словаре Вебстера: "интеллект - это: а) способность ус-пешно реагировать на любую, особенно, новую ситуацию путем надлежащих корректировок поведения; б) способность понимать связи между фактами действительности для выработки действий, ведущих к достижению поставленной цели". В БСЭ: "интеллект... в широком смысле - вся познавательная деятельность человека, в узком смысле - процессы мышления, нераз-рывно связанные с языком как средством общения, обмена мыслями и взаимного понимания людей". Здесь интеллект прямо связывается с деятельностью и языком коммуникации.

Теперь приведем высказывания известных ученых об интеллекте. Сравним при этом мнения психологов и специалистов по ИИ.

Французский ученый А. Бергсон считал, что инстинкт связан с вещами, а интеллект - с отношениями. По его мнению, главными функциями интеллекта являются установление отноше-ний, а также обнаружение сходства фактов и повторяемость этого сходства ("интеллект ищет сходство с уже известным"). Немецкие психологи К. Бюлер и В. Келер противопоставляли ин-теллектуальное поведение инстинктивному. Они называли инстинкт "памятью поколений", считая ее очень крепкой и передающейся из рода в род. Инстинкты чрезвычайно консерватив-ны: они функционируют с удивительной точностью и надежностью, когда все идет по-старому, но отказываются служить, когда человек попадает в новые условия.

Напротив, главный признак интеллекта есть формирование таких операций, которые возникают не постепенно, путем проб и ошибок, а внезапно, как бы по догадке. При этом найденное реше-ние запоминается раз и навсегда, что обеспечивает возможность его широкого переноса и при-менения в сходных условиях.

По мнению известного советского психолога А.Н.Леонтьева, интеллект возникает впервые там, где поведенческий акт дифференцируется на две фазы: фазу подготовки того или иного дейст-вия и фазу его осуществления.

Интеллект также рассматривают сквозь призму соотношения различных форм мышления. В общем случае мышление не сводится к оперированию символами, а предполагает также опери-рование образами объектов и действий.

Интеллект также соотносится с возможностью адаптации к среде. Так Э. Клапаред и В. Штерн понимали интеллект как "психическую адаптацию к новым условиям". Ж. Пиаже утвер-ждал, что интеллект - это "определенная форма равновесия, к которой тяготеют все структуры, образующиеся на базе восприятия, навыка и элементарных сенсомоторных механизмов".

Теперь остановимся на воззрениях специалистов по информатике и ИИ. Так под интеллектом понимается "способность субъекта использовать накапливаемую им информацию некоторым полезным образом". Также утверждается, что интеллект есть способность любого организма (или устройства) достигать успеха при поиске одной из возможных целей в обширном многооб-разии сред. Среди характеристик интеллекта на первый план ставятся механизмы принятия ре-шения и предсказания, т. е. формирования цели.

Представители нейроинформатики часто высказывают точку зрения о том, что интеллект - это системное свойство нейронов мозга, не выводимое из свойств единичного нейрона. По мне-нию известного специалиста по семиотике Ю. М.Лотмана, интеллект возникает тогда, когда имеются внутренние неоднородности. В свою очередь, один из патриархов ИИ М. Минский свя-зывает интеллектуальность системы со степенью непонимания наблюдателем того, как она ре-шает задачи.

Наконец, наиболее распространенное в сообществе специалистов по ИИ мнение связывает ин-теллект со способностью строить модели реальности, а интеллектуальность системы - с нали-чием у нее собственной внутренней модели внешнего мира. Более того, эта модель должна быть корректируемой и характеризоваться высокой адаптивностью. С уровнем развития внутренней модели тесно связаны возможности планирования поведения; а также формирования умений. Интересную трактовку интеллекта как совокупности способностей дал В. К. Финн. Он указал следующие принципиальные черты интеллекта:

o выделение существенного в знании;

o способность к рассуждениям;

o рефлексия;

o выдвижение цели и выбор средств ее достижения;

o познавательная активность;

o адаптация к ситуации;

o формирование обобщений и обучение на примерах;

o синтез познавательных процедур.

Некоторые философские аспекты проблемы ИИ

О возможности существования.

С ИИ сложилась странная ситуация - изучается то, чего еще нет. И если этого не будет в тече-ние ближайших 100 лет, то очень может быть, что эпоха ИИ на этом окончится.

Исходя из сказанного выше, вытекает основная философская проблема в области ИИ - воз-можность или не возможность моделирования мышления человека. В случае если когда-либо будет получен отрицательный ответ на этот вопрос, то все остальные вопросы не будут иметь не малейшего смысла.

Следовательно, начиная исследование ИИ, заранее предположим положительный ответ. Приве-дем несколько соображений, которые подводят нас к данному ответу.

1. Первое доказательство является схоластическим, и доказывает непротиворечивость ИИ и Библии. Даже люди далекие от религии, знают слова священного писания: "И создал Господь человека по образу и подобию своему …". Исходя из этих слов, мы можем заключить, что, по-скольку Господь, во-первых, создал нас, а во-вторых, мы по своей сути подобны ему, то мы вполне можем создать кого-то по образу и подобию человека.

2. Создание нового разума биологическим путем для человека дело вполне привычное. Дети большую часть знаний приобретают путем обучения, а не как заложенную в них заранее.

3. То, что раньше казалось вершиной человеческого творчества - игра в шахматы, шашки, рас-познавание зрительных и звуковых образов, синтез новых технических решений, на практике оказалось не таким уж сложным делом (теперь работа ведется не на уровне возможности или невозможности реализации перечисленного, а о нахождении наиболее оптимального алгорит-ма).

4. С проблемой воспроизведения своего мышления тесно смыкается проблема возможности са-мовоспроизведения. Существуют также различные неформальные доказательства возможности самовоспроизведения, но самым ярким доказательством, пожалуй, будет существование компь-ютерных вирусов.

5. Принципиальная возможность автоматизации решения интеллектуальных задач с помощью ЭВМ обеспечивается свойством алгоритмической универсальности. Это означает, что на них можно программно реализовывать любые алгоритмы преобразования информации, - будь то вычислительные алгоритмы, алгоритмы управления, поиска доказательства теорем или компо-зиции мелодий.

Однако не следует думать, что вычислительные машины и роботы могут в принципе решать любые задачи. Анализ разнообразных задач привел математиков к замечательному открытию. Было строго доказано существование таких типов задач, для которых невозможен единый эф-фективный алгоритм, решающий все задачи данного типа; в этом смысле невозможно решение задач такого типа и с помощью вычислительных машин. Этот факт способствует лучшему по-ниманию того, что могут делать машины и чего они не могут сделать.

Как же действует человек при решении таких задач? Похоже, что он просто-напросто игнориру-ет их, что, однако не мешает ему жить дальше. Другим путем является сужение условий универ-сальности задачи, когда она решается только для определенного подмножества начальных усло-вий. И еще один путь заключается в том, что человек методом "научного тыка" расширяет мно-жество доступных для себя элементарных операций (например, создает новые материалы, от-крывает новые месторождения или типы ядерных реакций).

О цели создания

Следующим философским вопросом ИИ является цель создания. В принципе все, что мы делаем в практической жизни, обычно направлено на то, чтобы больше ничего не делать. Однако при достаточно высоком уровне жизни человека на первые роли выступает уже не лень, а поисковые инстинкты. Допустим, что человек сумел создать интеллект, превышающий свой собственный. Что теперь будет с человечеством? Какую роль будет играть человек? Для чего он теперь ну-жен? И вообще, нужно ли в принципе создание ИИ?

По-видимому, самым приемлемым ответом на эти вопросы является концепция "усилителя ин-теллекта" (УИ). Здесь уместна аналогия с президентом государства - он не обязан знать ва-лентности ванадия или языка программирования Java для принятия решения о развитии вана-диевой промышленности. Каждый занимается своим делом - химик описывает технологический процесс, программист пишет программу; в конце концов, экономист говорит президенту, что вложив деньги в промышленный шпионаж, страна получит 20%, а в ванадиевую промышлен-ность - 30% годовых. При такой постановке вопроса любой человек сможет сделать правиль-ный выбор.

В данном примере президент использует биологический УИ - группу специалистов с их белко-выми мозгами. Но уже сейчас используются и неживые УИ - например мы не могли бы пред-сказать погоду без компьютеров, при полетах космических кораблей с самого начала использо-вались бортовые счетно-решающие устройства. Кроме того, человек уже давно использует уси-лители силы (УС) - понятие, во многом аналогичное УИ. В качестве усилителей силы ему служат автомобили, краны, электродвигатели, прессы, пушки, самолеты и многое-многое дру-гое.

Основным отличием УИ от УС является наличие воли. Ведь мы не сможем себе представить, чтобы вдруг серийный "Запорожец" взбунтовался, и стал ездить так, как ему хочется. Не можем представить именно потому, что ему ничего не хочется, у него нет желаний. В тоже время, ин-теллектуальная система, вполне могла бы иметь свои желания, и поступать не так, как нам хоте-лось бы. Таким образом перед нами встает еще одна проблема - проблема безопасности.

Проблема безопасности

Данная проблема будоражит умы человечества еще со времен Карела Чапека, впервые употре-бившего термин "робот". Большую лепту в обсуждение данной проблемы внесли и другие писа-тели-фантасты. Как самые известные мы можем упомянуть серии рассказов писателя-фантаста и ученого Айзека Азимова, а так же довольно свежее произведение - "Терминатор". Кстати именно у Айзека Азимова мы можем найти самое проработанное, и принятое большинством людей решение проблемы безопасности. Речь идет о так называемых трех законах роботехники.

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться командам, которые ему дает человек, кроме тех случаев, когда эти команды противоречат первому закону.

3. Робот должен заботиться о своей безопасности, насколько это не противоречит первому и второму закону.

На первый взгляд подобные законы, при их полном соблюдении, должны обеспечить безопас-ность человечества. Однако при внимательном рассмотрении возникают некоторые вопросы.

Интересно, что будет подразумевать система ИИ под термином "вред" после долгих логических размышлений? Не решит ли она, что все существования человека это сплошной вред? Ведь он курит, пьет, с годами стареет и теряет здоровье, страдает. Не будет ли меньшим злом быстро прекратить эту цепь страданий? Конечно можно ввести некоторые дополнения, связанные с ценностью жизни, свободой волеизъявления. Но это уже будут не те простые три закона, кото-рые были в исходнике.

Следующим вопросом будет такой. Что решит система ИИ в ситуации, когда спасение одной жизни возможно только за счет другой? Особенно интересны те случаи, когда система не имеет полной информации о том, кто есть кто.

Однако несмотря на перечисленные проблемы, данные законы являются довольно неплохим неформальным базисом проверки надежности системы безопасности для систем ИИ.

Так что же, неужели нет надежной системы безопасности? Если отталкиваться от концепции УИ, то можно предложить следующий вариант.

Согласно многочисленным опытам, несмотря на то, что мы не знаем точно, за что отвечает каж-дый отдельный нейрон в человеческом мозге, многим из наших эмоций обычно соответствует возбуждение группы нейронов (нейронный ансамбль) во вполне предсказуемой области. В ма-тематической интерпретации это сведение какой-либо функции к максимуму или к минимуму. Теперь представим себе, что наш УИ в качестве такой функции использует измеренную прямо или косвенно, степень удовольствия мозга человека-хозяина. Если принять меры, чтобы исклю-чить самодеструктивную деятельность в состоянии депрессии, а так же предусмотреть другие особые состояния психики, то получим следующее.

Поскольку предполагается, что нормальный человек, не будет наносить вред самому себе, и, без особой на то причины, другим, а УИ теперь является частью данного индивидуума (не обяза-тельно физическая общность), то автоматически выполняются все 3 закона роботехники. При этом вопросы безопасности смещаются в область психологии и правоохранения, поскольку сис-тема (обученная) не будет делать ничего такого, чего бы не хотел ее владелец.

Вопрос полезности

И теперь осталась еще одна тема - а стоит ли вообще создавать ИИ, может просто закрыть все работы в этой области? Единственное, что можно сказать по этому поводу - если ИИ возможно создать, то рано или поздно он будет создан. И лучше его создавать под контролем обществен-ности, с тщательной проработкой вопросов безопасности, чем он будет создан лет через 100-150 (если к тому времени человечество еще не уничтожит само себя) каким-нибудь программистом-механиком-самоучкой, использующим достижения современной ему техники. Ведь сегодня, на-пример, любой грамотный инженер, при наличии определенных денежных ресурсов и материа-лов, может изготовить атомную бомбу.

Эволюция: от палки до компьтера

Допустим, станет возможным создание личности на неорганическом носителе, т.е. ИИ. А что тогда сможет помешать перенести сознание живого человека на искусственный носитель, ко-нечно, при наличии соответствующих технологий. Следует заметить, что подобный неорганиче-ский носитель будет не в пример долговечнее, чем человеческое тело, и можно будет говорить о бессмертии сознания, личности.

Даже если не рассматривать эту возможность, целесообразно было бы применить подобную технологию для того, чтобы спастись от случайной смерти. То есть, когда вы не будете бояться, что вас переедет троллейбус или кирпич на голову упадет, а все грандиозные планы так и оста-нутся несбывшимися.

Те, кто знаком с компьютерными играми хорошо знают термин "сохраниться": перед сложным этапом игры игрок записывает текущее состояние игры - чтобы в случае неудачи переиграть, начиная с него.

Переиграть жизнь, конечно, не получится, но вот "сохранять" себя, как персонаж игры, вполне возможно. Точнее говоря, для достижения такого технического бессмертия прямая аналогия с играми здесь не подойдет.

Дело в том, что записи игры - это копии. И если мы точно также себя "сохраним", т.е. скопиру-ем данные сознания на некий носитель, а потом с нами что-нибудь случится, то воспроизведе-ние этой записи вовсе не будет нашим бессмертием, а будет нашей копией, но не нами самими.

Т.к. сознание непрерывно, а прерывание сознания является смертью.

Если где-то на другом носителе появляется ваша копия, но не вы. Вас уже не существует.

Подобная технология может действовать так. Подобно тому, как мы с помощью удаленного доступа можем совершать то или иное действие, не боясь никакого ущерба в телекоммуникаци-ях, точно так само осуществление нами рабочих обязанностей или просто прогулка за город может являться подобным удаленным доступом. Мы на время можем использовать тела "на прокат", беспокоясь о том, что погибнем вместе с ними.

Несложно увидеть, что в будущем полицейскому, патрулирующему неспокойные кварталы, нет нужды делать это лично, он сам может сидеть в офисе, а патруль осуществлять в удаленном доступе: некотором устройстве или клоне, вообще это может быть что угодно, способное быть носителем удаленного доступа.

Это бессмертие для особо опасных профессий. Но опасно и вообще жить. Кирпич на голову мо-жет упасть, а еще можно заболеть какой-нибудь мало приятной болезнью. Так почему бы ни спроецировать подобную технику удаленного доступа на всю человеческую деятельность.

Человек может находиться в некотором защищенном месте, из которого и будет осуществлять всю свою деятельность в режиме удаленного доступа. Где его жизни ничто не угрожает.

Описанная выше картина в большей части является фантастикой, так как главной вещи - непре-рывности сознания - у нас нет. На сегодняшний день мы имеем один постоянный носитель соз-нания - мозг.

Но если мозг будет связан с компьютером, сетью, а сознание потеряет постоянное нахождение на каком-либо носителе, то все существенно изменится.

Можно сказать, что прерывания сознания мы испытываем постоянно, например - это наш сон. Проведем аналогию с компьютером, который отключают отдыхать, а потом снова загружают. Программа та же самая, но она была прервана. Так прерывается после сна и наше Я, т.е. его можно рассматривать как копию, но мы этого не осознаем, т.к. все это происходило в единст-венном носителе - нашем мозге.

Можно также предположить, что во время сна сознание не полностью отключается, т.е. Я со-храняется. Но есть обмороки, потери сознания, здесь уж точно полный обрыв сознания. Говоря компьютерным языком не горячая, а холодная перезагрузка. Это дает основания полагать, что каждый из нас в течение жизни является не раз повторенной копией самого себя, т.е. было от-ключение сознания, а потом оно "перезапустилось" с носителя заново.

Разумеется, мы не ощущаем себя копиями предыдущих Я, т.к. сегодня существуем только мы. Итак непрерывность сознания можно поставить под сомнение.

Рассмотрим теперь другой не менее важный аспект вопроса.

Мы считаем, что личность должна обладать одним Я. Но так ли это?

Сегодня мы наблюдаем у миллионов шизофреников, обладающих одним носителем сознания, мультипликацию личностей. Почему-то как должное принимается, что сознание не способно обладать более одним Я, а остальное - патология. Стоит рассматривать это как патологию, ко-гда у человека один носитель сознания. Но когда есть удаленные доступы - этих Я может быть и неограниченное количество.

У нас - один поток зрительной информации, один слуховой, тактильный - и так далее. Предста-вим себе, что таких потоков было бы по два разных - свой и удаленного доступа - или больше. Пожалуй, для их усвоения требовалось бы два Я, три, четыре и т.д.

Следует признать, что Я больше не будет уделом одного носителя. А тогда удаленные доступы сознания, которых одновременно может быть большое количество, могут быть в некоторой сте-пени автономны. Трудно представить себе это сейчас, но это так.

Технологии удаленного доступа позволят также расширить человеческое восприятие. Ни один закон физики не может в теории запретить нам ощущать внешнюю материю как свои органы тела. Наш прогресс в том и заключается, что мы себе как продолжение руки придумали палку. А потом продолжением человека стали стрелы и мечи, танки и самолеты, компьютеры и Интер-нет. Везде человек хочет не голую руку в огонь совать, а некоторый инструмент, который мож-но рассматривать как удаленный доступ.

Как и ясно, что вся Вселенная из палки обезьяны - ее удаленного доступа - станет частью на-шего сознания, когда мы ее материю найдем нашим удаленным доступом.

Наверное в этом и заключается Эволюция.

Литература

· Сотник С.Л.Лекции по курсу ИИ 1998г.

· АГСИ 14-2004 В. Ростов Живые мертвые и умершие бессмертные

· АГСИ 12-2004 В. Ростов Техника бессмертия

· АГСИ 7-2004 Мекельбург Э. Сознание из пробирки

· ВФ 4-2005 Павлов К.А. Существует ли неискусственный интеллект?

· Тарасов В.Б. От многоагентных систем к интеллектуальным организациям 2002г.

· Кибернетика и диалектика 1978г.