1956 Год.3 Летом того года группа из десяти ученых встретилась на терри-

тории колледжа Дортмут с целью обсудить возможность создания компь-

ютерных программ, способных к разумному поведению. Среди участников

этой конференции были: Джон МакКарти, основавший впоследствии ла-

боратории ИИ в Массачусеттском Технологическом институте (МТИ) и

Стэнфордском университете и широко признанный как человек, окрестив-

ший новую науку "Искусственным Интеллектом"; Марвин Минский, став-

ший затем директором лаборатории ИИ в МТИ; Герберт Саймон, которо-

му предстояло получить Нобелевскую премию по экономике; и Аллеи

Ньюэлл, который провел очень важные работы по когнитивной науке и

ИИ в университете Карнеги-Меллон. Эта конференция имела историчес-

кое значение - намечавшийся до того курс на ИИ был взят. Его зарожде-

ние непосредственно повлияло на развитие когнитивной психологии.

С момента конференции в Дортмуте развитие ИИ происходило в гео-

метрической прогрессии - если не по числу оригинальных идей, то по

количеству новых данных. В том или ином виде ИИ затрагивает сегодня

жизнь большинства людей в Западном обществе, распространяется по кол-

леджам, на нем сосредоточили свои усилия тысячи ученых. Различные

ветви теории и практики ИИ невозможно изложить в единственной главе

или книге и даже во многих книгах, но мы можем в этой главе предста-

вить образцы работ в области ИИ в их связи с когнитивной психологией.

Изучающие ИИ и когнитивную психологию могут найти по этой теме мно-

жество глубокомысленных книг и статей, а также побывать на многих

интересных конференциях.

Машины и разум: "имитирующая игра" и "китайская комната4

Я не знаю другой такой области когнитивной психологии, где происходили

бы столь ожесточенные споры о моделировании человеческого мышления

машинами: о "жестком" направлении ИИ. Одну сторону этого спора пред-

ставляют те ревнители ИИ, которые не только верят, что машины способ-

ны точно копировать человеческое познание, но и считают, что наиболее

сложные интеллектуальные процессы могут выполняться только машина-

ми. Это надо понимать так, что компьютеры должны непосредственно уча-

В тот году Бранер, Гуднау и Остин опубликовали книгу "Изучение мышле-

ния", Хомский - "Три модели описания языка", Миллер -"Магическое чис-

ло семь плюс-минус два", Ньюэлл и Саймон - "Логическая теория машин".

Искусственный интеллект

17 Зак. 2019

ствовать в повседневном принятии решений людьми. С другой стороны,

находятся те, кто полагает ИИ интеллектуально извращенным понятием и

считает, что люди, верящие в "мыслящие машины", - это материалисти-

ческие идолопоклонники. Они полагают, что человеческое мышление -

это чисто человеческий процесс; наверно, его можно частично синтезиро-

вать в машине, но дублировать с помощью ИИ программ его не удастся

никогда.

В качестве отправной точки полезно рассмотреть дихотомию, предло-

женную философом из Беркли Джоном Сирлом (John Searl, 1980). Он

описал две позиции в ИИ: "жесткую" и "мягкую"; согласно мягкой пози-

ции, ИИ может использоваться как инструмент в исследованиях челове-

ческого познания; а жесткая предполагает, что соответствующим образом

запрограммированный компьютер обладает разумом и способен к понима-

нию. У "мягкого" ИИ мало оппонентов; почти все признают важность

компьютеров в исследовании человеческого познания, и к этому почти

нечего добавить. "Жесткий" ИИ, опровергаемый Сирлом, вызвал бурю

протеста. Мы продолжим рассмотрение этого спора в следующем разделе

про "Китайскую комнату", но сначала рассмотрим одну оригинальную за-

дачу, предложенную британским математиком Аланом Тюрингом4 и каса-

ющуюся разума и машин.

"Имитирую-

щая игра"

или "тест

Тюринга"

Тюринг предложил задачу, в которой человек задает вопросы неизвестно-

му-существу-использующему-язык. Задача человека - решить, можно ли

отличить это от человека. В пользу Тюринга говорит то, что использова-

ние "имитирующей игры", ставшей впоследствии широко известной как

"тест Тюринга", само по себе было весьма тонким обманом, который, да-

вая специалистам по ИИ нечто конкретное для работы, уводил их внима-

ние от философских вопросов разума, ставших главным раздражающим

фактором в истории науки и философии. Не обращаясь непосредственно к

философским вопросам, как это сделал Тюринг, он спрашивал: "Является

ли познание функцией материальных процессов, и если да, то могут ли

такие функции происходить от неорганической машины?" или "Как ре-

шить проблему тела и разума?" - т.е. он выбирал гораздо более четкие

рамки вопроса, основанные на операционализме. Поскольку в литературе

сохраняется определенная путаница относительно реальной природы пред-

ложенного Тюрингом теста, мы приводим его здесь довольно детально.

Эту... задачу можно описать в терминах игры, известной нам как

"имитирующая игра". В нее играют три человека: мужчина (А),

женщина (В) и спрашивающий (С), который может быть любого

пола. Цель игры для спрашивающего - определить, кто из двух

других -мужчина, а кто - женщина. Для него они помечены как

Х и Y, и в конце игры он должен сказать либо: "X это A, a Y это В",

либо: "X это В, а Y это А". Спрашивающий может задавать А и В

такие, например вопросы:

С: Не скажет ли мне Х длину своих волос?

Теперь предположим, что Х - это на самом деле А; тогда А

должен ответить. Целью игры для А является... заставить С сде-

лать ошибочную идентификацию. Его ответ мог бы быть таким:

Замечательное описание жизни Тюринга вместе с обсуждением вопросов ИИ

можно найти в: Hofstadter. Metamagical Themas (1985).

Мышление и интеллект - естественный и искусственный

498

"Мои волосы коротко острижены, самые длинные пряди длиной

примерно 9 дюймов".

Чтобы тембр голоса не указывал спрашивающему на пол, отве-

ты пишутся или еще лучше печатаются. Самый лучший вариант -

это принтер, подключенный в соседней комнате. Другим вариантом

может быть повторение ответов посредником. Цель третьего игро-

ка (В) - помочь спрашивающему. Возможно, наилучшая стратегия

для нее - это давать правдивые ответы. Она может прибавлять к

своим ответам что-то вроде "Это я - женщина, не слушай его!",

но это ничего не даст, поскольку аналогичные замечания может

давать и мужчина.

Теперь спросим: "Что произойдет, если роль А в этой игре бу-

дет исполнять машина?" Будет ли спрашивающий при таком вари-

анте игры ошибаться так же часто, как и тогда, когда играют муж-

чина и женщина? Эти вопросы заменяют первоначальный, "Может

ли машина мыслить?" (Turing, 1950; р.434).

Очевидно, ценность некоторых вопросов, задаваемых для Х и Y, зависит

от того, какая сейчас мода, - т.е. если длину волос и прическу взять за

основу различения, то, например, в 70-х годах это привело бы к очень

многим ошибкам. Тем не менее, для специалистов по языку и ИИ в задаче

Тюринга есть очень важный момент- для того, чтобы компьютер пере-

хитрил нас и заставил думать, что он - это человек, он должен понимать

и генерировать ответную реакцию, которая эффективно имитировала бы

важную когнитивную функцию.

Можно предложить и другой тип вопроса о неразличимости функций.

Предположим, что в больнице работают два хирурга. Один - выпускник

знаменитой медицинской школы и считается одним из лучших хирургов в

мире. Другой окончил обычную медицинскую школу и считается плохим

хирургом. Однажды потребовалась срочная операция, и первый хирург

нездоров, так что операцию проводит второй врач, о чем не известно паци-

енту, находящемуся без сознания. Пациенту не говорят, какой врач про-

водил операцию, и он рад, что она была успешной. К тому же, другие

врачи уверены, что операцию проводил первый хирург. На этом ограни-

ченном примере мы можем заключить, что тест на неразличимость был

пройден. Однако, если бы вы были этим пациентом и узнали, что опера-

цию на самом деле проводил робот, какой вывод вы бы сделали о соотно-

шении функциональных свойств робота и хирурга? Согласились бы вы,

что они одинаковы? Почему? А Почему нет? Ответы на эти вопросы труд-

но найти, чего не скажешь о людях, придерживающихся твердых взглядов

на этот счет. Один из них - это Сирл, который вывернул "тест Тюринга"

наизнанку.

Чтобы продемонстрировать, что жесткая позиция в ИИ не выдерживает "Китайская

критики, Сирл предложил следующую головоломку. Предположим, что комната"

кого-то заперли в комнате, где много китайских текстов. Этот кто-то ниче-

го не понимает по-китайски и даже не способен отличить китайские иерог-

лифы от каких-нибудь еще. Снаружи этой комнаты ему передают еще

один набор китайских знаков вместе с набором правил для сопоставления

первого и второго набора символов. Эти правила всего лишь позволяют

Искусственный интеллект

499

этому человеку связывать один набор символов с другим и написаны на

обычном английском. При помощи этих правил сопоставления человек в

китайской комнате может давать осмысленные ответы на вопросы о содер-

жании китайских текстов, несмотря на то, что он в сущности не знает

этого языка. Через какое-то время эта личность приобретает настолько

хорошую сноровку, что может отвечать как на своем родном английском,

так и на китайском языке, которого не знает, но отвечает, основываясь на

правилах. Результаты настолько хороши, что их "совершенно нельзя от-

личить от ответов урожденного китайца" (Searl, 1980, 1981). Личность,

запертая в китайской комнате, - это простая конкретная иллюстрация

компьютерной программы: "данные на входе -данные на выходе". Вплоть

до этого момента почти никто из ИИ-пехоты не взъерошил перья, но затем

Сирл шагает еще на один аргумент вперед. Способность выполнять такие

функции, как перевод по сложным правилам, не означает, что тот, кто это

делает, понимает значение "выходных данных". Человеческий разум обла-

дает произвольностью (см. Searl, 1983), которая, согласно этому автору,

определяется как свойство мысленных состояний и событий, направляю-

щее их на объекты и ситуации в окружающем мире. К таковым относятся

убеждения, страхи, желания и намерения. Независимо от того, насколько

"неотличимо" поддельное мышление от "настоящего" (человеческого), они

не есть одно и то же, поскольку у мыслящего человека есть намерения и

поскольку между этими двумя "мыслящими" есть физические различия:

одного сделали органическим способом, а второго - электронным.

Опроверже- Компьютерные ученые немедленно выдвинули возражения против голово-

нне "китам- ломки Сирла,- прежде всего с позиций семантики: термины "произволь-

ской комна- ность", "понимание", "мышление" употребляются им без четких операци-

_.," ональных референтов; в качестве возражения был приведен такой пример:

если бы человек в этой "китайской комнате" выполнял описанные функ-

ции, то он (или система) действительно достиг бы как минимум некоторо-

го уровня понимания. Кроме того, аргументы Сирла отклонялись на осно-

вании приведения к абсурду: если довести ситуацию до логического кон-

ца, то оказалось бы возможным создать робота, в каждой своей детали

идентичного мыслящему человеку, и все же последний был бы способен к

"пониманию" и "произвольности", а первый нет. Наконец, некоторые спе-

циалисты по ИИ полагают, что "понимание" и "произвольность" вызыва-

ются конкретными материальными свойствами. Пилишин (Pylyshyn, 1980)

сатирически замечает, что возможно произвольность - это такое веще-

ство, которое выделяется человеческим мозгом; он предлагает свою соб-

ственную загадку:

"...если бы все больше и больше клеток вашего мозга, заменялись

интегральными микросхемами, запрограммированными так, чтобы

их характеристики входа-выхода были идентичны заменяемому

элементу, вы по всей вероятности сохранили бы способность

говорить точно так же, как и сейчас, за исключением того, что

постепенно перестали бы что-либо под этим иметь в виду. То,

что мы, сторонние наблюдатели, все еще принимали бы за слова,

для. вас стало бы просто некоторым шумом, который заставляют

вас издавать ваши микросхемы" (с.442).

Мышление и. интеллект - естественный и искусственный

500

Компьютеризованно> лозясжмв

Том Харрингтон, Дениза Квон

Подобно Нарциссу, восхищавшемуся своей

собственной красотой, человек с тоской гля-

дит в нечто вроде интеллектуального увели-

чительного стекла и отходит со словами "Да,

ты действительно самый разумный из них

всех!" Наш мозг в 10 биллионов раз менее

эффективен энергетически, чем теоретически

он мог бы быть, и его клетки реагируют в ты-

сячи раз медленнее, чем ячейки цифрового ком-

пьютера, и тем не менее он продолжает нахо-

диться под нарциссическим впечатлением от

своей собственной работы, обычно относя все

недостатки на счет своей огромной сложнос-

ти. В 1968 году мозг Джона Кемени, заметив,

что между ним самим и машиной нет суще-

ственной разницы, сделал утверждение, пока-

завшееся в то время здравым. "Даже на базе

транзисторов... конструктивные трудности едва

ли позволят сделать машину более, чем из мил-

лиона частей. Так что мы можем свободно

сказать, что человеческий мозг надолго оста-

нется примерно в 10000 раз более сложным,

чем самые сложные машины."

С тех пор компьютеры развились неверо-

ятно. Но мозг по генетическим причинам зас-

трял на обочине интеллектуальной дороги, по-

скольку он мутирует медленно. К счастью, наши

когнитивные способности не застряли вместе с

ним. Каждый день мы встраиваем в компьюте-

ры новые мутации, и, навязывая им наше соб-

ственное направление естественного отбора, раз-

виваем "мыслительную" силу человека.

Как может компьютер практически конку-

рировать с нами? Лучше сначала спросить, а

смог бы компьютер хранить и обрабатывать

то количество информации, какое мы сами вос-

принимаем. Насколько это много? Информа-

цию, воспринимаемую нами за одно мгнове-

ние текущей зрительной сцены, можно оце-

нить, исходя из интенсивности, с которой этот

мир стимулирует каждую из ваших 250,000,000

палочек и колбочек. При наличии 100 возмож-

ных уровней интенсивности стимуляции каж-

дой из них мы получим достаточно верное

повторение воспринимаемого мира, так что для

каждой колбочки или палочки нам пришлось

бы записать по две цифры. Это составило бы