Искусственный интеллект и постчеловеческая картина мира

С середины XX века все большее число ученых устремились к дерзкой цели: построение компьютеров, действующих таким образом, чтобы по результатам работы их невозможно было бы отличить от человеческого разума. Терпеливо продвигаясь вперед в своем нелегком труде, эти ученые обнаружили, что вступили в схватку с весьма сложными и запутанными проблемами в области интеллекта. Ведь для создания машин, имитирующих работу человеческого разума, требуется разобраться в том, как действует сам человеческий разум. В результате многие исследователи пришли к выводу, что самая трудная проблема, стоящая перед современной наукой, представляет понимание процессов функционирования человеческого разума, а не просто имитация его работы. В самом деле, ученым трудно даже прийти к единой точке зрения относительно самого предмета их исследований – интеллекта. Здесь, как в притче о слепцах, пытавшихся описывать слона, где каждый исходил из своего заветного определения. Одни считают, что интеллект – умение решать сложные задачи; другие рассматривают его как способность к обучению, обобщению и аналогиям; третьи как возможность взаимодействия с внешним миром путем восприятия, мышления и общения.

С этого же времени осознание обществом того, что грядет какой-то катаклизм, росло. Первыми почувствовали его приближение писатели-фантасты. Ведь именно научной фантастике полагается предсказывать, чем обернется та или иная технология в будущем. Если ранее воображение легко переносило нас на миллионы, миллиарды лет вперед (например, «Машина времени» Г.Уэллса), то теперь наибольшее количество прогнозов относится к ближайшему завтра. Писатели изобрели множество уловок для того, чтобы не связываться с разумными машинами в своем сюжете. Машины делают неопасными или наделяют их солипсизмом в том смысле, что они не верят в реальность окружающего мира, в события, происходящие с ними, поэтому легко подчиняются человеку.

Дилемма, которую почувствовали фантасты, станет скоро восприниматься в контексте творческих усилий иного рода. Мы станем свидетелями того, как постепенно будут автоматизироваться задачи все более высокого уровня, а истинно производительный труд станет уделом стабильно сокращающейся узкой элиты человечества. С пришествием постчеловеческой эры мы увидим, как сбываются прогнозы о настоящей техногенной безработице.

Поскольку дело касается интеллектуального «прорыва», вероятно, это окажется самой стремительной научно-технической революцией из всех прежде нам известных. Ожидать этого не будет никто, даже те, кто вовлечен в этот процесс. Через некоторое время после этого события наступит нечто, чему можно привести одну лишь схожую по значимости явления аналогию – возникновение человечества [1, 130-131]. Мы очутимся в новой эре с постчеловеческой картиной мира.

Главная причина этих возможных перемен в том, что совершенствование и развитие техники приводит к тому, что техника становится все более изощренной и «умной». По этому поводу академик Н.Н.Моисеев говорил, что человечество сегодня «держится на острие», когда ускорение процессов развития чело­вечества сопровождается понижением уровня его стабильности [2, 120]. Все это ведет к созданию техники с интеллектом, превышающим человеческий.

Таким образом, если создание сверхчеловеческого интеллекта нельзя предотвратить, нельзя ограничить, то, спрашивается, какой будет постчеловеческая картина мира? Видится несколько путей, по которым наука может достичь постчеловеческой эры:

1. Компьютеры обретут «сознание», и возникнет сверхчеловеческий компьютерный интеллект [3, 22-25]. Достаточно полное кинематографическое описание такой ситуации дано в трилогии «Матрица».

2. Крупные компьютерные сети (и их объединенные пользователи) смогут осознать себя как сверхчеловечески разумные сущности. Сегодня Интернет представляет собой самую крупную компьютерную сеть. Прогресс в данной области идет наиболее быстрыми темпами. Силу и влияние Интернета в немалой степени недооценивают. Сама по себе анархичность развития всемирной сети является свидетельством ее потенциала. Покуда наращиваются связность, полоса пропускания, архивные объемы и производительность компьютеров, мы наблюдаем нечто похожее на сверхпроцессор, который обрабатывает данные с производительностью в миллион раз большей и с миллионами разумных человеческих агентов (нас самих).

3. Машинно-человеческий симбиоз станет настолько тесным, что интеллект пользователей информационной сети можно будет обоснованно считать сверхчеловеческим. Этот путь активно разрабатывается кибернетикой, где идут работы по созданию искусственного интеллекта и нейросетей в тесной связи с биологической жизнью [4]. Вековечной мечтой научной фантастики являются прямые компьютерно-мозговые интерфейсы.

На практике в этой области ведутся конкретные работы:

- протезирование конечностей представляет собой область прямого коммерческого приложения, где прямые нейро-кремниевые преобразователи уже создаются. Это восхитительно досягаемый первый шаг к налаживанию прямой человеко-машинной связи;

- прямые каналы связи с мозгом. Они кажутся вполне осуществимыми, если битрейт достаточно низок: учитывая развитую обучаемость человека, едва ли потребуется точно выбирать мишени среди нейронов живого мозга. Даже 100 бит в секунду будут чрезвычайно полезны пострадавшим от паралича, которым, в противном случае, придется оставаться в заложниках у интерфейсов, построенных на структурированных меню;

- подсоединение к оптической магистрали. Оно сулит потенциал огромной пропускной способности. Однако для этого нам необходимо разобраться в тончайшем устройстве зрения, да еще потребуется вживление огромного количества электродов с необычайной точностью. Если мы хотим, чтобы широкополосное соединение прибавило еще возможностей к тем способностям по обработке данных, что уже имеются в человеческом мозге, проблема становится гораздо неподатливее. Эксперименты в этой области ведутся, и уже есть новости о том, что подключение цифровой камеры к зрительному нерву удается, а в продажу устройства поступят ориентировочно в 2008-2010 годах;

- эксперименты с зародышами животных. Обеспечение развивающемуся мозгу доступа к сложным симулированным нейроструктурам могло бы, в конечном итоге, привести к появлению животных с дополнительными нервными связями и интересными интеллектуальными способностями. Так, было сообщение о том, что пытаются получить мышь с мозгом человека. Конечно, мышь с человеческим мозгом навряд ли сама по себе будет полезна, но вот обратное… Если удастся использовать нервные клетки животных для замены человеческих, это по меньшей мере может помочь вылечить многие недуги. Влияние таких исследований несомненно велико.

4. Биология может обеспечить нас средствами улучшения естественного человеческого интеллекта.

Первые три пути напрямую связаны с совершенствованием компьютерного аппаратного обеспечения, а четвертый зависит от этого косвенно. Прогресс аппаратного обеспечения на протяжении уже нескольких десятилетий поразительно стабилен. Возникает вопрос: каковы будут последствия научного прорыва и появления сверхчеловеческого разума? Прогресс, направляемый интеллектом, превосходящим человеческий, станет значительно более стремительным. Нет оснований полагать, что прогресс не станет плодить все более разумные сущности ускоряющимися темпами. Лучшая аналогия, которую можно здесь провести – наше эволюционное прошлое. Животные могут приспособиться и проявлять изобретательность, но скорость их эволюции ограничена естественным отбором. В случае естественного отбора мир сам выступает в роли собственного симулятора. Мы, люди, обладаем способностью познавать окружающий мир и выстраивать у себя в голове причинно-следственные связи, поэтому решаем многие проблемы в тысячи раз быстрее, чем механизм естественного отбора. Когда же появится возможность просчитывать эти модели с более высокими скоростями, мы войдем в режим, который отличается от нашего человеческого прошлого не менее радикально, чем мы, люди, сами отличаемся от низших животных.

Также есть еще одно из возможных последствий – физическое вымирание человечества. Например, владея всеми подобными техническими возможностями, правительства, вероятно, решат, что простые граждане им не к чему. Однако, физическое вымирание – не самое страшное, что может случиться. Достаточно вспомнить братьев наших меньших – животных – и отношение к ним. В постчеловеческую эру найдется достаточно ниш, где человек будет востребован, а значит, сохранен, как вид. По этому поводу В.Виндж переформулировал золотое правило: «Обращайся с братьями меньшими так, как ты хочешь, чтобы старшие братья обращались с тобой» [5]. Последствия использования этого правила, рассчитанные согласно теории игры, в каком-то смысле говорят о том, что, если бы мы могли следовать этому правилу, то это могло бы говорить о распространенности подобных добрых намерений вообще во Вселенной.

В.Виндж напоминает, что, несмотря на то, что предотвратить создание сверхчеловеческого разума мы не сможем, но инициатором все же выступает человек. Значит, в нашей власти, менять начальные условия этого неуправляемого процесса, чтобы все происходило с минимальным для нас ущербом. Будет ли прок от предвидения и планирования? Зависит от того, будет ли переход к постчеловечеству резким или тихим. Резкий переход – это тот, при котором сдвиг к сверхчеловеческому контролю произойдет за несколько сотен часов. Спланировать такой переход трудно. Тихий переход может занять десятки лет, может быть, более века. В такой ситуации планирование возможно и можно вдумчиво экспериментировать [5] .

Если предположить, что людям удастся спланировать сверхчеловеческую эру, то и удастся воплотить самые сумасбродные мечты. Для не подвергшихся изменениям будет предложено мягкое обращение, возможно придание им статуса хозяев богоподобных слуг. Возможно, наступит новый золотой век, причем не лишенный прогресса. Бессмертие или чрезвычайно долгая жизнь станут достижимыми.

Прекрасный и добрый мир, но философские проблемы, «вздымающиеся» в этом мире, становятся поистине устрашающими. Если разум замкнут в одних границах, то он, по прошествии несколько тысяч лет, будет напоминать закольцованную пленку, нежели личность, т.е. бессмертие в таком случае ужасно. Чтобы жить неограниченно долго, сам разум должен расти («творческий порыв» по А.Бергсону). Ну и какие же родственные чувства он будет испытывать к тому, чем он являлся изначально, когда он разрастется до огромных размеров и оглянется в прошлое?

Понятие самосознания является основополагающим понятием в рационализме последних нескольких столетий. Однако самосознание как концепция подвергается нападкам со стороны приверженцев искусственного интеллекта. Уже сейчас скорости обмена информации в общедоступных сетях достаточно велики. Постчеловеческая картина мира предполагает наличие более мощных каналов связи, что произойдет, если части эго можно будет копировать, объединять, а объем самосознания сможет увеличиваться или уменьшаться в зависимости от масштабов решаемых задач, подстраиваясь под них. Звучит такое предположение дико, непривычно, но оно содержит в себе существенные черты сильного сверхчеловеческого. Именно это предположение В.Виндж приводит в качестве подтверждения чуждости постчеловеческой эры, в не зависимости от того, насколько продумано, спланировано, милосердно мы к ней подойдем [5].

Итак, с одной стороны, постчеловеческая картина мира описывает многие человеческие мечты о счастье: бесконечная жизнь, в которой мы умеем по-настоящему понимать друг друга и познаем тайны бытия. С другой стороны, она сильно напоминает худший сценарий развития событий. Какая же точка зрения обоснована? Постчеловеческая эра и постчеловеческая картина мира будут настолько иными, что не смогут вписаться в классические рамки противопоставления добра и зла. Это факт, но в заключение хочется вспомнить слова Ф.Дайсона: «Бог – это разум, переросший границы нашего понимания» [6, 28].

Литература:

1. Уинстон П. Искусственный интеллект. – М., 1980.

2. Моисеев Н.Н. Универсум. Информация. Общество. – М., 2001.

3. Мичи Д., Джонстон Р. Компьютер-творец. – М., 1987

4. См.: Винер Н. Кибернетика и управление или связь в животном и машине. – М., 1983.

5. Виндж В. Технологическая сингулярность. http://www.computerra.ru/think/35636/

6. Дайсон Ф. Оружие и надежда. – М., 1990.

А.Е. Никитин, г.Череповец