2. Философские и мировоззренческие проблемы, порождаемые nbic-конвергенцией. Стирание границ или новое пограничье?

NBIC-конвергенция имеет не только огромное научное и технологическое значение. Технологические возможности, раскрывающиеся в ходе NBIC-конвергенции, неизбежно приведут к серьезным культурным, философским и социальным потрясениям. В частности, это касается пересмотра традиционных представлений о таких фундаментальных понятиях, как жизнь, разум, человек, природа, существование.

Исторически эти категории формировались и развивались (начиная с уровня бытового осмысления и заканчивая философским осмыслением) в рамках привычной человеческой жизни, медленно изменяемого человеческого общества. Поэтому данные категории корректно описывают только явления и объекты, не выходящие за рамки знакомого и привычного. Пытаться использовать их в прежнем качестве, с прежним содержанием для описания нового мира, создаваемого на наших глазах с помощью технологий конвергенции, нельзя — точно так же, как неделимые, неизменные атомы Демокрита не позволяют научно достоверно описать термоядерный синтез на Солнце или объяснить механические свойства углеродных нанотрубок.

Возможно, что от основанной на повседневном опыте определенности человечеству предстоит перейти к пониманию того, что в реальном мире не существует четких границ между многими считавшимися ранее дихотомичными явлениями. Прежде всего, в свете последних исследований теряет свой смысл привычное различие между живым и неживым. Начиная с Демокрита (Виц 1979), философы рассматривали проблему сходства и различия живого и неживого. Впрочем, долгое время эта проблема рассматривалась преимущественно с идеалистических или даже эзотерических позиций.

Ученые-естествоиспытатели достаточно давно столкнулись с этой проблемой (еще Ламарк описывал различия между живым и неживым). Так, вирусы обычно не относят ни к живым, ни к неживым системам, рассматривая их как промежуточный по сложности уровень. После открытия (Collinge 2001: 519—520) прионов¹ — сложных органических молекул, способных к размножению — граница между живым и неживым оказалась еще более размытой. Развитие био - и нанотехнологий грозит полностью стереть эту грань. Построение целого спектра функциональных систем непрерывно усложняющейся конструкции — от простых механических наноустройств до живых разумных существ — будет означать, что принципиальной разницы между живым и неживым нет, есть лишь системы, в разной степени обладающие характеристиками, традиционно ассоциирующимися с жизнью (Baez 2005). Стоит отметить, что попытки определить принципиальные различия живого и неживого делаются достаточно давно. В рамках десятков подходов предложены сотни различных определений жизни (Википедия 2007), ни одно из которых не признано полным и полностью удовлетворительным.

Более того, с психологической точки зрения представление о существовании дихотомии «живое — неживое» может исчезнуть в самое ближайшее время, с появлением эффективных автономных роботов особенно — антропоморфных. Человеческое сознание склонно считать живым любой объект, который ведет себя должным образом (Patrice, Feldman 2000: 943—951).

Также постепенно стирается различие между мыслящей системой, обладающей разумом и свободой волей, и жестко запрограммированной. У нейрофизиологов, например, давно уже сформировалось понимание того, что человеческий мозг является биологической машиной: гибкой, но, тем не менее, запрограммированной кибернетической системой (Krogh, Roos 1995). Развитие нейрофизиологии позволило показать, что человеческие способности (такие, как распознавание лиц, постановка целей и т. п.) носят локализованный характер и могут быть включены или выключены вследствие органических повреждений определенных участков мозга (Young et al. 1998) или ввода в организм определенных веществ (Hasselmo 2005: 1115—1129). Исходя из подобного понимания работы мышления, российский специалист в области искусственного интеллекта А. Л. Шамис считает: «Не исключено, что все интерпретации психологического уровня окажутся возможными и на уровне компьютерного моделирования мозга. В том числе и интерпретация таких особенностей мозга, как интуиция, инсайт, творчество и даже юмор» (Шамис 2006).

Появление сильного искусственного интеллекта будет означать, что определенные алгоритмы поведения, с одной стороны, могут быть жестко запрограммированы и полностью поняты программистом (что, впрочем, уже происходит (Reynolds 1987: 25—34)), а с другой — могут реализовывать разумное поведение у компьютеров и роботов.

Как отмечалось выше, стирание границ между живым и неживым может лишить смысла «абсолютистское» понимание жизни. А если нет ничего «абсолютно» живого, то многие ценности, выросшие на этой почве («святость жизни», ограничение на убийство или использование живых существ, как в ахимсе), также размываются. Уже сейчас живые существа создаются «искусственно»: с помощью генной инженерии. Недалек тот день, когда станет возможным создавать сложные живые существа (в т. ч., с помощью нанотехнологий) из отдельных элементов молекулярных размеров. Помимо расширения границ человеческого творчества, это неизбежно будет означать трансформацию наших представлений о рождении и смерти.

Одним из следствий таких возможностей станет распространение «информационной» интерпретации жизни, когда ценность представляет не только материальный объект (в том числе — живое существо) как таковой, но и информация о нем. Это приведет к реализации сценариев так называемого «цифрового бессмертия» (Bell, Gray 2000): восстановления живых разумных существ по сохранившейся информации о них. Такая возможность, до недавней поры рассматриваемая только писателями-фантастами и отчасти повседневной традицией (бессмертие, воплощенное в делах и творчестве), уже обретает первые черты. Так, в 2005 году компанией Hanson Robotics был создан робот-двойник писателя Филиппа Дика, воспроизводящий внешность писателя с загруженными в примитивный мозг-компьютер всеми произведениями писателя. С роботом можно разговаривать на темы творчества Дика (Hanson Robotics 2005) Возможно, что в перспективе человек будет считаться живым в различной степени в зависимости от сохранности информации о нем, полученной с помощью психологических опросников (Bainbridge 2003) или записывающих устройств.¹

Исследователи, работающие в области когнитивной науки, информационных технологий, в частности технологий искусственного интеллекта, стремятся к созданию разумных систем, работающих на основе простых правил (Utah Museum of Natural History 1993: 202—207). В основе подобных работ лежит предположение, что достаточно сложная система простых правил может не только производить впечатление разумной (при оценке по поведению), но и быть разумной, настолько, насколько об этом вообще возможно судить.

Так, сложное поведение бактерии, насекомого, животного, человека состоит из множества простых правил (Goertzel 1999). На примере бактерий, некоторые из которых обладают зрением (!) (The International Journal of Developmental Biology 2004), обонянием и другими чувствами, мы можем наблюдать механистичность их поведения. Увеличение концентрации некоторого вещества в окружающей среде или поток фотонов запускают сложный каскад химических реакций, который вызывает реакцию организма. Аналогичным образом, человеческий разум, во всей его сложности, вполне может быть структурирован, разбит в описательных целях на блоки и подсистемы, определенным образом взаимодействующие (Kurzweil 2005: 480). Светочувствительные клетки реагируют на количество фотонов, попадающих в глаз после отражения от фрагментов букв на этом листе бумаги. Группы из нескольких нейронов в зрительной зоне мозга путем несложных математических манипуляций выделяют вертикальные и горизонтальные линии. Уровень за уровнем, формируется комплекс реакций в человеческом мозгу, который завершается пониманием и творческим осмыслением текста.

И как бы ни хотелось некоторым авторам (Penrose 1990) возродить идею неких идеальных эссенций (жизни, разума и т. д.), каких-либо убедительных оснований для этого не видно. И возможно, что живое — это просто очень сложное неживое, а разумное — просто очень сложное неразумное.

Примером произвольного отнесения объектов к классу разумных являются утверждения о том, что «машина» (компьютер, искусственный интеллект, робот) априори не может мыслить. Аргументы, основанные на том, что человеческий разум обладает каким-то уникальным (и принципиально невоспроизводимым) качеством, сложно практически опровергнуть сегодня, когда искусственный интеллект находится на уровне узкоспециализированного эксперта, но по мере развития исследований в этой области (и в особенности — прогнозируемого постепенного симбиоза компьютерных систем с человеческим разумом) эти аргументы будут терять свою силу. Как пишет А. Л. Шамис, «четкого логического обоснования необходимости какого-то нематериального субстрата для объяснения работы мозга не существует» (Шамис 2006).

Пересматривать также приходится и само понятие «человек». Сначала с появлением абортов (а потом и в связи с развитием биотехнологий) человечество столкнулось с такими проблемами как определение момента возникновения человеческой жизни. Встал вопрос о применимости понятия «человек» к эмбриону на разных стадиях его развития. По мере перестройки человека вопрос о границах «человечности» встанет еще не раз.

Относительно просто этот вопрос решается, когда мы улучшаем наличествующую на данный момент природу человека (медицина, протезирование, очки и пр.). Несколько сложнее дело обстоит с преображением, модификацией человека. Исторически сложилось, что верхней границы «человечности» нет. Возможно, что — ввиду ее неактуальности до последнего времени — теме определения границ «человечности» уделяли мало внимания. Но если человек сознательно приобретет нечто, ранее людям не свойственное (жабры, например), и откажется от свойственного (легкие в данном случае), можно ли говорить о «потере человечности»?¹ Единственным разумным решением подобных вопросов представляется заключение о том, что «человек» — это всего лишь удобный термин, который мы придумали для отображения привычного для нас мира.

Как мы видим, точно так же, как с традиционными дихотомиями живое — неживое, разумное — неразумное, существование границы между человеком и нечеловеком может быть также подвергнуто сомнению. И подводит нас к этому именно современная наука, NBIC-конвергенция — в первую очередь.

В качестве примера относительности понятия разумного можно привести идеи, планы и достижения по так называемому «возвышению» («аплифтингу») животных (Dvorsky 2006). Известно, что способности современного человека в основном определяются воспитанием и образованием, которые он получает. Без этого его интеллектуальный и психологический уровень соответствовал бы уровню пещерного человека. Существует немало данных, говорящих о том, что при адекватном воспитании некоторые животные (прежде всего, высшие приматы, возможно, и дельфины) проявляют необычайно высокие способности (Savage-Rumbaugh 2005). Обеспечить животных соответствующим воспитанием и образованием может стать этически необходимым для человека на определенном этапе его развития. Кроме того, иные инструменты (регулировка обмена веществ, усиление мозга животных с помощью прямых интерфейсов, генная инженерия и т. д.) тоже могут быть эффективны в этой работе.

При подобном развитии событий такие животные смогут считаться разумными, а значит, грань между человеком (разумным) и животными станет не столь явной.

Аналогичным образом, развитие гуманоидных роботов и наделение их искусственным интеллектом приведет к стиранию границ между человеком и роботом (Breazeal 2002).

Столь же неоднозначным является вопрос, что же в будущем будут называть природой. Представление о человеке как небольшом, слабом существе в большом, враждебном и опасном мире неизбежно изменяется по мере того, как человек получает все больший контроль над миром. С развитием нанотехнологий человечество потенциально может взять под контроль любые процессы на планете. Нанотехнологии дают неограниченные производственные возможности, а значит, наномашины могут быть распространены по всему объему планеты Земля. Искусственный интеллект может эффективно управлять всей совокупностью наномашин. Существующие проекты глобальной защиты, такие как NanoShield (LifeBoat 2007) предлагают такой уровень контроля для целей обеспечения безопасности, но функции подобной системы могут быть расширены для обеспечения тотального контроля над всеми процессами на Земле, включая всю жизнь.

Что будет при этом являться «природой», где будет находиться «природа», да и вообще — существует ли «природа» на планете, где нет места масштабным случайным явлениям, где постоянно контролируется все — от глобальной погоды до биохимических процессов в отдельной клетке? Здесь проглядывает стирание еще одной дихотомии: искусственное — естественное (или культура — природа).

Непредвзятый анализ показывает, что идея о том, что природа может «мстить» (Kaplinsky 2006), о том, что более развитые технологии обязательно приносят бóльшие риски и бóльшие негативные последствия, не имеет под собой серьезных оснований. Такие риски могут быть вызваны недостаточным для решения возникших проблем уровнем развития технологий (Назаретян 2001). Но сейчас уже ставится вопрос о создании отказоустойчивых систем с гарантированно надежной работой (Паронджанов 2001). Создание таких систем неизбежно будет включать в себя и разработку контрольных систем и алгоритмов безотказной работы. Большой вклад в этот процесс вносит и может внести такое активно развивающееся направление, как управление рисками.

Помимо исчезновения стихийности, важным отличием контролируемого мира будет искусственность (в современном понимании этого слова) его содержимого. Планета (впрочем, речь может идти и о космической станции или виртуальном мире) больше не будет местом, где человек оказался, она будет артефактом, созданным человеком.

Столь же непривычно в свете развития NBIC-конвергенции видоизменяется понятие существования какого-то объекта. Первым шагом на пути трансформации философской категории существования будет «информационный» взгляд на объекты (в чем-то схожий с платонизмом). Если с точки зрения сторонних наблюдателей нет разницы между физическим существованием объекта и существованием информации о нем (как в случае с компьютерной симуляцией или восстановлением объекта по косвенной информации о нем), то становится вопрос: следует ли придавать особое значение физическому существованию носителя информации (Turing 1950: 433—460)? Если нет, то какой объем информации должен сохраняться, и в какой форме, чтобы можно было говорить о существовании информационном? Неизбежно рассмотрение этих вопросов приведет к исчезновению определенности даже относительно того, что есть существование.