- •Препринт
- •Часть 1. Общие обзоры темы 6
- •Часть 2. Оценка вероятности глобальной катастрофы 201
- •Часть 3. Глобальные риски и новые технологии 374
- •Часть 4. Глобальные риски, связанные с природными катастрофами 545
- •Предисловие
- •Часть 1. Общие обзоры темы глобальных рисков Билл Джой. Почему мы не нужны будущему
- •Вернор Виндж. Технологическая Сингулярность
- •Введение
- •Типология рисков
- •Ник Бостром. Угрозы существованию: Анализ сценариев человеческого вымирания и других подобных опасностей.
- •Риски существованию
- •Уникальность проблемы угроз существованию
- •4. Классификация рисков существованию
- •5. Взрывы
- •5.1. Преднамеренное злоупотребление нанотехнологиями
- •5.2. Ядерный холокост
- •5.3. Мы живем в симуляции, и она выключается
- •5.5. Генетически сконструированный биологический объект
- •5.6. Ошибочное применение опасных нанотехнологий («серая слизь»).
- •5.7. Нечто непредвиденное
- •5.8. Катастрофы в результате физических экспериментов
- •5.9. Естественно возникшее заболевание
- •5.10. Столкновение с астероидом или кометой
- •5.11. Неудержимое глобальное потепление
- •6. Сужения
- •6.1. Истощение ресурсов или разрушение экологии
- •6.2. Сбившееся с курса мировое правительство или другое неподвижное социальное равновесие остановит технологический прогресс
- •6.3. Давление «вырождения»
- •6.4. Технологическая остановка
- •7. Скрипы
- •7.2. Сверхинтеллект с ошибкой
- •7.3. Глобальный репрессивный тоталитарный режим
- •7.4. Нечто непредвиденное1
- •8. Всхлипы
- •8.1. Наш потенциал и даже наши базовые ценности разъедаются развитием в ходе эволюции
- •8.2 Уничтожение внеземной цивилизацией
- •9.2 Парадокс Ферми
- •9.3 Эффекты наблюдательной селекции
- •9.4 Рассуждение о Симуляции
- •9.5 Когнитивные искажения
- •9.6 Оценка собранных данных
- •10. Рекомендации, касающиеся стратегии и этики
- •10.1. Поднимать известность проблемы рисков существованию
- •10.2 Создать структуру для международных действий
- •10.3 Сохранять готовность к превентивному действию в качестве последнего средства
- •10.4 Регулирование скорости развития технологий
- •10.5 Программы, направленные на прямое уменьшение конкретных угроз существованию
- •10.6. Максипок: эмпирическое правило для этичных поступков
- •Выражения признательности
- •Приложение: очерк эволюционного «всхлипа»
- •Библиография
- •Елиезер Юдковски. Когнитивные искажения, влияющие на оценку глобальных рисков
- •Введение
- •1. Доступность информации
- •2. Когнитивные искажения, связанная со знанием «задним числом».
- •3. Черные лебеди
- •4. Ошибочное включение лишнего элемента
- •5. Ошибочность рассуждений, вызванная эффектом подтверждения
- •6. Якорение, настройка и загрязнение
- •7. Рассуждения, обусловленные аффектом
- •8. Пренебрежение масштабом
- •9. Калибровка и сверхуверенность
- •10. Апатия прохожего
- •Последнее предупреждение
- •Заключение
- •Рекомендуемое чтение
- •Библиография
- •Дэвид Брин. Сингулярность и кошмары
- •А.А. Кононов.Идеологические начала общей теории неуничтожимости человечества
- •Угрозы уничтожения человечества
- •Неуничтожимость как главная сверхзадача цивилизации
- •Качества неуничтожимой цивилизации
- •О необходимости разработки теоретических основ решения задач неуничтожимости человечества
- •Робин Хансен. Катастрофа, социальный коллапс и человеческое вымирание
- •Алексей Турчин. Процессы с положительной обратной связью как основной механизм глобальных катастроф
- •Часть 2. Оценка вероятности глобальной катастрофы Ник Бостром1, Макс Тегмарк2. Насколько невероятна катастрофа судного дня?
- •Ник Бостром. Рассуждение о Конце Света для начинающих
- •Ник Бостром. Doomsday Argument жив и брыкается
- •Ник Бостром Доказательство симуляции
- •1.Введение
- •2. Предположение о независимости от носителя
- •3.Технологические пределы вычислений
- •4. Ядро доказательства о симуляции
- •5. Мягкий принцип равнозначности
- •6. Интепретация
- •7. Заключение
- •Введение: угрозы существованию и эффекты наблюдательной селекции
- •«Карманная» модель антропного искажения1
- •Обобщение модели
- •Антропное искажение: недооценка естественных угроз
- •Какие угрозы существованию подвержены антропной тени?
- •Антропные тени и риски физических экспериментов
- •Заключение
- •Приложение: словарь
- •Благодарности
- •Алексей Турчин. Природные катастрофы и антропный принцип
- •Введение
- •1. Антропный принцип. Эффект наблюдательной селекции. Результаты Бострома и Тегмарка
- •2. Природные катастрофы
- •3. Применение антропного принципа для анализа частоты природных катастроф
- •4. Нарушение устойчивости природных систем, находящихся на грани равновесия, в связи с человеческой деятельностью
- •5. Быстрая эволюция разума в периоды высокой интенсивности природных катастроф
- •6. Заключение
- •Приложение a. Плотность наблюдателей во вселенной, частота катастроф и антропный принцип
- •Литература:
- •Тоби Орд, Рафаела Хиллербранд, Андрес Сандберг. Проверяя непроверяемое: методологические вызовы в оценке рисков с низкой вероятностью и высокими ставками
- •Введение
- •Оценка вероятностей
- •3. Теории, модели и вычисления
- •4. Применение нашего анализа к рискам экспериментов на ускорителях
- •5. Заключение
- •Эдриан Кент. Критический обзор оценок рисков глобальных катастроф
- •Часть 3. Глобальные риски и новые технологии Eлиезер Юдковски. Искусственный интеллект как позитивный и негативный фактор глобального риска
- •1. Систематическая ошибка, связанная с антропоморфизмом
- •1.1: Широта пространства возможных устройств ума
- •2: Предсказание и устройство
- •4: Способности и мотивы
- •4.1: Процессы оптимизации
- •4.2: Наведение на цель
- •5: Дружественный ии
- •6: Техническая неудача и философская неудача
- •6.1: Пример философской ошибки
- •6.2: Пример технической неудачи
- •7: Темпы усиления интеллекта
- •8: Оборудование
- •9: Угрозы и перспективы
- •10: Локальные стратегии и стратегии большинства
- •11: Ии и усиление человеческого интеллекта
- •12: Взаимодействие ии и других технологий
- •13: Ход прогресса в области Дружественного ии
- •Роберт Фрейтас. Проблема Серой Слизи
- •Crn. Опасности молекулярного производства
- •М. Вассер, р.Фрайтас. Проект «Нанощит»
- •Алексей Карнаухов. Парниковая катастрофа.
- •Милан Чиркович, Ричард Каткарт. Гео-инженерия, пошедшая насмарку: новое частное решение парадокса Ферми
- •1. Введение
- •2. Макроинженерия и сценарий катастрофы
- •3. Миссия к центру Земли
- •4.Начало процесса вымирания
- •5.Применение сказанного к проблемам астробиологии
- •6. Культурологические и климатологические аспекты
- •7.Заключение
- •Ричард Керригэн. Следует ли обеззараживать сигналы seti?
- •А.В.Турчин. Глобальные риски, связанные с программой seti
- •1. История вопроса
- •2. Сценарий возможной атаки
- •3. Анализ возможных целей атаки
- •4. Возражения
- •П.Д. Смит. Кобальтовая бомба (отрывок из книги «Люди судного дня»)
- •Часть 4. Глобальные риски, связанные с природными катастрофами Владислав Пустынский. Последствия падения на Землю крупных астероидов
- •Уильям Нейпьер. Опасность комет и астероидов
- •1. Нечто вроде огромной горы
- •2.Как часто по нам бьют?
- •2.1 Ударные кратеры
- •2.2. Поиск околоземных объектов
- •2.3. Динамический анализ
- •3. Эффекты столкновения
- •4. Роль пыли
- •5. Наземная проверка?
- •6. Неопределённости
- •Майкл Рампино. Супервулканизм и другие катастрофические геофизические процессы
- •3. Вулканическая зима
- •4. Возможные последствия сверхизвержения для окружающей среды
- •5. Сверх-извержения и человеческая популяция
- •6. Частота сверхизвержений
- •7. Влияние сверхизвержения на цивилизацию
- •8. Сверхизвержения и жизнь во Вселенной
- •Арнон Дар. Влияние сверхновых, гамма-всплесков, солнечных вспышек и космических лучей на земную окружающую среду
- •1. Введение
- •2. Радиационные угрозы
- •2.1 Достоверные угрозы
- •2.2. Солнечные вспышки
- •2.3. Солнечная активность и глобальное потепление
- •2.4 Вымирание в результате солнечной активности
- •2.5 Излучение от взрывов сверхновых
- •2.6 Гамма-всплески
- •3. Угрозы от космических лучей.
- •3.1 Изменения магнитного поля Земли
- •3.2 Солнечная активность, космические лучи и глобальное потепление
- •3.3 Прохождение через галактические спиральные рукава
- •3.4 Космические лучи от недалёкой сверхновой
- •3.5. Космические лучи от гамма-всплесков.
- •4. Причины крупнейших массовых вымираний
- •5. Парадокс Ферми и массовые вымирания
2. Природные катастрофы
Как мы уже говорили, применение эффекта наблюдательной селекции к космологическим катастрофам рассмотрено в статье Бострома и Тегмарка. Они изучали катастрофы, вероятность которых равномерно распределена на огромном промежутке времени от возникновения вселенной до настоящего момента. Благодаря этому они получили оценки, что такого рода катастрофа вряд ли произойдёт в ближайший миллиард лет. (Однако их вывод не является 100 процентной гарантией, поскольку базируется на ряде достоверных, но не 100 процентно точных данных, полученных крайне косвенным образом – а именно, о частоте распределения потенциально обитаемых планет в галактике и предположении равномерности распределения во времени частоты космологических катастроф – судя по всему, ложном, хотя бы потому что интенсивность излучения квазаров и частота гамма-всплесков со временем падает.) Однако в это статье мы рассмотрим катастрофы, которые относятся к гораздо более краткому промежутку времени, а именно – к времени существованию обитаемой Земли, и которые имеют не равномерное, а нелинейное распределение вероятности.
Эти природные катастрофы не являются внешними по отношению к Земле и Солнечной системе, и поэтому не попадают, если говорить точно, под определение космологических катастроф, но они также и не созданы руками человека.
При этом приходится полагаться на теоретические экспертные заключения о возможности тех или иных катастроф, которые носят вероятностный или спорный характер, поскольку речь идёт о событиях, которых никогда не случалось. В данной статье мы оставим в стороне сложный вопрос о том, как определять степень достоверности того или иного сценария на основании более или менее авторитетных экспертных заключений. Отметим только следующие общие правила описания рисков:
Полезнее считать некий риск возможным до тех пор, пока строго не доказана его невозможность.
Если эксперт считает нечто невозможным, он скорее ошибается, чем другой эксперт, который считает нечто возможным. Потому что суждение о невозможности гораздо сильнее и достаточно одного исключения, чтобы его опровергнуть.
Субъективные оценки, не подкреплённые точными вычислениями, обычно ошибочны по примерно логарифмической шкале, например, если некто утверждает, что событие имеет шанс один к десяти, то он прав в 60 процентах случаев, а если он утверждает, что шансы составляют один к миллиону, то он прав с вероятностью в 90 процентов. См. подробнее об ошибках экспертов в оценке рисков статью Юдковского [Yudkowsky, 2007].
Отметим принципиальное различие в терминах. Есть «крупные катастрофы» – это события, которые приносят неисчислимые бедствия, но не прекращают развития человечества, например грипп «испанка» или «цунами в Юго-Восточной Азии». И есть «глобальные катастрофы» – «угрозы существованию» (existential risks), то есть события, которые могут необратимо прервать существование разумной жизни на Земле. Только последние рассматриваются в данной статье.
Список возможных глобальных природных катастроф велик. Одним из таких событий может стать извержение супервулкана. Извержение супервулкана Тоба в Индонезии 74 000 лет назад вызвало всемирную вулканическую зиму, продолжавшуюся 6 лет. Количество предков современного человека, живших в Африке, сократилось до нескольких тысяч – фактически, они были на грани вымирания. Это извержение не было самым сильным из возможных, его величина – 7 баллов по 8 бальной шкале вулканических землетрясений. Извержение вулкана Йеллоустоун 2 миллиона лет назад было 8 балльным. Горные породы в Сибири и Индии хранят следы о ещё более масштабных площадных извержениях, произошедших десятки и сотни миллионов лет назад. [Биндеман, 2006]
Глобальная опасность вулканических событий состоит не только в вулканической зиме, аналогичной «ядерной зиме», но и связанных с вулканизмом процессах дегазации земного ядра. Некоторые авторы утверждают, что выделение из земного ядра небиогенного кислорода сделает земную атмосферу непригодной для жизни через 600 миллионов лет [Соротихин, 2002].
Взрыв гиперновой (сверхновой максимальной силы), приводящий к образованию гамма-всплеска, направленного на землю, может привести к уничтожению озонового слоя на несколько лет и мощному радиоактивному заражению, даже если расстояние до гиперновой будет 500 (а по некоторым данным – 3000) световых лет, хотя, вероятно, для нашей галактики это крайне редкое явление. «Наилучший кандидат» в опасные гиперновые – это звезда Эта Киля (Eta Carinae) массой более 100 солнечных, находящаяся на расстоянии 7500-8000 световых лет от нас. Взорваться, хотя и слабее, в ближайшие тысячи лет может также Бетельгейзе (427 св. лет от Земли). Однако подсчёты показывают, что для взрыва обычной сверхновой, без гамма-всплеска, безопасны расстояния до 8 световых лет. Такие события случаются в среднем раз 1,5 млрд. лет [Gehrels, 2003].
Шкловский [Шкловский, 1984] выдвинул гипотезу о том, что периодические конвекции в солнечном ядре с периодом в 200 млн. лет ответственны за глобальные вымирания и ледниковые периоды, а также объясняют проблему солнечных нейтрино. Сейчас проблема недостатка солнечных нейтрино разрешена – обнаружена осцилляция нейтрино из одного типа в другой. Однако есть ряд гипотез о разных длительных циклах Солнечной активности. В любом случае, светимость солнца по современным моделям постоянно растёт, а количество водорода в его центре убывает, что может сделать его горение нестабильным. Важно отметить, что для глобальной катастрофы на Земле Солнцу не нужно становиться ни новой, и ни сверхновой звездой, а достаточно изменить свою светимость на 10-20 процентов в течение 100 лет. Нам также неизвестно, каков верхний предел энергии вспышек на Солнце, связанных с пятнами и магнитными полями. При этом особенно мощная вспышка может быть очень опасной или безопасной в зависимости от того, направлен ли выброс заряженных частиц в сторону Земли или нет.
В каждой галактике есть центральная чёрная дыра. И в некоторых галактиках они являются мощнейшими источниками излучения, что связано с аккрецией вещества на чёрную дыру. В нашей Галактике тоже есть центральная чёрная дыра, однако она спит. Это связано с тем, что в настоящий момент на неё не падает много вещества, и с тем, что она уже достигла такого большого размера, что вещество при падении проходит горизонт событий гораздо более плавно и меньше излучает. Тем не менее, активизация центральной чёрной дыры была бы неприятным сюрпризом для человечества, способным поставить его на грань существования.
Столкновение с астероидом было бы особенно опасным, если бы он упал в океан, так как океан бы почти без потерь перенёс большую часть его энергии в виде цунами на континенты на огромные расстояния. Кроме того, столкновение с крупным астероидом вызвало бы всеобщее сверхземлетрясение, которое бы разрушило все города и запыление атмосферы, аналогичное «вулканической зиме». Однако важно правильно оценивать масштаб разрушений от астероидов разных размеров. Одна тонна астероидного вещества по энергии примерно соответствует 100 тоннам тротила. Небесные тела размером до километра встречаются гораздо чаще, чем более крупные, но разрушения от них не приведут к вымиранию человечества. Более опасны кометы. Кометы приходят неожиданно и на большой скорости из облака Оорта, кроме того, возможно, что на кометы не распространяется линейный закон, связывающий размеры астероида и средние время его выпадения – чем больше астероид, тем реже он падает, – поскольку самые мелкие кометы, будучи кусками льда, уже испарились. Критическим для выживания человечества является размер падающих небесных тел порядка нескольких километров, а для всей биосферы – в десятки и даже сотни километров. Возмущения Солнечной системы от проходящих рядом звёзд могут вызывать кометные дожди.
Одной из довольно маргинальных, но принимаемой несколькими исследователями (Лавлок, Карнаухов) возможностью глобальной катастрофы является убегающий парниковая катастрофа (runaway greenhouse effect). В отличие от продвигаемой средствами массовой информации концепции парникового эффекта, которая утверждает, что при худшем сценарии температура земли возрастёт на 2 градуса и уровень океана повысится на несколько метров, эти исследователи утверждают, что парниковый эффект находится на пороге необратимости, пройдя который, он войдёт в фазу положительной обратной связи и температура Земли возрастёт на десятки и сотни градусов, делая жизнь на земле невозможной. Это связано с тем, что водяной пар (не в форме облаков, а растворённый в воздухе) является сильнейшим парниковым газом – а запасы готовой испаряться воды на земле неограниченны. Кроме того, постепенное увеличение светимости Солнца, увеличение длины земных суток, накопление углекислого газа и снижение растворимости углекислого газа в океанах с ростом температуры работают на то, чтобы сделать парниковый эффект более сильным. Но ещё один фактор чреват резким увеличением парникового эффекта – разрушение огромных запасов газовых гидратов на дне моря, которое приведёт к выделению в атмосферу больших количеств метана – сильнейшего парникового газа. Разрушение газовых гидратов может принять характер цепной реакции, что уже однажды произошло несколько десятков миллионов лет назад, когда температура Земли повысилась на несколько тысяч лет примерно на 10 градусов. Однако тогда гидратов было гораздо меньше. Возможно, что понимание рисков необратимой катастрофы уже в этом веке стоит за усилиями правительств по снижению выбросов парниковых газов. Этот сценарий можно назвать Венерианским, потому что именно благодаря парниковому эффекту на поверхности Венеры температуры составляет более 400 С. Глобальное потепление является системным риском, поскольку в нём увязано множество разных факторов: Солнце, земные недра, океаны, человек, политика, вулканизм.
Обратный сценарий можно было назвать марсианским – полное вымораживание планеты в результате глобального похолодания, которое превратит всю Землю в «заморожённый шарик», настолько успешно отражающий солнечные лучи, что он не может разогреться. Несколько раз в истории земли это уже случалось, но затем земля была разморожена мощным извержением вулканов.
На примере соседних планет мы можем видеть, что катастрофы планетарного масштаба уже случались – Марс (улетучивание атмосферы и замораживание), Венера (возможно, дегазация недр и определённо парниковый эффект). То есть речь не идёт о гипотетически редких событиях; наоборот, именно земля – исключение из правил. Вместе с тем частота разных рисков колеблется от сотен лет до миллиардов.
Вот ещё одно свидетельство того, что реальная частота глобальных катастроф, как мы и предсказывали, составляет 100 млн, лет:
«Звезда-супергигант, превращаясь в конце жизни в черную дыру, посылает в космос разрушительное гамма-излучение, которое стерилизует все планеты на своем пути, полагает Арнон Дар. Вероятность оказаться на пути такого излучения для планеты из нашей галактики выпадает раз в 100 миллионов лет».
Другое свидетельство того, что условия нашего существования уже начали ухудшатся, состоит в том, что мы живём сейчас в период интенсивной кометной бомбардировки, при которой частота импактов в 100 раз выше средней.
«Такие модели использовались для предположений, что импакты 10-мегатонного класса и более сильные случаются на Земле раз в 2000-3000 лет (Stuart and Binzel, 2004), однако Тунгусский импакт имел место только 100 лет назад. Точно также импакты с энергией в 1000 мегатонн предсказываются раз в 60 000 лет (Morbidelli et al., 2002), и тем не менее, в течение двух лет после этого предсказания был обнаружен 1000 мегатонный астероид, который пройдёт на расстоянии 6 земных радиусов в 2029 год. Точно также, оценка частоты столкновения Земли с активными кометами в 7 км диаметром оценивается иногда как 1 раз в 3 миллиарда лет, и тем не менее низкоактивная комета такого размера IRAS-Araki-Alcock прошла на расстоянии 750 радиусов Земли в 1983 году, что более согласуется с частотой импактов в 200 раз большей. Hughes (2003) исследовал распределение близких пролётов известных NEO, пролетающих мимо Земли, использовав для своих исследований все известные сближения в 2002 году. Он обнаружил, что импакты класса Тунгуски должны случаться раз в 300 лет, а для 1000-мегатонного класса разброс сроков составляет 500-5000 лет. Эта «наземная проверка» основана на небольшом количестве недавних сближений, но показывает, что всё ещё имеется значительная неопределённость в оценках частоты импактов (Asher et al., 2005).
Окончательная «наземная проверка» должна быть, конечно, найдена на земле. Courty et al. (2005), в серии детальных седименталогических исследований обнаружили свидетельства широкого распространения горячих, мелкодисперсных выбросов по всей тропической Африке, Ближнему Востоку и Западной Азии, которые она датирует 2600-2300 до н.э. и связывает резкими изменениями природной среды в этот период. Abbott et al. (2005), исследовавшие керны льда из Западной Антарктиды, получили множество данных, которые они нашли согласующимися с импактным выбросом из 24 километрового кратера Mahuika на южном шельфе Новой Зеландии. Эти последние аномалии датируются около 1443 года н.э., и большой импакт в столь недавнее время кажется очень маловероятным, поскольку его эффекты должны были бы повсеместно ощущаться; с другой стороны, депозиты мегацунами высотой 130 метров в Jervis Bay в Австралии датируются 1450±50 годом нашей эры. Эти направления исследований являются довольно новыми, и всё ещё должны быть повергнуты тщательному критическому анализу; и если они его выдержат, может быть сделан вывод о том, что мы живём в период высокого риска.»
В статье Уильям Нейпьер. Опасность комет и астероидов http://www.scribd.com/doc/9726345/- есть следующее наблюдение:
«Таким образом, средняя частота гамма-всплесков, направленных на нас в нашей галактике равна примерно Jgrb/(1 + z)4 ~ 0-75 x 10~8 в год, или один раз в 130 млн. лет. Если большинство этих гамма-всплесков имеет место не намного дальше чем на расстоянии до галактического центра, то их эффект является летальным, и их частота согласуется с частотой массовых вымираний на нашей планете за последние 500 млн.лет.» Арнон Дар. «Влияние сверхновых, гамма-всплесков, солнечных вспышек и космических лучей на земную окружающую среду.»
