- •Препринт
- •Часть 1. Общие обзоры темы 6
- •Часть 2. Оценка вероятности глобальной катастрофы 201
- •Часть 3. Глобальные риски и новые технологии 374
- •Часть 4. Глобальные риски, связанные с природными катастрофами 545
- •Предисловие
- •Часть 1. Общие обзоры темы глобальных рисков Билл Джой. Почему мы не нужны будущему
- •Вернор Виндж. Технологическая Сингулярность
- •Введение
- •Типология рисков
- •Ник Бостром. Угрозы существованию: Анализ сценариев человеческого вымирания и других подобных опасностей.
- •Риски существованию
- •Уникальность проблемы угроз существованию
- •4. Классификация рисков существованию
- •5. Взрывы
- •5.1. Преднамеренное злоупотребление нанотехнологиями
- •5.2. Ядерный холокост
- •5.3. Мы живем в симуляции, и она выключается
- •5.5. Генетически сконструированный биологический объект
- •5.6. Ошибочное применение опасных нанотехнологий («серая слизь»).
- •5.7. Нечто непредвиденное
- •5.8. Катастрофы в результате физических экспериментов
- •5.9. Естественно возникшее заболевание
- •5.10. Столкновение с астероидом или кометой
- •5.11. Неудержимое глобальное потепление
- •6. Сужения
- •6.1. Истощение ресурсов или разрушение экологии
- •6.2. Сбившееся с курса мировое правительство или другое неподвижное социальное равновесие остановит технологический прогресс
- •6.3. Давление «вырождения»
- •6.4. Технологическая остановка
- •7. Скрипы
- •7.2. Сверхинтеллект с ошибкой
- •7.3. Глобальный репрессивный тоталитарный режим
- •7.4. Нечто непредвиденное1
- •8. Всхлипы
- •8.1. Наш потенциал и даже наши базовые ценности разъедаются развитием в ходе эволюции
- •8.2 Уничтожение внеземной цивилизацией
- •9.2 Парадокс Ферми
- •9.3 Эффекты наблюдательной селекции
- •9.4 Рассуждение о Симуляции
- •9.5 Когнитивные искажения
- •9.6 Оценка собранных данных
- •10. Рекомендации, касающиеся стратегии и этики
- •10.1. Поднимать известность проблемы рисков существованию
- •10.2 Создать структуру для международных действий
- •10.3 Сохранять готовность к превентивному действию в качестве последнего средства
- •10.4 Регулирование скорости развития технологий
- •10.5 Программы, направленные на прямое уменьшение конкретных угроз существованию
- •10.6. Максипок: эмпирическое правило для этичных поступков
- •Выражения признательности
- •Приложение: очерк эволюционного «всхлипа»
- •Библиография
- •Елиезер Юдковски. Когнитивные искажения, влияющие на оценку глобальных рисков
- •Введение
- •1. Доступность информации
- •2. Когнитивные искажения, связанная со знанием «задним числом».
- •3. Черные лебеди
- •4. Ошибочное включение лишнего элемента
- •5. Ошибочность рассуждений, вызванная эффектом подтверждения
- •6. Якорение, настройка и загрязнение
- •7. Рассуждения, обусловленные аффектом
- •8. Пренебрежение масштабом
- •9. Калибровка и сверхуверенность
- •10. Апатия прохожего
- •Последнее предупреждение
- •Заключение
- •Рекомендуемое чтение
- •Библиография
- •Дэвид Брин. Сингулярность и кошмары
- •А.А. Кононов.Идеологические начала общей теории неуничтожимости человечества
- •Угрозы уничтожения человечества
- •Неуничтожимость как главная сверхзадача цивилизации
- •Качества неуничтожимой цивилизации
- •О необходимости разработки теоретических основ решения задач неуничтожимости человечества
- •Робин Хансен. Катастрофа, социальный коллапс и человеческое вымирание
- •Алексей Турчин. Процессы с положительной обратной связью как основной механизм глобальных катастроф
- •Часть 2. Оценка вероятности глобальной катастрофы Ник Бостром1, Макс Тегмарк2. Насколько невероятна катастрофа судного дня?
- •Ник Бостром. Рассуждение о Конце Света для начинающих
- •Ник Бостром. Doomsday Argument жив и брыкается
- •Ник Бостром Доказательство симуляции
- •1.Введение
- •2. Предположение о независимости от носителя
- •3.Технологические пределы вычислений
- •4. Ядро доказательства о симуляции
- •5. Мягкий принцип равнозначности
- •6. Интепретация
- •7. Заключение
- •Введение: угрозы существованию и эффекты наблюдательной селекции
- •«Карманная» модель антропного искажения1
- •Обобщение модели
- •Антропное искажение: недооценка естественных угроз
- •Какие угрозы существованию подвержены антропной тени?
- •Антропные тени и риски физических экспериментов
- •Заключение
- •Приложение: словарь
- •Благодарности
- •Алексей Турчин. Природные катастрофы и антропный принцип
- •Введение
- •1. Антропный принцип. Эффект наблюдательной селекции. Результаты Бострома и Тегмарка
- •2. Природные катастрофы
- •3. Применение антропного принципа для анализа частоты природных катастроф
- •4. Нарушение устойчивости природных систем, находящихся на грани равновесия, в связи с человеческой деятельностью
- •5. Быстрая эволюция разума в периоды высокой интенсивности природных катастроф
- •6. Заключение
- •Приложение a. Плотность наблюдателей во вселенной, частота катастроф и антропный принцип
- •Литература:
- •Тоби Орд, Рафаела Хиллербранд, Андрес Сандберг. Проверяя непроверяемое: методологические вызовы в оценке рисков с низкой вероятностью и высокими ставками
- •Введение
- •Оценка вероятностей
- •3. Теории, модели и вычисления
- •4. Применение нашего анализа к рискам экспериментов на ускорителях
- •5. Заключение
- •Эдриан Кент. Критический обзор оценок рисков глобальных катастроф
- •Часть 3. Глобальные риски и новые технологии Eлиезер Юдковски. Искусственный интеллект как позитивный и негативный фактор глобального риска
- •1. Систематическая ошибка, связанная с антропоморфизмом
- •1.1: Широта пространства возможных устройств ума
- •2: Предсказание и устройство
- •4: Способности и мотивы
- •4.1: Процессы оптимизации
- •4.2: Наведение на цель
- •5: Дружественный ии
- •6: Техническая неудача и философская неудача
- •6.1: Пример философской ошибки
- •6.2: Пример технической неудачи
- •7: Темпы усиления интеллекта
- •8: Оборудование
- •9: Угрозы и перспективы
- •10: Локальные стратегии и стратегии большинства
- •11: Ии и усиление человеческого интеллекта
- •12: Взаимодействие ии и других технологий
- •13: Ход прогресса в области Дружественного ии
- •Роберт Фрейтас. Проблема Серой Слизи
- •Crn. Опасности молекулярного производства
- •М. Вассер, р.Фрайтас. Проект «Нанощит»
- •Алексей Карнаухов. Парниковая катастрофа.
- •Милан Чиркович, Ричард Каткарт. Гео-инженерия, пошедшая насмарку: новое частное решение парадокса Ферми
- •1. Введение
- •2. Макроинженерия и сценарий катастрофы
- •3. Миссия к центру Земли
- •4.Начало процесса вымирания
- •5.Применение сказанного к проблемам астробиологии
- •6. Культурологические и климатологические аспекты
- •7.Заключение
- •Ричард Керригэн. Следует ли обеззараживать сигналы seti?
- •А.В.Турчин. Глобальные риски, связанные с программой seti
- •1. История вопроса
- •2. Сценарий возможной атаки
- •3. Анализ возможных целей атаки
- •4. Возражения
- •П.Д. Смит. Кобальтовая бомба (отрывок из книги «Люди судного дня»)
- •Часть 4. Глобальные риски, связанные с природными катастрофами Владислав Пустынский. Последствия падения на Землю крупных астероидов
- •Уильям Нейпьер. Опасность комет и астероидов
- •1. Нечто вроде огромной горы
- •2.Как часто по нам бьют?
- •2.1 Ударные кратеры
- •2.2. Поиск околоземных объектов
- •2.3. Динамический анализ
- •3. Эффекты столкновения
- •4. Роль пыли
- •5. Наземная проверка?
- •6. Неопределённости
- •Майкл Рампино. Супервулканизм и другие катастрофические геофизические процессы
- •3. Вулканическая зима
- •4. Возможные последствия сверхизвержения для окружающей среды
- •5. Сверх-извержения и человеческая популяция
- •6. Частота сверхизвержений
- •7. Влияние сверхизвержения на цивилизацию
- •8. Сверхизвержения и жизнь во Вселенной
- •Арнон Дар. Влияние сверхновых, гамма-всплесков, солнечных вспышек и космических лучей на земную окружающую среду
- •1. Введение
- •2. Радиационные угрозы
- •2.1 Достоверные угрозы
- •2.2. Солнечные вспышки
- •2.3. Солнечная активность и глобальное потепление
- •2.4 Вымирание в результате солнечной активности
- •2.5 Излучение от взрывов сверхновых
- •2.6 Гамма-всплески
- •3. Угрозы от космических лучей.
- •3.1 Изменения магнитного поля Земли
- •3.2 Солнечная активность, космические лучи и глобальное потепление
- •3.3 Прохождение через галактические спиральные рукава
- •3.4 Космические лучи от недалёкой сверхновой
- •3.5. Космические лучи от гамма-всплесков.
- •4. Причины крупнейших массовых вымираний
- •5. Парадокс Ферми и массовые вымирания
3. Эффекты столкновения
Падение Тунгусского метеорита 30 июня 1908 года на центральном сибирском плато было взрывом в воздухе с энергией от 10 до 30 мегатонн, что соответствует очень мощной водородной бомбе. Этот взрыв уничтожил примерно 2000 кв. км леса, вырвав с корнем деревья и положив кронами в одну сторону. Такие эффекты являются локальными по своим последствиям (если только их не перепутают со взрывом водородной бомбы в период кризиса). Оценки их повторяемости составляют от 200 до 2000 лет.
При взрывах силой 10 000 мегатонн – сравнимые по энергии с полномасштабной ядерной войной – площадь разрушений составляет около 100 000 кв.км. (табл. 2) Осколки вылетевших стёкл в городских районах приведут к значительным ранениям далеко за пределами этой области. Поднимающийся огненный шар от такого импакта может привести к серьёзным ожогам и интенсивным возгораниям далеко за пределами этой области, в то время как землетрясения экстремальной силы распространится на расстояние сотни километров от места падения. Тоже существует неопределённость в оценке частоты таких импактов, и оценки состоят от одного события в 10 000 лет (наиболее типичная оценка) до 100 000 лет.
Табл.2 Возможные эффекты импакта.
Megatons |
10 000 |
1 million |
100 million |
Размер импактора
|
500 m |
1-2 km |
10 km |
Масштаб |
Региональный
|
Разрушающий цивилизацию
|
Приводящий к вымиранию вида |
На земле |
Пожары, взрыв, и землетрясение на расстояниях 250-1000 км.
|
Разрушительный взрыв, землетрясение и возможно, пожары на площади целого континента
|
Глобальное возгорание и разрушительное землетрясение
|
|
|
|
|
|
|
|
|
На море |
Неопределён |
Мегацунами по краям океана
|
Опустошение берегов океанов, вместо городов – заиленное побережье; окисление океанов |
|
|
|
|
|
|
|
|
|
|
|
|
В воздухе |
Солнце затмевается Возможно, нечто подобное событиям 536 года н.э.
|
Коллапс сельского хозяйства, рост озоновых дыр, кислотные дожди, небо затемнено на несколько лет; |
Коллапс экологии на земле и воде, кислотные дожди, исчезновение озонового слоя, небо становится чёрным на много лет. sea |
|
|
|
|
|
|
|
|
|
|
|
|
Климат |
Возможно кратковременное охлаждение
|
Глобальное потепление, за которым следует резкое похолодание.
|
Глобальное потепление, за которым следует космическая зима.
|
|
|
|
|
|
|
|
|
Примечание: все приведённые краткие описание являются весьма неопределёнными, и подробнее обсуждаются в тексте. Временные рамки остаются открытыми для обсуждения, но время повторения в 1 мегатонну в год является разумным эмпирическим правилом с точностью в полпорядка.
Существуют разногласия относительно вероятных эффектов импакта в океан в этом энергетическом диапазоне. Большое цунами, вызванное землетрясением, несёт энергию порядка 5 мегатонн, и даже малоэффективная передача энергия от импакта в 10 000 мегатонн в энергию волны явно имеет шансы создать огромное цунами. Однако огромные волны, создаваемые водяным кратером, могут быть настолько крутыми, что они распадаются в открытом океане. Если, как следует из некоторых анализов, они создают цунами высотой в несколько метров на берегах океана, то тогда ущерб от цунами по периметру океана скорее всего будет крупнейшей угрозой от таких небольших, относительно обычных импактов. Импакт в 10 000 мегатонн в Тихом океане приведёт, согласно самым пессимистическим отчётам, к возникновению волн высотой 4-7 метров по всему побережью океана, что приведёт к потере миллионов жизней (более 100 миллионов человек живёт на высоте менее 20 метров над уровнем моря и в на расстоянии 2 км от океана.) Согласно другим исследованиям, энергия волн рассеивается относительно безопасно до того, как они достигают удалённых берегов. Если пессимистические исследования верны, океанские импакты могут давать наибольший вклад, в смысле потери жизней, на этом уровне, за счёт суммарного действия частоты импактов и силы затопления прибрежных земель результатирующим цунами. То есть следует менее опасаться гигантской волны в духе Голливудского фильма, чем более частных волн высотой в несколько метров, которые проникнут за береговую черту на несколько километров. Однако с точки зрения вымирания вида такие маленькие импакты не представляют собой риска.
Импакты, чья сила имеет характер глобальной катастрофы, вероятно, начинаются с 1-2 миллионов мегатонн ТНТ эквивалента (Chapman and Morrison, 1994), что соответствует падению тел порядка километра в диаметре. Хотя прямое излучение от поднимающегося огненного шара, достигающего высоты в 100 км, ограничено радиусом в 1000 км из-за кривизны Земли, баллистическая энергия выбросит раскалённый пепел поверх атмосферы, в результате чего он распространится глобально. Солнечный свет прекратит поступать, и пищевые цепочки обрушатся. Время выпадение мелкодисперсной пыли составляет годы, и коммерческое сельское хозяйство в этот период будет невозможно (Engvild, 2003). В отсутствии солнечного света континентальные температуры резко упадут, и тепло будет перемещаться от более тёплых океанов в более прохладные массивы земли, приводя к жёстким, обмораживающим ветрам, дующим с моря на землю всё время, что дисбаланс будет сохраняться.
При более высоких энергиях океанские импакты приводят к волнам, сравнимых по своим размерам с теми, что возникают при подводных землетрясениях, и в этом случае передача энергии на глобальные расстояния выглядит более вероятной, подобно тому, как приливный вал в устье реки может привести к катастрофическим затоплениям земли.
Начиная с энергий в 10 миллионов мегатонн и выше, мы приближаемся к тем уровням, при которых происходит вымирание видов по причине мгновенных и продолжительных последствий. Импакт такой силы наверняка истребит человечество и наверняка оставит следы в развитии эволюционного древа, которые смогут обнаружить будущие разумные существа. В региональном масштабе атмосфера может быть просто сдута в космос. Дождь из примерно 10 миллионов валунов размеров в метр и более, обрушится по крайней мере на целый континент, если верны аналогии с марсианскими импактными кратерами (McEwen et al., 2005). Значительными глобальными эффектами будут всемирные лесные пожары, вызванные падением раскалённой пыли, отравление атмосферы и океанов диоксинами, кислотными дождями, сульфатами и тяжёлыми металлами; глобальное потепление в результате выбросов воды и углекислоты, следующее за ним через несколько лет глобальное похолодание в результате резкого снижения поступления солнечного света, и всё это будет происходить в глубокой темноте. Процесс выпадения пыли может продолжаться от года до десятилетия с катастрофическими последствиями для наземных и морских пищевых цепочек (Alvarez et al., 1980; Napier and Clube 1979; Toon et al. 1990). При таких высоких энергиях могут иметь место множественные бомбардировки в течение нескольких сот тысяч лет, и дополнительный ущерб возможен в результате образования пыли от больших дезинтегрирующихся комет. Однако этот аспект опасности менее понятен, и его временные масштабы носят скорее геологический, а не социальный характер.
