- •Препринт
- •Часть 1. Общие обзоры темы 6
- •Часть 2. Оценка вероятности глобальной катастрофы 201
- •Часть 3. Глобальные риски и новые технологии 374
- •Часть 4. Глобальные риски, связанные с природными катастрофами 545
- •Предисловие
- •Часть 1. Общие обзоры темы глобальных рисков Билл Джой. Почему мы не нужны будущему
- •Вернор Виндж. Технологическая Сингулярность
- •Введение
- •Типология рисков
- •Ник Бостром. Угрозы существованию: Анализ сценариев человеческого вымирания и других подобных опасностей.
- •Риски существованию
- •Уникальность проблемы угроз существованию
- •4. Классификация рисков существованию
- •5. Взрывы
- •5.1. Преднамеренное злоупотребление нанотехнологиями
- •5.2. Ядерный холокост
- •5.3. Мы живем в симуляции, и она выключается
- •5.5. Генетически сконструированный биологический объект
- •5.6. Ошибочное применение опасных нанотехнологий («серая слизь»).
- •5.7. Нечто непредвиденное
- •5.8. Катастрофы в результате физических экспериментов
- •5.9. Естественно возникшее заболевание
- •5.10. Столкновение с астероидом или кометой
- •5.11. Неудержимое глобальное потепление
- •6. Сужения
- •6.1. Истощение ресурсов или разрушение экологии
- •6.2. Сбившееся с курса мировое правительство или другое неподвижное социальное равновесие остановит технологический прогресс
- •6.3. Давление «вырождения»
- •6.4. Технологическая остановка
- •7. Скрипы
- •7.2. Сверхинтеллект с ошибкой
- •7.3. Глобальный репрессивный тоталитарный режим
- •7.4. Нечто непредвиденное1
- •8. Всхлипы
- •8.1. Наш потенциал и даже наши базовые ценности разъедаются развитием в ходе эволюции
- •8.2 Уничтожение внеземной цивилизацией
- •9.2 Парадокс Ферми
- •9.3 Эффекты наблюдательной селекции
- •9.4 Рассуждение о Симуляции
- •9.5 Когнитивные искажения
- •9.6 Оценка собранных данных
- •10. Рекомендации, касающиеся стратегии и этики
- •10.1. Поднимать известность проблемы рисков существованию
- •10.2 Создать структуру для международных действий
- •10.3 Сохранять готовность к превентивному действию в качестве последнего средства
- •10.4 Регулирование скорости развития технологий
- •10.5 Программы, направленные на прямое уменьшение конкретных угроз существованию
- •10.6. Максипок: эмпирическое правило для этичных поступков
- •Выражения признательности
- •Приложение: очерк эволюционного «всхлипа»
- •Библиография
- •Елиезер Юдковски. Когнитивные искажения, влияющие на оценку глобальных рисков
- •Введение
- •1. Доступность информации
- •2. Когнитивные искажения, связанная со знанием «задним числом».
- •3. Черные лебеди
- •4. Ошибочное включение лишнего элемента
- •5. Ошибочность рассуждений, вызванная эффектом подтверждения
- •6. Якорение, настройка и загрязнение
- •7. Рассуждения, обусловленные аффектом
- •8. Пренебрежение масштабом
- •9. Калибровка и сверхуверенность
- •10. Апатия прохожего
- •Последнее предупреждение
- •Заключение
- •Рекомендуемое чтение
- •Библиография
- •Дэвид Брин. Сингулярность и кошмары
- •А.А. Кононов.Идеологические начала общей теории неуничтожимости человечества
- •Угрозы уничтожения человечества
- •Неуничтожимость как главная сверхзадача цивилизации
- •Качества неуничтожимой цивилизации
- •О необходимости разработки теоретических основ решения задач неуничтожимости человечества
- •Робин Хансен. Катастрофа, социальный коллапс и человеческое вымирание
- •Алексей Турчин. Процессы с положительной обратной связью как основной механизм глобальных катастроф
- •Часть 2. Оценка вероятности глобальной катастрофы Ник Бостром1, Макс Тегмарк2. Насколько невероятна катастрофа судного дня?
- •Ник Бостром. Рассуждение о Конце Света для начинающих
- •Ник Бостром. Doomsday Argument жив и брыкается
- •Ник Бостром Доказательство симуляции
- •1.Введение
- •2. Предположение о независимости от носителя
- •3.Технологические пределы вычислений
- •4. Ядро доказательства о симуляции
- •5. Мягкий принцип равнозначности
- •6. Интепретация
- •7. Заключение
- •Введение: угрозы существованию и эффекты наблюдательной селекции
- •«Карманная» модель антропного искажения1
- •Обобщение модели
- •Антропное искажение: недооценка естественных угроз
- •Какие угрозы существованию подвержены антропной тени?
- •Антропные тени и риски физических экспериментов
- •Заключение
- •Приложение: словарь
- •Благодарности
- •Алексей Турчин. Природные катастрофы и антропный принцип
- •Введение
- •1. Антропный принцип. Эффект наблюдательной селекции. Результаты Бострома и Тегмарка
- •2. Природные катастрофы
- •3. Применение антропного принципа для анализа частоты природных катастроф
- •4. Нарушение устойчивости природных систем, находящихся на грани равновесия, в связи с человеческой деятельностью
- •5. Быстрая эволюция разума в периоды высокой интенсивности природных катастроф
- •6. Заключение
- •Приложение a. Плотность наблюдателей во вселенной, частота катастроф и антропный принцип
- •Литература:
- •Тоби Орд, Рафаела Хиллербранд, Андрес Сандберг. Проверяя непроверяемое: методологические вызовы в оценке рисков с низкой вероятностью и высокими ставками
- •Введение
- •Оценка вероятностей
- •3. Теории, модели и вычисления
- •4. Применение нашего анализа к рискам экспериментов на ускорителях
- •5. Заключение
- •Эдриан Кент. Критический обзор оценок рисков глобальных катастроф
- •Часть 3. Глобальные риски и новые технологии Eлиезер Юдковски. Искусственный интеллект как позитивный и негативный фактор глобального риска
- •1. Систематическая ошибка, связанная с антропоморфизмом
- •1.1: Широта пространства возможных устройств ума
- •2: Предсказание и устройство
- •4: Способности и мотивы
- •4.1: Процессы оптимизации
- •4.2: Наведение на цель
- •5: Дружественный ии
- •6: Техническая неудача и философская неудача
- •6.1: Пример философской ошибки
- •6.2: Пример технической неудачи
- •7: Темпы усиления интеллекта
- •8: Оборудование
- •9: Угрозы и перспективы
- •10: Локальные стратегии и стратегии большинства
- •11: Ии и усиление человеческого интеллекта
- •12: Взаимодействие ии и других технологий
- •13: Ход прогресса в области Дружественного ии
- •Роберт Фрейтас. Проблема Серой Слизи
- •Crn. Опасности молекулярного производства
- •М. Вассер, р.Фрайтас. Проект «Нанощит»
- •Алексей Карнаухов. Парниковая катастрофа.
- •Милан Чиркович, Ричард Каткарт. Гео-инженерия, пошедшая насмарку: новое частное решение парадокса Ферми
- •1. Введение
- •2. Макроинженерия и сценарий катастрофы
- •3. Миссия к центру Земли
- •4.Начало процесса вымирания
- •5.Применение сказанного к проблемам астробиологии
- •6. Культурологические и климатологические аспекты
- •7.Заключение
- •Ричард Керригэн. Следует ли обеззараживать сигналы seti?
- •А.В.Турчин. Глобальные риски, связанные с программой seti
- •1. История вопроса
- •2. Сценарий возможной атаки
- •3. Анализ возможных целей атаки
- •4. Возражения
- •П.Д. Смит. Кобальтовая бомба (отрывок из книги «Люди судного дня»)
- •Часть 4. Глобальные риски, связанные с природными катастрофами Владислав Пустынский. Последствия падения на Землю крупных астероидов
- •Уильям Нейпьер. Опасность комет и астероидов
- •1. Нечто вроде огромной горы
- •2.Как часто по нам бьют?
- •2.1 Ударные кратеры
- •2.2. Поиск околоземных объектов
- •2.3. Динамический анализ
- •3. Эффекты столкновения
- •4. Роль пыли
- •5. Наземная проверка?
- •6. Неопределённости
- •Майкл Рампино. Супервулканизм и другие катастрофические геофизические процессы
- •3. Вулканическая зима
- •4. Возможные последствия сверхизвержения для окружающей среды
- •5. Сверх-извержения и человеческая популяция
- •6. Частота сверхизвержений
- •7. Влияние сверхизвержения на цивилизацию
- •8. Сверхизвержения и жизнь во Вселенной
- •Арнон Дар. Влияние сверхновых, гамма-всплесков, солнечных вспышек и космических лучей на земную окружающую среду
- •1. Введение
- •2. Радиационные угрозы
- •2.1 Достоверные угрозы
- •2.2. Солнечные вспышки
- •2.3. Солнечная активность и глобальное потепление
- •2.4 Вымирание в результате солнечной активности
- •2.5 Излучение от взрывов сверхновых
- •2.6 Гамма-всплески
- •3. Угрозы от космических лучей.
- •3.1 Изменения магнитного поля Земли
- •3.2 Солнечная активность, космические лучи и глобальное потепление
- •3.3 Прохождение через галактические спиральные рукава
- •3.4 Космические лучи от недалёкой сверхновой
- •3.5. Космические лучи от гамма-всплесков.
- •4. Причины крупнейших массовых вымираний
- •5. Парадокс Ферми и массовые вымирания
2.4 Вымирание в результате солнечной активности
Солнце имеет возраст 4.5 миллиарда лет. Оно продолжит светить ещё 5 миллиардов лет. Но оно исчерпает запасы водорода в своём ядре в течение менее, чем 2 миллиардов лет от настоящего момента. Тогда ядро Солнца сожмётся и станет достаточно горячим для термоядерной реакции на гелии в ядре, и горения водорода в оболочке этого ядра. Благодаря растущему радиационному давлению в горящем ядре, Солнце начнёт расширяться в красный гигант. Эта фаза будет довольно быстрой и займёт примерно 10 млн. лет. Когда Солнце станет красным гигантом, Меркурий и Венера будут поглощены Солнцем, и, возможно, Земля тоже будет поглощена. Даже если Земля не будет поглощена, условия на ее поверхности станут непригодными для жизни. Увеличившаяся светимость Солнца нагреет земную поверхность до такой степени, что вода океанов и атмосфера улетучатся в космическое пространство. Фактически, в ближайшие 1 или 2 млрд. лет, ещё до фазы красного гиганта, выделение энергии Солнцем увеличится до такой степени, что Земля станет слишком горячей для того, чтобы поддерживать жизнь.
2.5 Излучение от взрывов сверхновых
Наиболее яростные события, которые, вероятно, происходили в солнечном окружении в течение геологического и исторического времени – это взрывы сверхновых. Такие взрывы – это яркая смерть массивных звёзд, следующая за гравитационным коллапсом их ядра (сверхновые коллапсары), либо белых карликов в бинарных системах, чья масса за счёт аккреции возросла сверх предела Чандрасекара (термоядерные сверхновые)
Сверхновые-коллапсары взрываются, когда ядерное топливо в ядре массивной звезды с массой больше 8 солнечных истощается и больше не может поддерживать термальное давление, которое уравновешивает гравитационное давление вышележащих слоёв. Затем ядро коллапсирует в нейтронную звезду или звёздную чёрную дыру и высвобождает большое количество гравитационной энергии (~3 x 1053 erg), большая часть которой превращается в нейтрино и только несколько процентов – в кинетическую энергию извергаемой звёздной оболочки, которая содержит радиоизотопы, поставляющие большую часть энергии для излучения.
Термоядерная сверхновая представляет собой термоядерный взрыв белого карлика в двойной звёздной системе. Белые карлики представляют собой конечную точку эволюции звёзд с массами меньшими, чем 8 солнечных масс. Они обычно состоят из углерода или кислорода. Их массы не могут превосходит 1,4 массы Солнца. Белый карлик в бинарной звёздной системе может аккрецировать материал своей звезды компаньона, если они достаточно близки друг к другу за счёт гравитационного притяжения. Падающая материя со звезды компаньона заставляет белый карлик пересечь границу массы в 1.4 солнечной (называемой предел Чандрасекара) и коллапсировать гравитационно. Выделение гравитационной энергии приводит к росту температуры до уровня, на котором углерод и кислород начинают неконтролируемо вступать в термоядерную реакцию. В результате происходит термоядерный взрыв, который разрушает звезду полностью.
Если взрыв сверхновой произойдёт достаточно близко к Земле, он может иметь катастрофические последствия для ее биосферы. Потенциальные последствия взрыва сверхновой около Земли были рассмотрены рядом авторов (Ellis and Schramm, 1995; Ellis et al., 1996; Ruderman, 1979), и последняя работа предполагает, что наиболее важные эффекты будут вызваны их космическими лучами. В частности, их возможная роль в разрушении озонового слоя Земли и открытии земной биосферы для интенсивного облучения солнечными УФ-лучами была подчёркнута в работе Ellis and Schramm, 1995; Ellis et al., 1996. В начале мы рассмотрим прямые радиационные риски, связанные с излучением сверхновой.
Среди новых элементов, которые возникают при взрыве сверхновой- коллапсара и термоядерной сверхновой – радиоактивный никель, который высвобождает огромные количества энергии среди остатков сверхновой. Большая часть этой энергии высвобождается среди остатков и излучается в виде видимого света. Однако свет сверхновой не представляет собой высокого риска. Самые яркие сверхновые достигают пика светимости в 1043 эрг/сек через примерно пару недель после взрыва, и затем светимость убывает примерно экспоненциально с периодом «полураспада» в 77 дней (что соответствует периоду полураспада радиоактивного кобальта, возникающего в результате распада никеля). Такая светимость на расстоянии 5 парсек от Земли в течение пары недель добавит примерно 1% к солнечному излучению, которое достигает Земли и не будет иметь никаких катастрофических последствий. Более того, средняя частота галактических сверхновых составляет примерно 1 раз в 50 лет (van den Bergh and Tammann, 1991). Большинство взрывов сверхновых случаются гораздо ближе к центру Галактики, чем проходит орбита Солнца. На основании наблюдаемого распределения галактических остатков сверхновых, и средней частоты взрывов сверхновых, вероятность того, что в течение ближайших 2 миллиардов лет (до того, как Солнце станет красным гигантом) Солнечная система в своём галактическом движении пройдёт на расстоянии 15 световых лет от сверхновой, составляют менее 1%.
Прямые угрозы Земле от ультрафиолетового, рентгеновского и гамма излучения сверхновых и их остатков ещё меньше, поскольку атмосфера непрозрачна для этих излучений. Единственная серьёзная угроза состоит в возможном разрушении земного озонового слоя, за которым последует проникновение солнечного УФ излучения и поглощение видимого света окисью азота NO2 в атмосфере. Однако угроза со стороны сверхновых, находящихся на расстоянии более 30 световых лет, не превышает угрозу от солнечных вспышек. Озоновый слой часто повреждается солнечными вспышками и, судя по всему, восстанавливался относительно быстро.
