- •Препринт
- •Часть 1. Общие обзоры темы 6
- •Часть 2. Оценка вероятности глобальной катастрофы 201
- •Часть 3. Глобальные риски и новые технологии 374
- •Часть 4. Глобальные риски, связанные с природными катастрофами 545
- •Предисловие
- •Часть 1. Общие обзоры темы глобальных рисков Билл Джой. Почему мы не нужны будущему
- •Вернор Виндж. Технологическая Сингулярность
- •Введение
- •Типология рисков
- •Ник Бостром. Угрозы существованию: Анализ сценариев человеческого вымирания и других подобных опасностей.
- •Риски существованию
- •Уникальность проблемы угроз существованию
- •4. Классификация рисков существованию
- •5. Взрывы
- •5.1. Преднамеренное злоупотребление нанотехнологиями
- •5.2. Ядерный холокост
- •5.3. Мы живем в симуляции, и она выключается
- •5.5. Генетически сконструированный биологический объект
- •5.6. Ошибочное применение опасных нанотехнологий («серая слизь»).
- •5.7. Нечто непредвиденное
- •5.8. Катастрофы в результате физических экспериментов
- •5.9. Естественно возникшее заболевание
- •5.10. Столкновение с астероидом или кометой
- •5.11. Неудержимое глобальное потепление
- •6. Сужения
- •6.1. Истощение ресурсов или разрушение экологии
- •6.2. Сбившееся с курса мировое правительство или другое неподвижное социальное равновесие остановит технологический прогресс
- •6.3. Давление «вырождения»
- •6.4. Технологическая остановка
- •7. Скрипы
- •7.2. Сверхинтеллект с ошибкой
- •7.3. Глобальный репрессивный тоталитарный режим
- •7.4. Нечто непредвиденное1
- •8. Всхлипы
- •8.1. Наш потенциал и даже наши базовые ценности разъедаются развитием в ходе эволюции
- •8.2 Уничтожение внеземной цивилизацией
- •9.2 Парадокс Ферми
- •9.3 Эффекты наблюдательной селекции
- •9.4 Рассуждение о Симуляции
- •9.5 Когнитивные искажения
- •9.6 Оценка собранных данных
- •10. Рекомендации, касающиеся стратегии и этики
- •10.1. Поднимать известность проблемы рисков существованию
- •10.2 Создать структуру для международных действий
- •10.3 Сохранять готовность к превентивному действию в качестве последнего средства
- •10.4 Регулирование скорости развития технологий
- •10.5 Программы, направленные на прямое уменьшение конкретных угроз существованию
- •10.6. Максипок: эмпирическое правило для этичных поступков
- •Выражения признательности
- •Приложение: очерк эволюционного «всхлипа»
- •Библиография
- •Елиезер Юдковски. Когнитивные искажения, влияющие на оценку глобальных рисков
- •Введение
- •1. Доступность информации
- •2. Когнитивные искажения, связанная со знанием «задним числом».
- •3. Черные лебеди
- •4. Ошибочное включение лишнего элемента
- •5. Ошибочность рассуждений, вызванная эффектом подтверждения
- •6. Якорение, настройка и загрязнение
- •7. Рассуждения, обусловленные аффектом
- •8. Пренебрежение масштабом
- •9. Калибровка и сверхуверенность
- •10. Апатия прохожего
- •Последнее предупреждение
- •Заключение
- •Рекомендуемое чтение
- •Библиография
- •Дэвид Брин. Сингулярность и кошмары
- •А.А. Кононов.Идеологические начала общей теории неуничтожимости человечества
- •Угрозы уничтожения человечества
- •Неуничтожимость как главная сверхзадача цивилизации
- •Качества неуничтожимой цивилизации
- •О необходимости разработки теоретических основ решения задач неуничтожимости человечества
- •Робин Хансен. Катастрофа, социальный коллапс и человеческое вымирание
- •Алексей Турчин. Процессы с положительной обратной связью как основной механизм глобальных катастроф
- •Часть 2. Оценка вероятности глобальной катастрофы Ник Бостром1, Макс Тегмарк2. Насколько невероятна катастрофа судного дня?
- •Ник Бостром. Рассуждение о Конце Света для начинающих
- •Ник Бостром. Doomsday Argument жив и брыкается
- •Ник Бостром Доказательство симуляции
- •1.Введение
- •2. Предположение о независимости от носителя
- •3.Технологические пределы вычислений
- •4. Ядро доказательства о симуляции
- •5. Мягкий принцип равнозначности
- •6. Интепретация
- •7. Заключение
- •Введение: угрозы существованию и эффекты наблюдательной селекции
- •«Карманная» модель антропного искажения1
- •Обобщение модели
- •Антропное искажение: недооценка естественных угроз
- •Какие угрозы существованию подвержены антропной тени?
- •Антропные тени и риски физических экспериментов
- •Заключение
- •Приложение: словарь
- •Благодарности
- •Алексей Турчин. Природные катастрофы и антропный принцип
- •Введение
- •1. Антропный принцип. Эффект наблюдательной селекции. Результаты Бострома и Тегмарка
- •2. Природные катастрофы
- •3. Применение антропного принципа для анализа частоты природных катастроф
- •4. Нарушение устойчивости природных систем, находящихся на грани равновесия, в связи с человеческой деятельностью
- •5. Быстрая эволюция разума в периоды высокой интенсивности природных катастроф
- •6. Заключение
- •Приложение a. Плотность наблюдателей во вселенной, частота катастроф и антропный принцип
- •Литература:
- •Тоби Орд, Рафаела Хиллербранд, Андрес Сандберг. Проверяя непроверяемое: методологические вызовы в оценке рисков с низкой вероятностью и высокими ставками
- •Введение
- •Оценка вероятностей
- •3. Теории, модели и вычисления
- •4. Применение нашего анализа к рискам экспериментов на ускорителях
- •5. Заключение
- •Эдриан Кент. Критический обзор оценок рисков глобальных катастроф
- •Часть 3. Глобальные риски и новые технологии Eлиезер Юдковски. Искусственный интеллект как позитивный и негативный фактор глобального риска
- •1. Систематическая ошибка, связанная с антропоморфизмом
- •1.1: Широта пространства возможных устройств ума
- •2: Предсказание и устройство
- •4: Способности и мотивы
- •4.1: Процессы оптимизации
- •4.2: Наведение на цель
- •5: Дружественный ии
- •6: Техническая неудача и философская неудача
- •6.1: Пример философской ошибки
- •6.2: Пример технической неудачи
- •7: Темпы усиления интеллекта
- •8: Оборудование
- •9: Угрозы и перспективы
- •10: Локальные стратегии и стратегии большинства
- •11: Ии и усиление человеческого интеллекта
- •12: Взаимодействие ии и других технологий
- •13: Ход прогресса в области Дружественного ии
- •Роберт Фрейтас. Проблема Серой Слизи
- •Crn. Опасности молекулярного производства
- •М. Вассер, р.Фрайтас. Проект «Нанощит»
- •Алексей Карнаухов. Парниковая катастрофа.
- •Милан Чиркович, Ричард Каткарт. Гео-инженерия, пошедшая насмарку: новое частное решение парадокса Ферми
- •1. Введение
- •2. Макроинженерия и сценарий катастрофы
- •3. Миссия к центру Земли
- •4.Начало процесса вымирания
- •5.Применение сказанного к проблемам астробиологии
- •6. Культурологические и климатологические аспекты
- •7.Заключение
- •Ричард Керригэн. Следует ли обеззараживать сигналы seti?
- •А.В.Турчин. Глобальные риски, связанные с программой seti
- •1. История вопроса
- •2. Сценарий возможной атаки
- •3. Анализ возможных целей атаки
- •4. Возражения
- •П.Д. Смит. Кобальтовая бомба (отрывок из книги «Люди судного дня»)
- •Часть 4. Глобальные риски, связанные с природными катастрофами Владислав Пустынский. Последствия падения на Землю крупных астероидов
- •Уильям Нейпьер. Опасность комет и астероидов
- •1. Нечто вроде огромной горы
- •2.Как часто по нам бьют?
- •2.1 Ударные кратеры
- •2.2. Поиск околоземных объектов
- •2.3. Динамический анализ
- •3. Эффекты столкновения
- •4. Роль пыли
- •5. Наземная проверка?
- •6. Неопределённости
- •Майкл Рампино. Супервулканизм и другие катастрофические геофизические процессы
- •3. Вулканическая зима
- •4. Возможные последствия сверхизвержения для окружающей среды
- •5. Сверх-извержения и человеческая популяция
- •6. Частота сверхизвержений
- •7. Влияние сверхизвержения на цивилизацию
- •8. Сверхизвержения и жизнь во Вселенной
- •Арнон Дар. Влияние сверхновых, гамма-всплесков, солнечных вспышек и космических лучей на земную окружающую среду
- •1. Введение
- •2. Радиационные угрозы
- •2.1 Достоверные угрозы
- •2.2. Солнечные вспышки
- •2.3. Солнечная активность и глобальное потепление
- •2.4 Вымирание в результате солнечной активности
- •2.5 Излучение от взрывов сверхновых
- •2.6 Гамма-всплески
- •3. Угрозы от космических лучей.
- •3.1 Изменения магнитного поля Земли
- •3.2 Солнечная активность, космические лучи и глобальное потепление
- •3.3 Прохождение через галактические спиральные рукава
- •3.4 Космические лучи от недалёкой сверхновой
- •3.5. Космические лучи от гамма-всплесков.
- •4. Причины крупнейших массовых вымираний
- •5. Парадокс Ферми и массовые вымирания
3. Вулканическая зима
Поскольку Тоба – вулкан, лежащий на низких широтах, то пепел и испарения были бы вброшены в оба Северное и Южное полушария (Rampino et al., 1988), хотя время года, когда произошло извержение, неизвестно. Оценки оптических эффектов аэрозолей приблизительно эквивалентны оценкам оптической прозрачности облаков дыма (Turco et al., 1990), (которые находятся в пределах оценок, используемых в сценариях ядерной зимы: значительных выбросов пепла из горящих городских и индустриальных районов после ядерной войны.)
Хотя климатические условия и продолжительность ядерной зимы были предметом обширных дебатов, симуляции, проведённые Turco и др. (1990) предсказывают, что наземные температуры на the 30°-70°N широтах упадут на 5-15 градусов ниже нормы, причём на средних широтах в первые месяцы будут температуры ниже нуля. Охлаждение поверхности океана на 2-6° С может продлиться несколько лет, и присутствие сажи в атмосфере в течение 1-3 лет может привести к более длительному (десятилетнему) охлаждению, в первую очередь за счёт климатических обратных связей, включающих увеличение снежного покрытия и площадей льда, изменения альбедо земной поверхности и изменения температуры поверхности океана (Rampino and Ambrose, 2000).
Извержение значительных количеств вулканической пыли в стратосферу благодаря суперизвержению масштабов Тобы может привести к подобному немедленному охлаждению поверхности, приведя к «вулканической зиме» (Rampino and Self, 1992; Rampino et al., 1988).
Вулканическая пыль, по-видимому, имеет меньшее время жизни в атмосфере (3-6 месяцев), чем сажа (Turco et al., 1990), и распространяется из точечного источника, но вулканическая пыль выбрасывается гораздо выше в стратосферу, и в силу этого пепел Тобы мог иметь всемирное воздействие, несмотря на короткое время жизни. Свидетельством широкого распространения пепла Тобы являются озёрные отложения в Индии, где переработанный пепел Тобы сформировал отложения толщиной до 3 м, и широко распространённые отложения пепла в Индийском океане и Южно-Китайском море. (Acharya and Basu, 1993; Huang et al., 2001; Shane et al., 1995).
Свидетельством быстрого и жёсткого охлаждения в силу прямых эффектов облаков вулканического пепла являются наблюдения последствий извержения Тамборы в 1815 году. Мадрас в Индии пережил резкое падение температуры в течение последней недели апреля 1815, в то время, когда относительно прохладный воздух и аэрозольное облако с Тамборы (10-11 апреля) могло быть над ним. Утренние температуры упали с 11°C в понедельник до -3°C в пятницу (Stothers, 1984a). Подобный, но более слабый эффект, имел место, когда облако пыли от извержения горы Святой Елены в 1980 году прошло над подветренными областями (Robock and Mass, 1982).
Выброс в стратосферу летучих соединений серы (>1015g), и время, необходимое для формирования и распространения вулканической H2SO4 может привести к продолжительному периоду увеличенной атмосферной непрозрачности и охлаждению поверхности. Ледяные керны свидетельствуют о том, что в стратосфере находилось от 1014 до 1015 гр. серной кислоты в течение шести лет после извержения (Zielinski et al., 1996a).
Это согласуется с вычислениями Pope и др. (1994), предсказывающими время окисления (время, необходимое для превращения данного количества серы в аэрозоли серной кислоты) от 4 до 17 лет, и время диффузии (время, необходимое для удаления неокисленного SO2 благодаря диффузии в тропосферу) от 4 до 7 лет для масс серы между 1015 и 1016 гр. Для атмосферных выбросов таких масштабов время диффузии является эффективным временем жизни облака, поскольку резервуар SO2 исчерпывается до того, как окисление завершится.
Если связь между охлаждением Северного полушария и количеством аэрозолей от больших извержений является приблизительно линейной, то тогда масштабирование на основании данных об извержении 1815 года Тамборы даст примерно 3.5°C градусов охлаждения для всего полушария после Тобы (Rampino and Self, 1993a). Подобным же образом эмпирическая зависимость между высвобождением SO2 и климатической реакцией (Palais and Sigurdsson, 1989) предполагает, что снижение температуры по всем полушарию составляло примерно 4 ± 1°C. Эруптивные облака от исторически известных извержений были слишком короткоживущими, чтобы понизить тропосферные температуры до нового устойчивого уровня (Pollack et al., 1993), однако, по-видимому, долгоживущие аэрозоли Тобы могли привести к тому, что изменения температуры тропосферы стали в значительной степени долговременными. Huang et al. (2001) смогли обнаружить взаимосвязь пепла Тобы и снижения температуры поверхности Южно-Китайского моря на 1°C, которое продолжалось 1000 лет.
Если взглянуть на несколько меньшее недавнее сверхизвержение, имевшее место в Кампании в Италии 37 000 лет назад (150 куб.км магмы извергнуто), то видно, что оно совпало с Поздне-Плейстоценовыми био-культурными изменениями, которые имели место как в, так и за пределами Средиземноморского региона. Это включает в себя как переход от культур Среднего к Верхнему палеолиту и замену неандертальцев «современными» Homo sapiens (Fedele et al., 2002).
