- •Препринт
- •Часть 1. Общие обзоры темы 6
- •Часть 2. Оценка вероятности глобальной катастрофы 201
- •Часть 3. Глобальные риски и новые технологии 374
- •Часть 4. Глобальные риски, связанные с природными катастрофами 545
- •Предисловие
- •Часть 1. Общие обзоры темы глобальных рисков Билл Джой. Почему мы не нужны будущему
- •Вернор Виндж. Технологическая Сингулярность
- •Введение
- •Типология рисков
- •Ник Бостром. Угрозы существованию: Анализ сценариев человеческого вымирания и других подобных опасностей.
- •Риски существованию
- •Уникальность проблемы угроз существованию
- •4. Классификация рисков существованию
- •5. Взрывы
- •5.1. Преднамеренное злоупотребление нанотехнологиями
- •5.2. Ядерный холокост
- •5.3. Мы живем в симуляции, и она выключается
- •5.5. Генетически сконструированный биологический объект
- •5.6. Ошибочное применение опасных нанотехнологий («серая слизь»).
- •5.7. Нечто непредвиденное
- •5.8. Катастрофы в результате физических экспериментов
- •5.9. Естественно возникшее заболевание
- •5.10. Столкновение с астероидом или кометой
- •5.11. Неудержимое глобальное потепление
- •6. Сужения
- •6.1. Истощение ресурсов или разрушение экологии
- •6.2. Сбившееся с курса мировое правительство или другое неподвижное социальное равновесие остановит технологический прогресс
- •6.3. Давление «вырождения»
- •6.4. Технологическая остановка
- •7. Скрипы
- •7.2. Сверхинтеллект с ошибкой
- •7.3. Глобальный репрессивный тоталитарный режим
- •7.4. Нечто непредвиденное1
- •8. Всхлипы
- •8.1. Наш потенциал и даже наши базовые ценности разъедаются развитием в ходе эволюции
- •8.2 Уничтожение внеземной цивилизацией
- •9.2 Парадокс Ферми
- •9.3 Эффекты наблюдательной селекции
- •9.4 Рассуждение о Симуляции
- •9.5 Когнитивные искажения
- •9.6 Оценка собранных данных
- •10. Рекомендации, касающиеся стратегии и этики
- •10.1. Поднимать известность проблемы рисков существованию
- •10.2 Создать структуру для международных действий
- •10.3 Сохранять готовность к превентивному действию в качестве последнего средства
- •10.4 Регулирование скорости развития технологий
- •10.5 Программы, направленные на прямое уменьшение конкретных угроз существованию
- •10.6. Максипок: эмпирическое правило для этичных поступков
- •Выражения признательности
- •Приложение: очерк эволюционного «всхлипа»
- •Библиография
- •Елиезер Юдковски. Когнитивные искажения, влияющие на оценку глобальных рисков
- •Введение
- •1. Доступность информации
- •2. Когнитивные искажения, связанная со знанием «задним числом».
- •3. Черные лебеди
- •4. Ошибочное включение лишнего элемента
- •5. Ошибочность рассуждений, вызванная эффектом подтверждения
- •6. Якорение, настройка и загрязнение
- •7. Рассуждения, обусловленные аффектом
- •8. Пренебрежение масштабом
- •9. Калибровка и сверхуверенность
- •10. Апатия прохожего
- •Последнее предупреждение
- •Заключение
- •Рекомендуемое чтение
- •Библиография
- •Дэвид Брин. Сингулярность и кошмары
- •А.А. Кононов.Идеологические начала общей теории неуничтожимости человечества
- •Угрозы уничтожения человечества
- •Неуничтожимость как главная сверхзадача цивилизации
- •Качества неуничтожимой цивилизации
- •О необходимости разработки теоретических основ решения задач неуничтожимости человечества
- •Робин Хансен. Катастрофа, социальный коллапс и человеческое вымирание
- •Алексей Турчин. Процессы с положительной обратной связью как основной механизм глобальных катастроф
- •Часть 2. Оценка вероятности глобальной катастрофы Ник Бостром1, Макс Тегмарк2. Насколько невероятна катастрофа судного дня?
- •Ник Бостром. Рассуждение о Конце Света для начинающих
- •Ник Бостром. Doomsday Argument жив и брыкается
- •Ник Бостром Доказательство симуляции
- •1.Введение
- •2. Предположение о независимости от носителя
- •3.Технологические пределы вычислений
- •4. Ядро доказательства о симуляции
- •5. Мягкий принцип равнозначности
- •6. Интепретация
- •7. Заключение
- •Введение: угрозы существованию и эффекты наблюдательной селекции
- •«Карманная» модель антропного искажения1
- •Обобщение модели
- •Антропное искажение: недооценка естественных угроз
- •Какие угрозы существованию подвержены антропной тени?
- •Антропные тени и риски физических экспериментов
- •Заключение
- •Приложение: словарь
- •Благодарности
- •Алексей Турчин. Природные катастрофы и антропный принцип
- •Введение
- •1. Антропный принцип. Эффект наблюдательной селекции. Результаты Бострома и Тегмарка
- •2. Природные катастрофы
- •3. Применение антропного принципа для анализа частоты природных катастроф
- •4. Нарушение устойчивости природных систем, находящихся на грани равновесия, в связи с человеческой деятельностью
- •5. Быстрая эволюция разума в периоды высокой интенсивности природных катастроф
- •6. Заключение
- •Приложение a. Плотность наблюдателей во вселенной, частота катастроф и антропный принцип
- •Литература:
- •Тоби Орд, Рафаела Хиллербранд, Андрес Сандберг. Проверяя непроверяемое: методологические вызовы в оценке рисков с низкой вероятностью и высокими ставками
- •Введение
- •Оценка вероятностей
- •3. Теории, модели и вычисления
- •4. Применение нашего анализа к рискам экспериментов на ускорителях
- •5. Заключение
- •Эдриан Кент. Критический обзор оценок рисков глобальных катастроф
- •Часть 3. Глобальные риски и новые технологии Eлиезер Юдковски. Искусственный интеллект как позитивный и негативный фактор глобального риска
- •1. Систематическая ошибка, связанная с антропоморфизмом
- •1.1: Широта пространства возможных устройств ума
- •2: Предсказание и устройство
- •4: Способности и мотивы
- •4.1: Процессы оптимизации
- •4.2: Наведение на цель
- •5: Дружественный ии
- •6: Техническая неудача и философская неудача
- •6.1: Пример философской ошибки
- •6.2: Пример технической неудачи
- •7: Темпы усиления интеллекта
- •8: Оборудование
- •9: Угрозы и перспективы
- •10: Локальные стратегии и стратегии большинства
- •11: Ии и усиление человеческого интеллекта
- •12: Взаимодействие ии и других технологий
- •13: Ход прогресса в области Дружественного ии
- •Роберт Фрейтас. Проблема Серой Слизи
- •Crn. Опасности молекулярного производства
- •М. Вассер, р.Фрайтас. Проект «Нанощит»
- •Алексей Карнаухов. Парниковая катастрофа.
- •Милан Чиркович, Ричард Каткарт. Гео-инженерия, пошедшая насмарку: новое частное решение парадокса Ферми
- •1. Введение
- •2. Макроинженерия и сценарий катастрофы
- •3. Миссия к центру Земли
- •4.Начало процесса вымирания
- •5.Применение сказанного к проблемам астробиологии
- •6. Культурологические и климатологические аспекты
- •7.Заключение
- •Ричард Керригэн. Следует ли обеззараживать сигналы seti?
- •А.В.Турчин. Глобальные риски, связанные с программой seti
- •1. История вопроса
- •2. Сценарий возможной атаки
- •3. Анализ возможных целей атаки
- •4. Возражения
- •П.Д. Смит. Кобальтовая бомба (отрывок из книги «Люди судного дня»)
- •Часть 4. Глобальные риски, связанные с природными катастрофами Владислав Пустынский. Последствия падения на Землю крупных астероидов
- •Уильям Нейпьер. Опасность комет и астероидов
- •1. Нечто вроде огромной горы
- •2.Как часто по нам бьют?
- •2.1 Ударные кратеры
- •2.2. Поиск околоземных объектов
- •2.3. Динамический анализ
- •3. Эффекты столкновения
- •4. Роль пыли
- •5. Наземная проверка?
- •6. Неопределённости
- •Майкл Рампино. Супервулканизм и другие катастрофические геофизические процессы
- •3. Вулканическая зима
- •4. Возможные последствия сверхизвержения для окружающей среды
- •5. Сверх-извержения и человеческая популяция
- •6. Частота сверхизвержений
- •7. Влияние сверхизвержения на цивилизацию
- •8. Сверхизвержения и жизнь во Вселенной
- •Арнон Дар. Влияние сверхновых, гамма-всплесков, солнечных вспышек и космических лучей на земную окружающую среду
- •1. Введение
- •2. Радиационные угрозы
- •2.1 Достоверные угрозы
- •2.2. Солнечные вспышки
- •2.3. Солнечная активность и глобальное потепление
- •2.4 Вымирание в результате солнечной активности
- •2.5 Излучение от взрывов сверхновых
- •2.6 Гамма-всплески
- •3. Угрозы от космических лучей.
- •3.1 Изменения магнитного поля Земли
- •3.2 Солнечная активность, космические лучи и глобальное потепление
- •3.3 Прохождение через галактические спиральные рукава
- •3.4 Космические лучи от недалёкой сверхновой
- •3.5. Космические лучи от гамма-всплесков.
- •4. Причины крупнейших массовых вымираний
- •5. Парадокс Ферми и массовые вымирания
3. Угрозы от космических лучей.
Средняя плотность энергии галактических космических лучей подобна плотности света звёзд, космического микроволнового излучения и галактического магнитного поля и составляет примерно порядка 1 эВ/куб. см. Эта плотность энергии примерно на 8 порядков меньше, чем плотность солнечного света на расстоянии одной астрономической единицы от Солнца, то есть на Земле. Более того, космические лучи взаимодействуют с верхним слоем атмосферы и их энергия превращается в атмосферные ливни. Большинство частиц и гамма-лучей из атмосферных ливней задерживаются в атмосфере до того, как достигают уровня земли, и только вторичные мюоны и нейтрино, которые несут малую долю общей энергии достигают поверхности. Так что, на первый взгляд кажется, что галактические космические лучи не могут значительно воздействовать на жизнь на Земле. Но это не так. Всё больше накапливается свидетельств того, что даже умеренные изменения потока космических лучей, которые достигают атмосферы, имеют значительные эффекты, несмотря на их низкую плотность энергии. Эти данные приходят из двух источников:
Взаимодействие космических лучей с атомными ядрами в верхней атмосфере создаёт ливни вторичных частиц, некоторые из которых создают радиоактивные изотопы 14C and 10Be, которые достигают поверхности Земли или за счёт углеродного цикла (С14) или в результате дождя и снега (Be10). Поскольку это их единственный земной источник, их концентрация в кольцах деревьев, кернах льда и морских отложениях даёт хорошие данные об интенсивности галактических космических лучей, которые достигали атмосферы в прошлом. Они показывают чёткую корреляцию между климатическими изменениями и вариациями потока космических лучей в эпоху Голоцена.
Ионы, создаваемые космическими лучами, увеличивают количество возникающих низковысотных облаков (e.g., Carslaw et al. 2002). Из данных, собранных за последние 20 лет, спутниками и датчиками нейтронов, следует чёткая корреляция между глобальным облачным покровом и потоком космических лучей с энергиями больше 10 Гэв, которые проникают сквозь геомагнитное поле. Облачный покров снижает глобальный уровень освещённости в среднем на 30 Вт/кв.м., что составляет 13% от глобальной солнечной освещённости. Увеличение потока галактических космических лучей связывается с увеличением низкого облачного покрова, который увеличивает отражающую способность атмосферы и приводит к снижению температуры.
Космические лучи влияют на жизнь и другими способами:
Созданные космическими лучами атмосферные ливни из заряженных частиц вызывают разряды молний в атмосфере (Gurevich and Zybin, 2005). Эти ливни создают NO и NO2 путём прямой ионизации молекул, которые разрушают озон быстрее, чем он создаётся в разрядах. Уменьшение озона в атмосфере приводит к увеличению УФ излучения на поверхности.
Распад вторичных мезонов, создаваемых ливнями, приводит к возникновению высокоэнергетичных проникающих мюонов, которые достигают земли и проникают глубоко под землю и под воду. Небольшая доля энергетичных протонов и нейтронов из ливня, которая возрастает с ростом энергии начальной космической частицы, также достигает поверхности. В целом высокопроникающие вторичные мюоны ответственны примерно за 85% полной эквивалентной дозы, которые наносят космические лучи на уровне поверхности. Их взаимодействия, и взаимодействия их продуктов с электронами и ядрами в живых клетках, ионизируют атомы и разрывают молекулы и повреждают ДНК и РНК за счёт смещения электронов, атомов и ядер с их мест. Полная доза энергии, выделяющаяся из проникающих мюонов, которая приводит к 50% смертности в течение 30 дней составляет от 2.5 до 3 Грей (1 Гр= 104 эрг/гр.) Один космический мюон выделяет примерно 4 Мэв/гр. в живых клетках, и таким образом летальный поток космических мюонов составляет примерно 5*109 шт/кв.см, если он излучается в течение короткого времени (менее месяца). Чтобы подвергнуть такой дозе в течение месяца нормальный поток космических лучей должен возрасти примерно в 1000 раз на целый месяц.
Значительное увеличение потока космических лучей в течение длительных периодов времени может привести к глобальным климатическим катастрофам и подвергнуть жизнь на поверхности, под землёй и под водой опасным уровням радиации, что приведёт к раку и лейкемии. Однако большая часть галактических космических лучей имеет энергии менее 10 Гэв. Такие космические лучи, когда они проникают в гелиосферу, отражаются магнитным полем солнечного ветра до того, как они достигают окрестностей Земли и её геомагнитным полем до того, как они достигают земной атмосферы. Таким образом, поток галактических космических лучей, который достигает Земной атмосферы, модулируется вариациями солнечного ветра и земного магнитного поля. Жизнь на Земле адаптировалась к нормальному потоку космических лучей, который достигает ее атмосферы. Возможно, вызванные космическими лучами мутации живых клеток играли главную роль в эволюции и диверсификации жизни от первой клетки до нынешних миллионов видов. Любые достоверные утверждения о глобальном риске со стороны увеличения потока космических лучей должны демонстрировать, что ожидаемое увеличение больше, чем периодические изменения в потоке космических лучей, который достигает Земли, и связан с периодическими изменениями солнечной активности, геомагнитного поля и движения Земли, к которым земная жизнь уже адаптировалась.
