- •Теории параллельных вычислений
- •Часть 1
- •Теории параллельных вычислений. Часть 1. Методические указания / Сост. К.В.Кротов - Севастополь: Изд-во СевНту, 2009.- 87 с.
- •Содержание
- •Особенности параллелизма уровня программ
- •1 Параллельные вычисления. Вводные понятия
- •1.1 Параллелизм уровня заданий
- •Отличие мультипрограммирования от распараллеливания
- •Параллельность в режиме мультипрограммирования
- •1.2 Параллелизм уровня программ
- •1.3 Параллелизм уровня команд
- •2 Эффективность функционирования параллельных вычислительных систем
- •Закон Амдала
- •2.2 Закон Густафсона
- •3 Классификация параллельных вычислительных систем
- •1). По количеству потоков команд и данных в системе:
- •3.1 Система окод (sisd)
- •3.2 Система мкод (misd)
- •3.3 Системы класса окмд (simd)
- •3.4 Системы мкмд (mimd)
- •2). Признак классификации в соответствии со степенью связанности элементов вс.
- •3.5 Матричные системы (окмд)
- •3.6 Системы с ансамблем процессоров (окмд)
- •3). Признак классификации вс на основе межпроцессорного обмена
- •Классификация систем типа мкмд (mimd)
- •Симметричные мультипроцессоры (smp)
- •3.7 Структурная организация smp-систем
- •3.9 Гибридные системы (numa-системы)
- •4 Вычислительные кластеры
- •Организация кластера
- •Магистральные системы (конвейерные)
- •5 Организация конвейерных вычислений. Конвейер команд
- •Организация конвейера команд
- •Временная диаграмма конвейера
- •5.1 Арифметический конвейер
- •Временные диаграммы
- •5.2 Понятие векторных вычислений (операций)
- •Упрощенная схема векторного процессора
- •Организация векторного процессора
- •Временные диаграммы обработки векторов
- •Структура реализации векторного процессора
- •6 Примеры систем, реализующих конвейерные вычисления
- •6.1 Вс с вычислительной магистралью и с реализацией модели «Память-память»
- •Особенности функционирования системы
- •6.2 Вс с арифметико-командной магистралью и с реализацией модели «Регистр – регистр»
- •Функциональная схема вычислительной системы
- •Секция (группа) функциональных устройств
- •Группа буферных регистров
- •Секция управления
- •7 Системы класса simd. Матричные системы
- •Упрощенная структурная организация вс
- •Организация и функционирование блоков матричной вс
- •7.1 Организация процессорного элемента (пэ)
- •7.2 Упрощенная организация системы (MasPar)
- •7.3 Контроллер массива
- •Особенности, связанные с управлением пэ
- •Функциональная схема
- •8 Системы класса mimd
- •Архитектуры mimd систем
- •9 Smp системы
- •Архитектура smp
- •10 Организация простых коммутаторов
- •Функциональная организация процессора (xmp)
- •11Составные перекрестные коммутаторы
- •11.1 Коммутатор Клоза
- •Функциональная организация связей
- •Принцип формирования коммутатора
- •11.2 Коммуникационная сеть omega
- •12 Примеры реализации smp систем (систем с общедоступной памятью)
- •21.3 Сервер hp 9000
- •13 Системы pvm. Общие понятия
- •13.1 Особенности реализации распределенных вычислений в pvm
- •13.2 Архитектура pvm
- •13.3 Понятие идентификатора задачи (Tid)
- •13.4 Модели передачи сообщений в pvm
- •13.5 Технология создания pvm-программ
- •13.6 Определение (задание) конфигурации вычислительного кластера (параллельной виртуальной машины)
- •13.7 Организация распределённого выполнения параллельных программ на пк вычислительного кластера с обменом сообщениями между ними
- •13.8 Управление конфигурацией вычислительного кластера средствами pvm
- •13.9 Взаимодействие распределено выполняемых процессов с помощью сообщений. Образование каналов передачи данных
- •14 Основные понятия распределенных вычислений
- •14.1 Основные понятия передачи сообщений по каналам
- •14.2 Схемы «Взаимодействующие равные» при обмене между процессами
- •Централизованное решение
- •Распределенное («симметричное ») решение
- •Кольцевое решение
- •14.3 Взаимодействие процессов по схеме «Клиент-сервер»
- •Общая схема взаимодействия между клиентом и сервером
- •Упрощенная схема взаимодействия клиента с ресурсами
- •Информационные структуры сервера
- •14.4 Модели взаимодействия распределенных процессов Модель «зонд-эхо»
- •Построение топологии вычислительного кластера
- •Шаги процесса формирования топологий (1 вариант)
- •Алгоритм формирования топологии кластера (вариант 2)
- •Особенности построения топологии кластера с циклами
- •Построение остовного дерева кластера
- •15 Алгоритм распределенной синхронизации доступа к обзщим ресурсам
- •15.1 Распределенные семафоры
- •Понятие логических часов в распределенных семафорах
- •15.2 Алгоритм передачи маркера
- •16 Изучение алгоритмов работы с распределенными базами данных
5.2 Понятие векторных вычислений (операций)
Задачи, решаемые в конвейерных ВС – это обработка массивов однотипных данных (конвейер реализует матричные вычисления).
Матричные вычисления - это одинаковые действия с элементами массивов, выполняющиеся параллельно.
В магистральных ВС реализуются векторные команды, обрабатывающие целиком входные массивы - операнды.
Вектор - это одномерный массив данных, хранимых в ОЗУ регулярным образом (в подряд идущих ячейках).
Хранение двумерных массивов упорядочивается либо по строкам, либо по столбцам.
Пример: организация хранения двумерного массива
а11 а12 … а15
а21 а22 … а25
… … …
а41 а42 … а45
Упорядочивание хранения по строкам:
Шаг 1 – перемещение по строке;
Шаг 5 – перемещение по столбцу.
Упорядочивание хранения по столбцам:
Шаг 1 – перемещение по столбцам;
Шаг 4 – перемещение по сторкам.
Особенности, связанные с хранением и обработкой (хранение по строкам, обработка по столбцам) определяют значение шага при изменении адреса ячейки с данными. Значение шага называется индексом шага при выполнении векторных вычислений
Виды векторных процессоров:
1). Процессор с одним АЛУ;
2). Процессор с несколькими АЛУ.
Упрощенная схема векторного процессора
Упрощенная схема организации ВС при векторных вычислениях (один конвейер) представлена на рис. 5.4.
Рисунок 5.4 - Упрощенная схема организации ВС при векторных вычислениях (один конвейер)
Упрощенная схема организации ВС при векторных вычислениях (совокупность конвейеров) представлена на рис. 5.5.
Рисунок 5.5 - Упрощенная схема организации ВС при векторных вычислениях (совокупность конвейеров)
Векторный процессор (ВП) интерпретирует какую-либо векторную команду, в соответствии с ней одинаковые действия выполняются над всеми элементами массивов.
Организация векторного процессора
Реализация АЛУ предусматривает:
Универсальный конвейер, выполняющий все возможные операции с плавающей запятой. Состав конвейера формируется в зависимости от кода интерпретируемой команды.
АЛУ реализуется в виде конвейеров для отдельных операций.
Векторные регистры представляют собой совокупность скалярных регистров, хранящих упорядоченные элементы массивов.
Регистр длины вектора определяет, сколько элементов из векторных регистров должно быть отработаны. (Сколько элементов исходных массивов образовываются при интерпретации текущей векторной команды).
Регистр маски вектора - маска определяет элементы входных векторов, подлежащие обработке (каждый бит маски соответствует одному элементу вектора, единица в бите обуславливает запись результатов в выходной регистр).
Таким образом, устройство управления векторного процессора должно синхронизировать выполнение подряд идущих действий с элементами, хранимыми в векторных регистрах.
Временные диаграммы обработки векторов
(вектора по 5 или по 8 элементов)
Таким образом, при параллельно функционирующих конвейерных АЛУ выделяют два уровня конвейеризации (параллелизма).
