3. Теоретическая часть

CUDA (англ. Compute Unified Device Architecture) — технология GPGPU (англ. General-Purpose computing on Graphics Processing Units – вычисления общего назначения на графических процессорах), позволяющая программистам реализовывать на упрощённом языке программирования Си алгоритмы, выполнимые на графических процессорах видеокарт GeForce восьмого поколения и старше. Технология CUDA разработана компанией NVIDIA. Фактически CUDA позволяет включать в текст Си программы специальные функции. Эти функции пишутся на упрощённом языке программирования Си и выполняются на графических процессорах NVIDIA.

Архитектура графических адаптеров nvidia.

Видеоадаптеры традиционно ассоциируют с визуализацией трехмерной графики, однако они являются также высокопроизводительными арифметическими устройствами, способными выполнять параллельно тысячи потоков обработки, поэтому применяются и для разнородных вычислений, поддающихся распараллеливанию. Для эффективного использования технологии CUDA важно разбираться в базовых архитектурных особенностях видеочипов NVIDIA.

Архитектура чипа g80.

Разработка CUDA была анонсирована вместе с чипом G80. Это первый графический процессор NVIDIA, основанный на унифицированной шейдерной архитектуре, которая все расчёты проводит на так называемых скалярных унифицированных шейдерных конвейерах, которые также известны как потоковые процессоры (streaming processors, SP) или CUDA-ядра.

Графический процессор G80 состоит из 128 потоковых процессоров, которые сгруппированы в 8 блоков выборки текстур (thread processing clusters, TPC). Каждый блок подразделяется на 2 потоковых мультипроцессора (streaming multiprocessors, SM). Итого по 16 потоковых процессоров на 1 блок выборки текстур и по 8 процессоров на 1 мультипроцессор. Структура графического процессора представлена на рис. 3.1.

Рис. 3.1. Архитектура чипа G80

Основные составляющие блока выборки текстур:

• TEX – логика работы с текстурами. Содержит в себе участки конвейера, предназначенные для обработки текстурной памяти.

• SM – потоковый мультипроцессор, самостоятельный вычислительный модуль. Именно на нем осуществляется выполнение расчетов.

Основные составляющие мультипроцессора:

• SP – потоковый процессор, непосредственно вычислительный модуль. Способен совершать арифметические операции с целочисленными операндами и с операндами с плавающей точкой (одинарная точность). Не является самостоятельной единицей, управляется SM.

• SFU – модуль сложных математических функций. Проводит вычисления сложных математических функций (exp, sqr, log). Использует вычислительные мощности SP.

• Регистровый файл – единый банк регистров. На каждом SM имеется 32Кб. Самый быстрый тип памяти на графическом адаптере.

• Разделяемая память – специальный тип памяти, предназначенный для совместного использования данных потоков. На каждом SM – 16Кб разделяемой памяти.

• Кэш констант – место кэширования особого типа памяти (константной).

• Кэш инструкций, блок выборки инструкций – управляющая система SM. Не играет роли при программировании.

Архитектура чипа Fermi.

В 2009 г. NVIDIA официально представила новую архитектуру CUDA устройств под названием Fermi (рис. 3.2).

Рис. 3.2. Архитектура чипа Fermi

Основой данной архитектуры стал графический процессор GF100. Как и предшественники, GF100 организован в виде масштабируемого массива блоков: кластеров обработки графики (GPC), потоковых мультипроцессоров (SM) и контроллеров памяти.

Особенности новой архитектуры:

1. Третье поколение потокового мультипроцессора (SM):

• 32 ядра CUDA на SM;

• восьмикратный прирост производительности в операциях двойной точности в сравнении с предшественником;

• два блока планировщика задач (warp scheduler) на SM вместо одного;

• 64 КБ ОЗУ с конфигурируемым разделением на общую память и L1-кэш.

2. Второе поколение набора инструкций параллельного выполнения потоков:

• унифицированное адресное пространство с полной поддержкой С++;

• оптимизация для OpenCL и DirectCompute;

• полная 32- и 64-битная точность в соответствии с IEEE 754-2008;

• инструкции доступа к памяти для поддержки перехода на 64-битную адресацию;

• улучшенная производительность предсказаний.

3. Улучшенная подсистема памяти:

• иерархия NVIDIA Parallel DataCache с конфигурируемым L1-кэшем и общим L2;

• поддержка кодов коррекции ошибок (ECC), впервые на GPU;

• существенно увеличенная производительность операций чтения и записи в память.

4. Движок NVIDIA GigaThread:

• десятикратное ускорение процедуры контекстного переключения;

• параллельное выполнение ядер;

• непоследовательное исполнение потоков.