- •3.3 Расширение языка c……………………………………………………….46
- •1.1 Задача Дирихле
- •1.2 Метод простых итераций
- •1.3 Методы Якоби
- •1.4 Методы Зейделя и его модификации
- •2 Параллельные методы решения задачи Дирихле для систем с общей памятью
- •2.1 Использование OpenMp для организации параллелизма
- •2.2 Проблема синхронизации параллельных вычислений
- •2.4 Исключение неоднозначности вычислений
- •2.3 Возможность неоднозначности вычислений в параллельных программах
- •2.5 Волновые схемы параллельных вычислений
- •3 Параллельные вычисления с использованием видеокарты
- •3.1 Общие сведения о gpu и nvidia cuda
- •3.1.1 Разница между cpu и gpu в параллельных расчётах
- •3.1.2 Первые попытки применения расчётов на gpu
- •3.1.3 Возможности nvidia cuda
- •3.1.4 Области применения параллельных расчётов на gpu
- •3.2 Аппаратная и программная реализация cuda
- •3.2.1 Состав nvidia cuda
- •3.2.2 Архитектура gpu
- •3.2.3 Модель программирования cuda: потоковая модель
- •3.2.4 Модель программирования cuda: модель памяти
- •3.3 Расширение языка c
- •3.3.1 Директива вызова ядра
- •3.3.2 Основы cuda host api
- •3.3.3 Работа с памятью в cuda
- •3.3.4 Использование событий для синхронизации на cpu
- •3.3.5 Получение информации об имеющихся gpu и их возможностях
- •3.3.6 Компиляция
- •Http://habrahabr.Ru/blogs/cuda/54707/
3.3.3 Работа с памятью в cuda
Затруднения с CUDA могут возникнуть при организации работы с памятью, так как она имеет сложную структуру и отличается по своим функциям от той, с которой мы привыкли работать на CPU. В этой части главы опишем основные функции работы с памятью. Самым простым способом выделения и освобождения памяти является использование следующих функций:
cuda Error_t cudaMalloc(void ** devPtr, size_t count) – выделяет память на устройстве и возвращает указатель на нее;
cuda Error_t cudaFree (void * devPtr) – освобождает память на устройстве;
Для выделения памяти под двухмерные массивы более подходящей является функция cuda Error_t cudeMallocPitch(void ** devPtr, int pitch, size_t width, int height), которая осуществляет выравнивание (путем добавления к каждой строке дополнительной) строк массива для более эффективного доступа к памяти. При этом в параметре pitch возвращается размер строки в байтах.
Рассмотренные выше функции управляют выделением памяти на GPU, к которой CPU не имеет непосредственного доступа. Поэтому API предоставляет функции копирования памяти, которые позволяют копировать память как между CPU и GPU, так и в пределах GPU.
cudaError_t cudaMemcpy (void* dst, const void* src, size_t count, enum cudaMemcpyKind kind); – блокирующий вариант;
cudaError_t cudaMemcpyAsync (void* dst, const void* src, size_t count, enum cudaMemcpyKind kind, cudaStream_t stream); – неблокирующий вариант.
Здесь аргументы dst и src задают адреса, куда и откуда необходимо произвести копирование памяти, параметр count задает количество байт памяти, которое необходимо переписать. Параметр kind задает тип копирования памяти и принимает одно из следующих значений – cudaMemcpyHostToHost, cudaMemcpyHostToDevice, cudaMemcpyDeviceToHost или cudaMemcpyDeviceToDevice.
Еще раз подчеркнем, что нужно очень хорошо знать модель памяти CUDA для корректной организации работы программы, чтобы в дальнейшем неправильное выделение памяти не привело к серьезным ошибкам.
3.3.4 Использование событий для синхронизации на cpu
В ходе выполнения программы важно знать, какие ресурсы на данный момент вам доступны. Для отслеживания выполнения кода на GPU в CUDA используются события (CUDA event). События – это объект типа cudaEvent_t, используемый для обозначения «точки» среди вызовов CUDA. При помощи функций для работ с событиями можно создавать или уничтожать их, привязывать события к определенным местам в коде, узнавать наступило ли данное событие (пройдена ли данная точка GPU), ждать наступления события, а также получать интервалы времени в миллисекундах между наступлениями двух событий. Поэтому считаем нужным перечислить основные функции, которые используются для работы с ними, и изложить их краткую характеристику.
cudaError_t cudaEventCreate ( cudaEvent_t * event ); - создание события.
cudaError_t cudaEventRecord (cudaEvent_t event, CUstream stream); - задание места, прохождение которого должно сигнализировать данное событие. Если параметр stream не равен нулю, то отслеживается только завершение выполнения всех операций в данном потоке. Следует обратить внимание, что этот запрос является асинхронным – он фактически только обозначает место в потоке команд, прохождение которого потом будет запрашиваться.
cudaError_t cudaEventQuery ( cudaEvent_t event ); - мгновенная проверка "прохождения" данного события, управление из этой функции возвращается сразу же. В случае если все операции, предшествующие данному событию были закончены, то возвращается cudaSuccess, иначе возвращается значение cudaErrorNotReady.
cudaError_t cudaEventSynchronize( cudaEvent_t event ); - явная синхронизация, т.е. ожидание пока все операции для данного события не будут завершены.
cudaError_t cudaEventElapsedTime( float * time, cudaEvent_t startEvent, cudaEvent_t stopEvent );- возвращает время в миллисекундах (с точностью до половины микросекунды), прошедшее между данными событиями (между моментами, когда каждой из этих событий было "записан").
cudaError_t cudaEventDestroy( cudaEvent_t event ); - уничтожение события.
