Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
отчет по практике Баулина.doc
Скачиваний:
7
Добавлен:
01.04.2025
Размер:
2 Мб
Скачать
☆

3.3.3 Работа с памятью в cuda

Затруднения с CUDA могут возникнуть при организации работы с памятью, так как она имеет сложную структуру и отличается по своим функциям от той, с которой мы привыкли работать на CPU. В этой части главы опишем основные функции работы с памятью. Самым простым способом выделения и освобождения памяти является использование следующих функций:

cuda Error_t cudaMalloc(void ** devPtr, size_t count) – выделяет память на устройстве и возвращает указатель на нее;

cuda Error_t cudaFree (void * devPtr) – освобождает память на устройстве;

Для выделения памяти под двухмерные массивы более подходящей является функция cuda Error_t cudeMallocPitch(void ** devPtr, int pitch, size_t width, int height), которая осуществляет выравнивание (путем добавления к каждой строке дополнительной) строк массива для более эффективного доступа к памяти. При этом в параметре pitch возвращается размер строки в байтах.

Рассмотренные выше функции управляют выделением памяти на GPU, к которой CPU не имеет непосредственного доступа. Поэтому API предоставляет функции копирования памяти, которые позволяют копировать память как между CPU и GPU, так и в пределах GPU.

cudaError_t cudaMemcpy (void* dst, const void* src, size_t count, enum cudaMemcpyKind kind); – блокирующий вариант;

cudaError_t cudaMemcpyAsync (void* dst, const void* src, size_t count, enum cudaMemcpyKind kind, cudaStream_t stream); – неблокирующий вариант.

Здесь аргументы dst и src задают адреса, куда и откуда необходимо произвести копирование памяти, параметр count задает количество байт памяти, которое необходимо переписать. Параметр kind задает тип копирования памяти и принимает одно из следующих значений – cudaMemcpyHostToHost, cudaMemcpyHostToDevice, cudaMemcpyDeviceToHost или cudaMemcpyDeviceToDevice.

Еще раз подчеркнем, что нужно очень хорошо знать модель памяти CUDA для корректной организации работы программы, чтобы в дальнейшем неправильное выделение памяти не привело к серьезным ошибкам.

3.3.4 Использование событий для синхронизации на cpu

В ходе выполнения программы важно знать, какие ресурсы на данный момент вам доступны. Для отслеживания выполнения кода на GPU в CUDA используются события (CUDA event). События – это объект типа cudaEvent_t, используемый для обозначения «точки» среди вызовов CUDA. При помощи функций для работ с событиями можно создавать или уничтожать их, привязывать события к определенным местам в коде, узнавать наступило ли данное событие (пройдена ли данная точка GPU), ждать наступления события, а также получать интервалы времени в миллисекундах между наступлениями двух событий. Поэтому считаем нужным перечислить основные функции, которые используются для работы с ними, и изложить их краткую характеристику.

cudaError_t cudaEventCreate ( cudaEvent_t * event ); - создание события.

cudaError_t cudaEventRecord (cudaEvent_t event, CUstream stream); - задание места, прохождение которого должно сигнализировать данное событие. Если параметр stream не равен нулю, то отслеживается только завершение выполнения всех операций в данном потоке. Следует обратить внимание, что этот запрос является асинхронным – он фактически только обозначает место в потоке команд, прохождение которого потом будет запрашиваться.

cudaError_t cudaEventQuery ( cudaEvent_t event ); - мгновенная проверка "прохождения" данного события, управление из этой функции возвращается сразу же. В случае если все операции, предшествующие данному событию были закончены, то возвращается cudaSuccess, иначе возвращается значение  cudaErrorNotReady.

cudaError_t cudaEventSynchronize( cudaEvent_t event ); - явная синхронизация, т.е. ожидание пока все операции для данного события не будут завершены.

cudaError_t cudaEventElapsedTime( float * time, cudaEvent_t startEvent, cudaEvent_t stopEvent );- возвращает время в миллисекундах (с точностью до половины микросекунды), прошедшее между данными событиями (между моментами, когда каждой из этих событий было "записан").

cudaError_t cudaEventDestroy( cudaEvent_t event ); - уничтожение события.