CUBLAS ошибка распределения памяти

Question

Я попытался выделить 17338896 элементов чисел с плавающей запятой следующим образом (что составляет около 70 Мб):

state = cublasAlloc(theSim->Ndim*theSim->Ndim, 
         sizeof(*(theSim->K0)), 
         (void**)&K0cuda); 
    if(state != CUBLAS_STATUS_SUCCESS) { 
     printf("Error allocation video memory.\n"); 
     return -1; 
    } 

Однако, я получаю сообщение об ошибке CUBLAS_STATUS_ALLOC_FAILED для переменного состояния. Будет ли это иметь какое-либо отношение к количеству доступной на компьютере памяти видеокарты (128 МБ на моей) или это будет ограничение объема памяти, которое я могу выделить, используя функцию cublasAlloc() (то есть не относящуюся к сумме памяти, доступной на машине)? Я попытался использовать функцию cudaMalloc(), и я столкнулся с той же проблемой. Заранее благодарим за это.

-------------- Добавление ошибки при воспроизведении ---------------------------- ---------

#include <cuda.h> 
#include <stdio.h> 
int main (int argc, char *argv[]) { 

    // CUDA setup 
    cublasStatus state; 

    if(cublasInit() == CUBLAS_STATUS_NOT_INITIALIZED) { 
     printf("CUBLAS init error.\n"); 
     return -1; 
    } 

    // Instantiate video memory pointers 
    float *K0cuda; 

    // Allocate video memory needed 
    state = cublasAlloc(20000000, 
         sizeof(float), 
         (void**)&K0cuda); 
    if(state != CUBLAS_STATUS_SUCCESS) { 
     printf("Error allocation video memory.\n"); 
     return -1; 
    } 

    // Copy K0 from CPU memory to GPU memory 
    // Note: before so, decide whether to integrate as a part of InsertionSim or 
    //  CUDA content as a separate class 
    //state = cublasSetMatrix(theSim->Ndim, theSim->Ndim, sizeof(*theSim->K0), 
    //      theSim->K0, theSim->Ndim, K0cuda, theSim->Ndim); 
    //if(state != CUBLAS_STATUS_SUCCESS) { 
    // printf("Error copy to video memory.\n"); 
    // return -1; 
    //} 

    // Free memory 
    if(cublasFree(K0cuda) != CUBLAS_STATUS_SUCCESS) { 
     printf("Error freeing video memory.\n"); 
     return -1; 
    } 

    // CUDA shutdown 
    if(cublasShutdown() != CUBLAS_STATUS_SUCCESS) { 
     printf("CUBLAS shutdown error.\n"); 
     return -1; 
    } 

    if(theSim != NULL) delete theSim; 

    return 0; 
} 

Answer 1

Память может фрагментироваться, что означает, что вы все равно можете выделить несколько меньших блоков, но не один большой блок. Очевидно, что вашей видеокарте потребуется некоторая память для обычной 2D-задачи. Если это произойдет, чтобы сломать 128 МБ на 2 блока почти 64 МБ, тогда вы увидите такой отказ.