Возможно ли сделать этот векторизованный код MATLAB быстрее?

Question

В моей программе мне нужно рассчитать сумму:

.

Рассчитать эту сумму 2500 раз с новыми значениями C и z.

Аргумент z может быть вектором. Я написал простым для цикла и векторизованного версии кода следующим образом:

K = 200; 
n_z = 40000; 
C = ones(K,1); % an example, in real life the arey some coefficients (at next call will be new) 
k = 0:K-1; 
z = linspace(0, 2*pi, n_z); % at next call will be new 

tic; 
    my_sum_for = zeros(1, K); 
    for i=1:n_z 
     my_sum_for(i) = C' * tan(k' * z(i)); 
    end 
toc; % Elapsed time is 1.820485 seconds. 

tic; 
    my_sum = C' * tan(k' * z); 
toc; % Elapsed time is 0.160924 seconds. 

Векторизованной версия работает быстрее, но не достаточно. Можно ли улучшить векторную версию?

После ответа Доминик Jacquel, я есть эта векторизованную версия, это быстрее:

K = 200; 
    n_z = 40000; 
    C = ones(K,1)'; % an example, in real life they are some coefficients (at next call will be new) 
    k = (0:K-1)'; 
    z = linspace(0, 2*pi, n_z); % at next call will be new 

    tic; 
     my_sum_for = zeros(1, K); 
     for i=1:n_z 
      my_sum_for(i) = C * tan(k * z(i)); 
     end 
    toc; % Elapsed time is 1.521587 seconds. 

    tic; 
     my_sum = C * tan(k * z); 
    toc; % Elapsed time is 0.125468 seconds. 

Можно ли улучшить векторизованную версию еще больше (bsxfun, arrayfun или что-то)? Время 250 секунд для меня все еще медленное (это 75% всех вычислений).

Answer 1

Я думаю, вы довольно близки к аппаратным ограничениям здесь. Матричные умножения в Matlab выполняются с помощью BLAS libraries, которые оказались жесткими, когда дело доходит до производительности.

AFAIK, касательная функция имеет фактическое значение dedicated hardware для вычисления его значения. Кроме того, Matlab автоматически распределяет триггерные функции больших матриц по нескольким ядрам, поэтому там практически нечего улучшать.

Кроме того, исправьте меня, если я ошибаюсь, но, учитывая вероятные накладные расходы и проблемы с памятью, я думаю, что это вычисление на самом деле будет медленнее на графических процессорах.

Теперь, если вы сравните эти:

tic; 
for ii = 1:10 
    my_sum = C * tan(k * z); 
end 
toc 

tic; 
for ii = 1:10 
    my_sum_notan = C * k * z; 
end 
toc 

Вы увидите, что все боли происходит от функции касательной, так что вы имели лучший фокус на этом. Как вы можете прочитать here, ускорение триггерных функций в принципе возможно только в том случае, если вы жертвуете некоторой точностью.

Во всех вы должны задать себе следующие вопросы:

1. вы готовы отказаться от полной двойной точности, или, скажем, 6 цифр «достаточно близко»?

2. Не можете ли вы повторно сформулировать проблему, чтобы затем вычислить тангенс? или раньше? Или в любом случае на значительно меньшем количестве элементов?В заявленной проблеме это, очевидно, невозможно, но я не знаю полного кода - могут быть некоторые приятные триггеры, которые могут применяться к вашей проблеме.

3. Учитывая все вышесказанное, требуется ли количество усилий, необходимых для оптимизации этого, в большей степени перевешивать более продолжительное время работы? 250 секунд звучит не так уж плохо по сравнению с написанием пользовательских, едва переносимых функций MEX, которые реализуют триггерные функции с искаженным временем.

Answer 2

Делай, как много матричных операций, как это возможно авансовый (транспозиции в данном случае), чтобы сэкономить время в цикле

K = 200; 
n_z = 40000; 
C = ones(K,1)'; 
k = (0:K-1)'; 
z = linspace(0, 2*pi, n_z); 

tic; 
    my_sum_for = zeros(1, K); 
    for i=1:n_z 
     my_sum_for(i) = C * tan(k * z(i)); 
    end 
toc 

tic; 
    my_sum = C * tan(k * z); 
toc; 

мои времена выполнения, прежде чем

Elapsed time is 1.266158 seconds. 
Elapsed time is 0.531173 seconds. 

и после

Elapsed time is 0.496803 seconds. 
Elapsed time is 0.185396 seconds. 

Answer 3

Вот версия, которая работает немного быстрее на моем компьютере:

k = repmat((0:K-1)', 1, n_z); 
z = repmat(linspace(0, 2*pi, n_z), K, 1); 
C = ones(1, K); 
tic 
my_sum = C*tan(k.*z); 
toc 

По существу, вместо того, чтобы внешний продукт к и г я работать непосредственно на матрицах.

Первая версия

Elapsed time is 0.652923 seconds. 
Elapsed time is 0.240300 seconds. 

После ответа Доминик Jacquel в

Elapsed time is 0.376218 seconds. 
Elapsed time is 0.214047 seconds. 

Моя версия

Elapsed time is 0.168535 seconds. 

Вы, возможно, придется добавить стоимость repmats, но, возможно, вы можете сделать это один раз только, я не знаю остальную часть кода.

Я полностью согласен с Rody Oldenhuis. Большая часть работы лежит в касательной функции. Я могу рассказать вам больше. k. * z очень эффективен и не может быть улучшен. Если вы подсчитаете пропускную способность памяти, он будет иметь около 10 ГБ/с на моем компьютере. Пик, который я могу получить, составляет около 16 ГБ/с, поэтому он близок. Здесь не так много возможностей. То же самое с C * T. Это простое преобразование матриц-векторов BLAS2, ограниченное памятью. Для системных размеров вы показываете накладные расходы MATLAB не слишком велики.

Редактировать: как упоминал Родий, новые версии MATLAB уже распараллеливают tan(). Так что здесь не так много.

Вы можете только надеяться улучшить tan() - возможно, запустив его параллельно. В конце концов, это тривиально параллелизуемая задача ... Рассмотрите возможность экспорта именно этого файла MEX, который будет использовать OpenMP. Очень простая работа, много ускорений, если у вас есть несколько запасных ядер.