Точные проблемы с MPI_REDUCE

Question

Я сталкиваюсь с проблемами точности с MPI_REDUCE() в fortran. Я проверил два метода суммирования чисел двойной точности, хранящихся на каждом узле. Линии MPI_REDUCE() я использую

call MPI_REDUCE(num,total,1,MPI_DOUBLE_PRECISION,MPI_SUM,0,MPI_COMM_WORLD,ierr) 

, который хранит сумму значений «пит» на каждое ядро ​​и отправляет его на «всего» на корневом ядре.

Другой метод я использую включает передачу и прием

if (rank .eq. 0) total = num 
do i = 1,nproc-1 
    if (rank .eq. i) call MPI_SEND(num,1,MPI_DOUBLE_PRECISION,0,& 
            100,MPI_COMM_WORLD,ierr) 
    if (rank .eq. 0) then 
     call MPI_RECV(num,1,MPI_DOUBLE_PRECISION,i,& 
         100,MPI_COMM_WORLD,stat,ierr) 
     total = total + num 
    end if 
end do 

Последние всегда дает мне тот же номер для общей сложности, в то время как бывшие производит различное значение в зависимости от количества процессоров, которые я использую (Это обычно изменяется на 1x10^-5 или около того). ierr = 0 во всех случаях. Я делаю что-то неправильно?

Благодаря

Answer 1

арифметики с плавающей точкой не является строго ассоциативная, порядок, в котором выполняются операции могут иметь влияние на результат. В то время как

(a+b)+c == a+(b+c) 

верно для реальной (как в математическом, а не Fortran, терминологии) чисел это не так (универсально) справедливо для чисел с плавающей точкой. Поэтому неудивительно, что встроенное сокращение приводит к результату, который отличается от вашего собственного сокращения, сокращенного на дому. Поскольку вы меняете количество процессоров, у вас нет контроля над порядком отдельных дополнений в вычислении; даже на фиксированном числе процессоров я бы не удивился небольшой разнице между результатами разных исполнений одной и той же программы. Напротив, ваше собственное сокращение всегда делает дополнения в том же порядке.

Какова относительная ошибка двух результатов? В исходной точке 10^(-5) указывается только абсолютная ошибка, и это не позволяет сделать вывод о том, что ваша ошибка может быть полностью объяснена неассоциативностью арифметики f-p.