floating-accuracy

1зной

1ответ

Я хочу проверить численную устойчивость QR-алгоритма, для этого мне нужно создать матрицу, как это: S = diag(2.^(-1:-1:-80)); Но это имеет ранг 46, я думаю, что это из-за отсутствия точности. Но в к

2зной

1ответ

Сравнение против Double.MaxValue

При сравнении варьироваться больших двойников случается, что следующий тест не пройден: [Test] public void DoubleMaxValueTest() { double val = Double.MaxValue; double epsilon = 10000.0;

3зной

1ответ

Точность MATLAB при вычитании

Мне нужна высокая точность для проекта, над которым я работаю. У меня есть проблема проиллюстрирована здесь, когда вычитая: >> 1-0.9999999999999999 ans = 1.1102e-16 >> 1-0.99999999999999999 ans

3зной

2ответ

Это очень малая константа с плавающей точкой является более приближенным, чем можно было бы ожидать

public class Exponents { public static void main(String[] args) { float expFloat = 1.38e-43f; // 1.38 here System.out.println(expFloat); } } Выход: 1.37E-43 Это безумие.

0зной

2ответ

Точность в сумме массива NSNumber

У меня есть массив NSNumber (в данном случае, для простоты, у меня есть только один элемент) Массив «_incassiInDistinta», который содержит объект «INCASSO», который имеет свойство "_importoIncassato"

0зной

2ответ

Как обеспечить согласованность вычислений с плавающей точкой на 32 бита на разных платформах?

У меня есть простой кусок кода, который работает с плавающими точками. Несколько умножений, делений, exp(), вычитание и добавление в цикле. Когда я запускаю один и тот же код на разных платформах (нап

0зной

3ответ

Java вычитание поплавков бесконечно?

В моем отладчике я вижу следующие значения: float min = -3.1931721E38 float max = 3.3434891E38 float temp = (max-min); Это приводит к бесконечности. Почему это? (2-2^23) · 2^127 больше, чем време

0зной

2ответ

Деление с плавающей запятой достаточно для определения номера ячейки точно?

Я пытаюсь объяснить пересечения меридиана точно и я столкнулся следующий вопрос о IEEE арифметику с плавающей точкой (округляется до ближайшего): Пусть п быть целым числом, и d небольшое положительное

2зной

1ответ

Может ли быть вычитанием между двумя точно представленными числами с плавающей точкой с одинаковой точкой с плавающей запятой?

У меня есть 2 числа, x и y, которые известны и представлены точно как числа с плавающей запятой. Я хочу знать, является ли z = x - y всегда точным или могут возникнуть ошибки округления. Для простых п

1зной

1ответ

Пакет Python и java для точности с плавающей точкой

Во время написания программы на языке python (то же самое на Java) я столкнулся со следующей проблемой, которая, как я знаю, связана с ошибкой округления. a = 0.3 b = 0.6; print(a+b) #returns 0.8999