floating-accuracy

0зной

2ответ

Как вычислить полную ошибку округления с плавающей точкой в наборе арифметических вычислений в java с использованием Math.ulp (double)?

Я хочу рассчитать ошибку округления с плавающей запятой ряда дополнений, умножений и делений с использованием метода Math.ulp (double) в Java. Согласно странице wiki на Unit в последнем месте (ULP), к

1зной

1ответ

Как решить, если целое число имеет целочисленный корень?

Мне нужно решить для любого корня степени n, что он имеет целочисленный корень. Моя первоначальная идея заключалась в том, чтобы найти приблизительный корень, используя метод Ньютона, однако, будет ли

5зной

3ответ

Как работает Rounding in Python?

Я немного смущен тем, как работает округление в Python. Не могли бы вы объяснить, почему Python ведет себя так? Пример: >>> round(0.05,1) # this makes sense 0.1 >>> round(0.15,1) # this doesn't make

-1зной

1ответ

modulo function

Новичок в C#, пытаясь разработать простой расчет. float old x=300 float Distance=300 float pitch=0.8 int sign=1 new x= old x - (sign * (Distance % pitch) * 0.5 f) Значения сгенерирована программо

4зной

2ответ

Валюта с 5 десятичными знаками?

мне нужно перевести следующий код C# в Delphi: decimal XYZ = decimal.Round(dataset123.XYZ, 5, MidpointRounding.AwayFromZero); Результат будет сохранен в поле поплавка в базе данных MSSQL. Когда я ра

0зной

3ответ

Избегайте неточности при использовании чисел с плавающей запятой?

Я пытаюсь использовать интеграцию Монте-Карло, чтобы приблизить область под заданным графом, чтобы вычислить ее площадь. Чтобы это работало, мне нужно, чтобы вычисленные y_min и y_max были точными. Ит