rounding-error

1зной

1ответ

Ошибка с моим скриптом, где он удваивается в коде округления, и я не могу найти ошибку. Кажется, я не могу найти, откуда эта проблема. Любая обратная связь будет оценена. def research_rounding(first_t

1зной

2ответ

Плавающая точка и предотвращение ошибок округления

Широко известно, что пользователи с плавающей запятой должны следить за ошибками округления. Например, 1.0/3*3 == 1 оценивает значение false в почти каждом современном языке программирования. Более не

0зной

1ответ

Как я могу проверить ошибку в точности машины, поскольку я изменяю значение переменной `c`?

Я следую опрос Ландау вычислительной физики и я делаю эту проблему (часть б): Я написал код для создания 4 решения ниже. Я смущен тем, что автор хочет, чтобы я сделал здесь. При тестировании на ошибки

-4зной

2ответ

Java Округление до 15 знаков после запятой

У меня есть следующие коды, округленные по прямой скорости до 15 знаков после запятой. Когда _ForwardRate составляет 13 555,0, результат возвращается неправильно. public double round(double Number, in

0зной

2ответ

Различные результаты округления в Java 6 и Java 8

Я переписываю старую программу на Java 6, написанную для выполнения некоторых научных вычислений на Java 8, и застрял в этой ситуации, когда у меня возникают разные результаты для операции округления.

0зной

1ответ

Обнаружение нуля в решении линейной системы уравнений (Ах = б)

Предположим следующую систему уравнений Ax = b с: > A <- matrix(c(2,0,-1,0,0,2,2,1,-1,2,0,0,0,1,0,0), ncol = 4) > A [,1] [,2] [,3] [,4] [1,] 2 0 -1 0 [2,] 0 2 2 1 [3,] -1 2 0 0 [4,] 0 1 0 0