floating-accuracy

4зной

2ответ

Python float тихая ошибка переполнения

В StackOverflow есть довольно много тем для представлений с плавающей точкой, об исключениях, усечениях, проблемах с точностью. Я пытался объяснить это, но до сих пор не понял. from operator import ad

python floating-point overflow precision floating-accuracy 2015-10-27

---

1зной

1ответ

Количество итераций, чтобы получить требуемую точность в С (ln х, многочлен Тейлора)

Я пытаюсь написать программу переменного тока в получите результат «п» итераций ряда Тэйлора для Ln (х) прибудет число итераций, необходимых для получения результата с заданной точностью по сравнению

c iteration floating-accuracy polynomials 2015-11-04

---

-3зной

1ответ

Golang поплавок арифметика

Как поплавок арифметика работа в Go площадка link package main import "fmt" func main() { j := 1.021 fmt.Println(j) k := j*1000 fmt.Println(k) l := int(k) fmt.Println

go floating-point floating-accuracy 2015-11-10

---

2зной

1ответ

Расчет 3D евклидово расстояние без перелива или потери значимости

Вычислительной 3D евклидово расстояние без перелива или недостаточному Привет, Я написал код для расчета 3D евклидово расстояние между двумя векторами. Я знаю, что это довольно распространенная операц

c 3d floating-accuracy euclidean-distance 2015-11-13

---

2зной

2ответ

вычисление php с десятичным числом (10,3) \t приводит к экспоненциальному иногда

В моем сценарии php я делаю подсчет записей из MySQL db. Соответствующие поля в db определяются как decimal(10,3). Это учетная форма, где я должен проверять, есть ли в каждой записи дебет = кредит. Я

php precision floating-accuracy 2015-11-14

---

0зной

4ответ

Не могли бы вы объяснить поведение метода потолка?

Я только что проверил с LINQPad: Не могли бы вы объяснить мне, почему/как метод потолка реагирует так? Обратите внимание на 123.12 в середине. Math.Ceiling(123.121 * 100)/100 'display 123.13 Math.Cei

c# .net vb.net floating-accuracy 2015-11-26

---