precision

1зной

2ответ

Предположим, вы дали этот отрывок кода: Пример 1: printf("Enter two real numbers: "); scanf("%f %f", &a, &b); if (a == b) //do something Мой вопрос: Нужно ли использовать некоторые «меры безопасн

0зной

2ответ

Прецизионная ошибка в Python

Итак, я в конечном счете пытаюсь использовать правило Хорнера (http://mathworld.wolfram.com/HornersRule.html) для вычисления полиномов и создания функции для вычисления полинома. Как бы то ни было, мо

0зной

1ответ

PERL точность ошибки при вычислении базы-10 журнала характеристического

Я понимаю FP представление без питания из-двух чисел всегда есть ошибки, но это ... % perl -e 'print int(log(1000)/log(10))."\n"' 2 % perl -e 'print (log(1000)/log(10))."\n"' 3 % perl -v This is

0зной

2ответ

Прецизионность при расщеплении суммы в частичных суммах в приложениях с резьбой

Я пишу код C++/C, использующий тип float для выполнения сумм. Я знаю, что могу использовать двойной или длинный двойной, но сейчас я тестирую float. Я сравниваю 2 реализации, одну единственную резьбу,

1зной

3ответ

Сходство двух наборов интервалов

Какой алгоритм/решение можно использовать для обозначения сходства (перекрытие/точность/отзыв/...) двух наборов диапазонов. я могу думать (или найти в Интернете) сотни подобных проблем, но никогда точ

0зной

1ответ

Настройка точности для реальных типов в Eiffel

В Eiffel после выполнения некоторых операций над значением типа DOUBLE, я получаю результат 1.9999999999999998, тогда как ожидаемый результат должен быть 2. Я знаю, что это вызвано неточностями в ариф

0зной

2ответ

PostgreSQL обрабатывать одни и те же значения, как различные

Таким образом, в этом примере SQL-возвращает строку, которая имеет столбцы «quantidade» и «quantidade_reservada», каждая из которых содержит значение «110», тип двойной точности: Когда я пытаюсь приме