rounding-error

4зной

1ответ

Оценка ошибки при вычислениях с использованием десятичных знаков

В настоящее время мы используем System.Decimals для представления чисел в приложении .NET, которое мы разрабатываем. Я знаю, что десятичные знаки - это дизайн, чтобы минимизировать ошибки из-за округл

15зной

6ответ

Какой класс использовать для представления денег?

Какой класс следует использовать для представления денег, чтобы избежать большинства ошибок округления? Должен ли я использовать Decimal или простой встроенный number? Есть ли существующий класс Money

2зной

2ответ

Как справиться с ошибками округления на удвоениях в vb.net?

Я пытаюсь сбалансировать набор значений валюты с помощью vb.net. Суммы для обоих этих значений приведены как двойные. В некоторых ситуациях я получаю ошибки округления. Каков наилучший способ избежать

11зной

5ответ

Значение php intval() и floor(), которое является слишком низким?

Поскольку тип данных float в PHP неточен, а FLOAT в MySQL занимает больше места, чем INT (и является неточным), я всегда храню цены как INT, умножая на 100 до хранения, чтобы обеспечить ровно 2 десяти

2зной

11ответ

Представление вероятности в C++

Я пытаюсь представить простой набор из 3 вероятностей в C++. Например: a = 0.1 b = 0.2 c = 0.7 (Насколько я знаю, вероятности должны добавить до 1) Моя проблема заключается в том, что, когда я пыт