decimal

2зной

8ответ

Десятичное число вопросов с поплавками и десятичными. Десятичное число

Я, кажется, теряю много точности с поплавками. Например мне нужно решить матрицу: 4.0x -2.0y 1.0z =11.0 1.0x +5.0y -3.0z =-6.0 2.0x +2.0y +5.0z =7.0 Это код, я использую, чтобы импортировать матри

1зной

2ответ

Значение десятичного присваивания t-sql

Почему инструкция select ниже возвращает два разных значения? declare @tempDec decimal set @tempDec = 1.0/(1.0 + 1.0) select @tempDec, 1.0/(1.0 + 1.0)

65зной

8ответ

Является ли двойным действительно неподходящим для денег?

Я всегда говорю в C# переменная типа double не подходит для денег. Все странные вещи могут случиться. Но я не могу создать пример для демонстрации некоторых из этих проблем. Может ли кто-нибудь предст

43зной

7ответ

Десятичная и двойная скорость

Я пишу финансовые приложения, где постоянно борюсь за решение использовать двойное и десятичное число. Все мои математические произведения работают с числами не более 5 знаков после запятой и не больш

5зной

5ответ

Должен ли я использовать десятичный, плавающий или двойной для этого простого математического результата?

Я делаю очень просто математику и сохраняю результат в MS SQL2008 DB. Я усредняет некоторые цифры, которые являются значениями в байтах между 1 < -> 5. Я хочу записать только 2 десятичных знака. Я не

11зной

3ответ

Сплит «Десятичный» в VB.NET

Я уверен, что это очень простая проблема, но я новичок в VB.NET, поэтому у меня возникла проблема с ней. У меня есть переменная Decimal, и мне нужно разбить ее на две отдельные переменные: одну, содер

270зной

13ответ

Как вы можете округлить число до двух знаков после запятой в C#?

Я хочу сделать это с помощью функции Math.Round