decimal

1зной

3ответ

C# 2.0 двойная обработка - Необычное поведение

Double dblValue = 0.0001; Boolean a = (dblValue >= (1/1000)); Boolean b = (dblValue >= 0.001); Console.WriteLine("dblValue >= (1/1000) is " + a); Console.WriteLine("dblValue >= 0.001 is " + b); C

c# double decimal boolean 2010-07-27

---

1зной

1ответ

Python MySQLdb усекающие значения

У меня возникла интересная проблема. У меня есть база данных MySQL, которая содержит несколько удвоений с очень точными десятичными значениями (например, 0.00895406607247756, 17 знаков после запятой).

python mysql floating-point decimal 2010-07-28

---

0зной

5ответ

Преобразование строки ASCII в десятичные и шестнадцатеричные представления

Мне нужно преобразовать строку ASCII, например ... «hello2» в ее десятичное или шестнадцатеричное представление (числовая форма, конкретный вид не имеет значения). Итак, «привет» будет: 68 65 6c 6c 6f

c++ decimal 2010-08-03

---

2зной

2ответ

Когда я вставляю 78.9 в Mysql (используя JDBC), он округляется до 79? Это нормально

Когда я вставляю 78.9 в Mysql (используя JDBC), он округляется до 79? Это нормально ... если так, как я могу остановить это. Подробнее: Имя столбца: num Тип данных: decimal(12,0) * Выше был скопирован

java mysql decimal bigdecimal 2010-08-04

---