precision

0зной

3ответ

Как правильно вставить координаты широты и долготы в mySQL float?

Я пытаюсь вставить что-то вроде 150.1835024 и 32.8392648 в mySQL как float. Проблема в том, что когда я пытаюсь создать поле mySQL, например, FLOAT 3,7, он не работает. Каков правильный формат? Это ош

4зной

1ответ

Как этот код вычисляет pi с высокой точностью?

Вот код: #include <stdio.h> long f[2801]; int main() { long i = 0, c = 2800, d = 0, e = 0, g = 0; for (i = 0; i < c; ++i) f[i] = 2000; for (;;) { d = 0; g = c * 2

0зной

1ответ

Установка double в C++ дает странные числа

Я инициализирую двумерный двойной массив в C++, установив некоторые элементы в 0 и другие на 100. Однако после того, как я инициализировал значение, я распечатаю его и получаю поистине странные числа

1зной

1ответ

Распределение точности чисел чисел с плавающей запятой

Для начала я просто хочу заявить, что прочитал this обсуждение. Являются ли плавающие точки равномерно неточными по всем возможным значениям? Или увеличивается неточность, поскольку значения становятс

0зной

1ответ

Как измерить числовые вычисления для «ошибки точности»?

У нас есть большая система, написанная на Java, где точность, в большинстве случаев, не так важна. Поэтому мы сохраняем все числа в два раза. Однако несколько лет спустя возникло новое требование и дл

0зной

1ответ

JQuery scrollTop() точность при быстрой прокрутке страницы (во избежание потери пикселей)

Я использую значение JQuery scrollTop(), чтобы изменить элемент непрозрачности на странице свитка $(document).on('scroll', function(){ if($(document).scrollTop() >= 1){ $('#elem').css({'opa

0зной

2ответ

Экспоненциальные значения загружаются в таблицу Hive на Sqoop Import

Я импортировал таблицу с SQL-сервера в Hive, тогда как поле с плавающей точкой с SQL-сервера преобразуется в double в улей. И некоторые из значений загружаются экспоненциальным форматом. Ex. значение