precision

6зной

1ответ

Почему назначение double-int не вызывает gcc-предупреждения?

int i = 3.1/2 не вызывает никаких предупреждений, даже с параметром -Wall. Иногда я хотел бы знать, где точность теряется. Почему gcc не поддерживает это предупреждение, а msvc поддерживает это? спа

0зной

3ответ

Сохранение и возврат десятичных знаков с введенной пользователем точностью в SQL Server

Имеет ли тип данных SQL Server decimal фактическое количество цифр после десятичного числа для каждого значения в столбце? Например UPDATE [Mixes] SET [Concentration] = 0.0012500 WHERE [Id] = 1 где

8зной

4ответ

Почему Math.sqrt (i * i) .floor == i?

мне интересно, если это правда: Когда я беру корень квадратный из квадрата целого числа, как в f = Math.sqrt(123*123) я получить число с плавающей точкой очень близко к 123. Из-за точности представл

8зной

1ответ

Как установить уровень точности для bignum Perl?

Я пытаюсь использовать модуль bignum в Perl и хочу установить точность. Я знаю, что это может быть сделано с помощью одного вкладыша как подробно на module's CPAN page: $ perl -Mbignum=p,-50 -le 'prin

74зной

6ответ

C# DateTime.Now precision

Я просто столкнулся с каким-то неожиданным поведением с DateTime.UtcNow при выполнении некоторых модульных тестов. Похоже, что когда вы вызываете DateTime.Now/UtcNow с быстрой последовательностью, пох

2зной

2ответ

значения отрицательной точности в ostream

Это скорее вопрос любопытства, но кто-нибудь знает, как отрицательные значения точности обрабатываются на C++? Например: double pi = 3.14159265; cout.precision(-10); cout.setf(ios::fixed, ios::floa

2зной

3ответ

Точность GPS в наборе карт не так точно, как в Maps.app

Почему точность моего местоположения в Mapkit не так хороша, как в приложении для карт? Точность установлена наилучшим образом. Если я пытаюсь получить свое местоположение в maps.app, у меня есть то