integer-division

7зной

1ответ

Целочисленное подразделение по сравнению с напольным фактором: почему этот неожиданный результат?

// «целочисленное деление» оператор Python удивил меня сегодня: >>> math.floor(11/1.1) 10.0 >>> 11//1.1 9.0 documentation читает «(этажные) фактор х и у». Итак, почему math.floor (11/1.1) равно 1

5зной

2ответ

Беззнаковое 128-разрядное деление на 64-разрядной машине

У меня есть 128-битное число, хранящееся как 2 64-разрядных номера («Привет» и «Ло»). Мне нужно только разделить его на 32-битное число. Как я могу это сделать, используя собственные 64-разрядные опер

0зной

2ответ

VS C++ бросает деление на ноль исключения после определенной проверки

В коде следующего C++, это должно быть невозможно айн целочисленного деления на ноль, чтобы иметь место: // gradedUnits and totalGrades are both of type int if (gradedUnits == 0) { return 0; }

3зной

4ответ

Избегание арифметики с плавающей точкой

Я написал небольшой программный синтезатор для iPhone. Для дальнейшей настройки производительности я измерил свое приложение с Shark и обнаружил, что теряю много времени в конверсиях float/SInt16. Ита

5зной

4ответ

Ошибка использования двойного типа в Java ... это должно быть так просто, мне почти стыдно, что я спрашиваю здесь

Хорошо. Я бил головой о стену, как через 2 часа, пытаясь понять, почему в мире double answer = 364/365; говорит мне, что answer равно 0. Или любая другая комбинация двойного в этом отношении, ее прост

15зной

4ответ

Результат отдела всегда равен нулю

У меня этот код C. #include <stdio.h> int main(void) { int n, d, i; double t=0, k; scanf("%d %d", &n, &d); t = (1/100) * d; k = n/3; printf("%.2lf\t%.2lf\n", t,