integer-division

6зной

2ответ

ColdFusion слишком большой, чтобы быть целочисленным

Я пытаюсь преобразовать большое количество в мегабайты. Я не хочу десятичные numeric function formatMB(required numeric num) output="false" { return arguments.num \ 1024 \ 1024; } Затем он

1зной

1ответ

Проблема с итерациями в функции

Назначение, над которым я работаю для класса, просят нас сделать программу, которая вычисляет целочисленное деление посредством повторного вычитания (точно так же, как умножение эквивалентно повторном

-1зной

1ответ

Может ли кто-нибудь объяснить, как работает этот алгоритм разделения?

Я видел это в учебнике алгоритмов. Я запутался в средней рекурсивной функции. Если вы можете объяснить это примером, например 4/2, это было бы здорово! function divide(x, y) Input: Two n-bit integers

0зной

1ответ

Проблема с простым разделением в SQL Server

Должно быть, я полный идиот или что-то в этом роде. Я использую Microsoft SQL Server 2008. Я не могу сделать простой раздел. SELECT 200/600 возвращает большое жирное гусиное яйцо (0,00). Тем не менее,

-1зной

1ответ

Оборудование для «A div B» с фиксированной точкой A и B

Мне нужен способ вычислить, сколько раз фиксированное число B содержится в номере с фиксированной точкой A. Что-то вроде целочисленного деления, но в нецелочисленных операндах. Мне нужно создать аппар

1зной

2ответ

Как округлить число до нескольких цифр?

Я пытаюсь создать функцию int smallestDivisibleAfter(int number, int divisor) так, чтобы она возвращала наименьшее число, большее или равное number, которое делится на divisor (что отличает ноль). Зде

1зной

1ответ

Простого арифметическое выражение не вычисляет в PL/PgSQL 9.3.5

Я пишу определенный пользователь функцию и был много неприятностей делают простой арифметической: ... DECLARE alpha numeric; BEGIN RAISE NOTICE 'alpha: %', alpha; --alpha is NULL here