real-datatype

3зной

2ответ

TSQL: какой тип реального номера приводит к более быстрым сравнениям

Среди типов TSQL (MSSQL): real, float и decimal; какой тип приведет к более быстрым сравнениям? Может ли десятичная система использовать расчеты FPU в твердом мозге или это чисто программное обеспечен

0зной

1ответ

Каково максимальное значение переменной REAL в sqlite3?

Я хочу знать максимальное значение, которое может хранить переменная REAL. Или я могу найти максимальное значение, которое может хранить тип данных?

1зной

3ответ

Подсчет количества знаков после запятой в pascal

Я только начал изучать паскаль, и я должен сделать программу pascal как домашнюю работу. Я сделал это, но не знаю как подсчитать количество знаков после запятой в реальном числе (число цифр после «.»)

-1зной

1ответ

Fortran90 сравнивающие реальные значения

Я должен следующей подпрограммой: SUBROUTINE matprod(nkval, matrix, tkval, field) implicit none integer, allocatable, intent(in) :: matrix(:,:,:) real, allocatable, intent(inout) :: tkval(:,:,:)

1зной

1ответ

Z3 действительная арифметика и статистика

Учитывая проблему, которая кодируется с использованием Z3-реалов, какая из статистических данных, которую производит Z3 /smt2 /st, может быть полезна, чтобы судить, имеет ли двигатель reals «проблемы/

0зной

1ответ

строка для реального преобразования в gfortran

Я сделал программу gfortran, которая использовала инструкцию READ, чтобы передать строку в реальную. Проблема: Когда строка ('1.00000E-03') считывается из файла с помощью команды READ (строка (54:67),

5зной

1ответ

Целое число к реальной функции преобразования

Есть ли общая функция преобразования для преобразования объекта целочисленного типа в реальный тип в VHDL? Это для тестовой площадки, поэтому синтезируемость не является проблемой.