2012-02-29 5 views
2

Я проверил свой графический калькулятор, чтобы проверить ошибку с плавающей запятой, и после сорока восьми часов полной и полной случайности калькулятор не потерял ни одной цифры точности.Как закодированные операционные системы TI не имеют ошибки с плавающей запятой?

Как TI тянет это?

+1

Можете ли вы привести пример «полной и полной случайности»? С чем вы сравниваете? –

+0

Это не буквальное утверждение. Извините, если все здесь должно быть принято буквально; Я не собирался умалять суть вопроса с немного глупости и не делал этого. – Zyerah

+0

Я прошу пример того, что вы пытались; на данный момент ваш вопрос имеет нулевой информационный контент. Как мы можем ответить, не зная контекста? –

ответ

4

TI-89 и TI-92 избегают ошибок, используя symbolic computation для хранения значений точно.

Фактические вычисления с плавающей запятой (режим «приблизительный» на 89/92) do имеют ошибки. Их просто трудно заметить, поскольку калькуляторы TI отображают меньше цифр, чем они хранят. Кроме того, они используют десятичный вместо двоичного.

Например, если вы вводите выражение 1/3*3-1 на TI-89 в режиме «ок», вы получите ответ ⁻1.ᴇ⁻14 вместо 0 вы получите в точном режиме. Внутренне, расчет производится следующим образом:

  • 1/3 дает 0.33333333333333, округляется до 14 значащих цифр.
  • Умножение на 3 дает 0.99999999999999. Из-за округления это отображается как 1.
  • Вычитание 1 дает -0.00000000000001 или -1e-14.
+0

Спасибо! Всегда было интересно. – Zyerah