Casio FX-9750GII User Manual download pdf (Page 415)

Тем не менее;

–1 × 10

100

log |y| < 100

• Комплексные

числа могут

использоваться

как аргументы.

Общее количество знаков

целой части, числителя и

знаменателя должно быть в

пределах 10 цифр (включая

знак дробной черты).

" "

* Для единичного вычисления ошибка вычисления составляет ±1 в 10-й цифре. (Для

экспоненциального дисплея ошибка вычисления составляет ±1 в последней значащей цифре).

Ошибки накапливаются в случае последовательных вычислений, и могут достигать больших

величин. (Это также верно для внутренних последовательных вычислений, которые

выполняются для функций ^(x

), , x!,

x , nPr, nCr, etc.)

Вблизи сингулярной точки и точки перегиба функции погрешности накапливаются и могут

достигать больших величин.

Функция Диапазон ввода

Двоичные,

восьмеричные,

десятичные,

шестнадцатеричные

вычисления

Значения после преобразования находятся в следующих диапазонах:

DEC: –2147483648 ≤ x ≤ 2147483647

BIN: 1000000000000000 ≤ x ≤ 1111111111111111 (отрицательные)

0 ≤ x ≤ 111111111111111 (0, положительные)

OCT: 20000000000 ≤ x ≤ 37777777777 (отрицательные)

0 ≤ x ≤ 17777777777 (0, положительные)

HEX: 80000000 ≤ x ≤ FFFFFFFF (отрицательные)

0 ≤ x ≤ 7FFFFFFF (0, положительные)

401



1 ... 414 415 416

No comments

Casio FX-9750GII User Manual Page 415