Casio CFX-9850G PLUS, CFX-9850GB PLUS, CFX-9850GC PLUS, CFX-9950GB PLUS User Manual download pdf (Page 468)

440440

附錄 D 輸入范圍

函數輸入范圍

二進位

、

八進位

、

十

進位

、

十六進位計算

數值在轉換之后

，

位于下述范圍之內︰

DEC

（

十進位

）

: –2147483648

<

x

<

2147483647

BIN

（

二進位

）

: 1000000000000000

<

x

<

1111111111111111 (

負數

)

0

<

x

<

0111111111111111 (0,

正數

)

OCT

（

八進位

）

: 20000000000

<

x

<

37777777777 (

負數

)

0

<

x

<

17777777777 (0,

正數

)

HEX

（

十六進位

）

: 80000000

<

x

<

FFFFFFFF (

負數

)

0

<

x

<

7FFFFFFF (0,

正數

)

對于單次計算

，

在第 10 位處的計算誤差為

•

±

1

。（

在指數顯示的情況下

，

在最后一位有效

數位處的計算誤差為

±

1

。）

在連續計算的情況下

，

誤差是累計的

，

這也可能使誤差變大

。

（

在

^(

x

y

),

x

y

,

x!

,

3

x

,

n

P

r

,

n

C

r

,

等情況下進行的內部連續計算也是如此

。）

在函數奇點與拐點附近

，

誤差為累計的

，

并且可能變大

。

1 ... 467 468 469 ... 484

Comments to this Manuals

No comments