Casio CFX-9850GB PLUS, CFX-9850GC PLUS, CFX-9950GB PLUS User Manual Page 468

  • Download
  • Add to my manuals
  • Print
  • Page
    / 484
  • Table of contents
  • BOOKMARKS
  • Rated. / 5. Based on customer reviews
Page view 467
440
Funktion
Binär-,
Oktal-,
Dezimal-,
Hexadezimal-
Rechnung
Eingabebereich
Werte fallen nach der Umwandlung in die folgenden Bereiche:
DEC: –2147483648 < x < 2147483647
BIN: 1000000000000000 < x
< 1111111111111111 (negativ)
0 < x < 0111111111111111 (0, positiv)
OCT: 20000000000 < x < 37777777777 (negativ)
0 < x < 17777777777 (0, positive)
HEX: 80000000 < x < FFFFFFFF (negativ)
0 < x < 7FFFFFFF (0, positiv)
* Für eine einzelne Rechnung beträgt der Rechenfehler ±1 an der 10. Stelle. (Bei
Exponenzialanzeige beträgt der Rechenfehler ±1 an der niedrigwertigsten Stelle.) Die Fehler
summieren sich bei fortlaufenden Rechnungen, und können dabei groß werden. (Dies trifft auch auf
interne kontinuierliche Rechnungen zu, die zum Beispiel im Falle von ^(x
y
),
x
y, x!,
3
x , nPr, nCr
usw. ausgeführt werden.)
In der Nähe des singulären Punktes einer Funktion und des Wendepunktes summieren sich die
Fehler und können groß werden.
Anhang D Eingabebereiche
Page view 467
1 2 ... 463 464 465 466 467 468 469 470 471 472 473 ... 483 484

Comments to this Manuals

No comments