Berekeningsomvang, aantal cijfers en
nauwkeurigheid
Het bereik van de berekening, het aantal cijfers gebruikt voor
interne berekening, en de precisie van de berekening zijn
afhankelijk van het type berekening dat u uitvoert.
Berekeningsbereik en nauwkeurigheid
Berekeningsbereik
Aantal cijfers voor
interne berekening
Precisie
Invoerbereik en nauwkeurigheid
functieberekeningen
Functies
x
sin
x
cos
x
tan
1✕10
15 cijfers
Over het algemeen 1 bij het tiende
cijfer voor een enkele berekening.
Precisie voor exponentiële weergave
is 1 bij het minst significante cijfer.
Fouten zijn cumulatief bij opvolgende
berekeningen.
DEG
0
RAD
0
GRA
0
DEG
0
RAD
0
GRA
0
DEG
Zelfde als sin , behalve wanneer
x
GRA
Zelfde als sin , behalve wanneer
x
RAD
Zelfde als sin , behalve wanneer
x
-99
tot 9,9999999✕10
Invoerbereik
9 ✕ 10
9
x
157079632.7
x
10
1 ✕ 10
x
9
9 ✕ 10
x
x
157079632,7
10
1 ✕ 10
x
x
=
(
–
)
×
2n 1
x
=
(
–
)
×
2n 1
x
=
(
–
)
×
2n 1
86
-99
90
π
-- -
2
100
of 0