m ' J
33: kgf
•
37: °F ' °C
Gegevens voor conversieformules zijn gebaseerd op de "NIST Special
Publication 811 (1995)".
Let op: Het J 'cal commando voert conversie uit voor waarden bij een
temperatuur van 15°C.
Bereik van berekeningen, aantal
cijfers, en nauwkeurigheid
Het berekeningsbereik, aantal cijfers dat voor interne berekeningen wordt
gebruikt en berekeningsnauwkeurigheid hangen af van het soort berekening
dat u uitvoert.
Berekeningsbereik en -nauwkeurigheid
Berekeningsbereik
Aantal cijfers voor interne
berekening
Nauwkeurigheid
Invoerbereik van functieberekeningen en
nauwkeurigheid
Functies
x
sin
x
cos
x
tan
x
–1
sin
x
–1
cos
x
–1
tan
x
sinh
x
cosh
x
–1
sinh
x
–1
cosh
x
tanh
34: J ' kgf
38: °C ' °F
|
|
x
DEG
0
|
|
x
RAD
0
|
|
x
GRA
0
|
|
x
DEG
0
|
|
x
RAD
0
|
|
x
GRA
0
DEG
Gelijk als sin
RAD
Gelijk als sin
GRA
Gelijk als sin
|
|
x
0
1
|
|
9,999999999 × 10
x
0
|
|
x
0
230,2585092
|
|
4,999999999 × 10
x
0
4,999999999 × 10
x
1
|
|
9,999999999 × 10
x
0
m
35: lbf/in
•
39: J ' cal
± 1 × 10
tot ± 9,999999999 × 10
–99
15 cijfers
In het algemeen, ± 1 op het 10e cijfer voor
een enkele berekening. Nauwkeurigheid
voor exponentiële weergave is ± 1 op
het laatste significante cijfer. Fouten zijn
cumulatief in geval van opeenvolgende
berekeningen.
Invoerbereik
9 × 10
9
157079632,7
1 × 10
10
9 × 10
9
157079632,7
1 × 10
10
, behalve als |
x
, behalve als |
x
, behalve als |
x
99
99
99
99
D-40
' kPa
36: kPa ' lbf/in
2
40: cal ' J
| = (2
–1) × 90.
x
n
| = (2
–1) × π /2.
x
n
| = (2
–1) × 100.
x
n
2
99
of 0