Advertenties
voorkomende
precisie of naar het type dat voor de operatie
vereist is (zoals integer voor -7- en MOD). Ook het resultaat van
de operatie zal aanvankelijk die precisie hebben.
Deze berekening
wordt uitge-
voerd in dubbele precisie. Ook
het resultaat in D# is weer-
gegeven in dubbele precisie.
10 D# = 6#/7
20 PRINT D#
RUN
.8571428571428571
Ok
10 D = 6~/7
De berekening is uitgevoerd
20 PRINT D
in dubbele precisie en het resul-
RUN
taat is toegekend
aan D, een
.857143
enkele precisie variabele. Er
Ok
vindt dus een afronding plaats
tot enkele precisie.
3. Wanneer een enkel of dubbel-precisie
getal wordt omgezet in
een integer, wordt het getal afgerond.
10 C%=55.88
20 PRINT C%
RUN
56
Ok
Conversie
naar integer
kan een Overflow
fout opleveren
als de
waarde
buiten
het bereik
van integer
w'aarden
valt,
4. Wanneer aan een dubbele-precisie
variabele een enkel-precisie
of integer getal wordt toegekend,
zullen alleen de eerste 7 cijfers
van het resultaat betekenis hebben. De absolute waarde van het
verschil tussen de afgedrukte dubbele-precisie
en de originele
enkele-precisie
getallen zal daardoor altijd kleiner zijn dan 6.3E-8
maal het originele enkele-precisie
getal.
Voorbeeld:
10 A=2.04
20B~=A
30 PRINT A; B~
RUN
2.04 2.039999961853027
Ok
73
Advertenties
