Rechenproblem in RPG

[BenderD]

Hallo jo400,

Hallo Forum,

Was machen wir falsch?

Jo

PS: Wir haben OS/400 V5R2.

Ihr verwendet Literale (100) beim Rechnen, das gibt mit allen Compilern der Welt Randprobleme.

mfg

Dieter Bender

[Fuerchau]

Ausgenommen Sprachen, die den Feldtyp "Dezimal" nicht kennen und immer nur mit Float/Double rechnen. Hier sind die Probleme mit den Nachkommastellen viel gravierenden:
Dezimal: 3 * 3.33 = 9.99
Double: 3 * 3.33 = 10.000000000001

Und dann wundert man sich immer warum rechnet der nur so komisch ?!