SQL, eringefallen wegen nachkomma stellen

[camouflage]

Der Vollständigkeit hab ich mir noch die Zeit genommen für den in RPG native:
feld += (feld/100 * mwst);

Resultat: 10.35!

Kein weiterer Kommentar - auch nicht über SQL.

[Fuerchau]

Man muss unterscheiden
- Endergebnisse werden immer abgeschnitten, sie müssen ggf. erundet werden Round() / eval(h)
- Zwischenergebnisse werden in SQL und ILERPG leider unterschiedich behandelt.
Im ILERPG-Handbuch gibts eine ausführliche Erklärung, bei SQL finde ich so schnell nichts.

[BenderD]

Wenn ein Taschenrechner auch diese "klugheit" hätte, würder ich "falschen" ja verstehen.
Dietlinde Beck

einfache Taschenrechner rechnen meist mit float Arithmetrik, da passieren dann zuweilen andere Dummheiten.

So empfinde ich es als sehr unglückliche Lösung, die auf jeder einfachen SQL Schulung genannt werden sollte.
Dietlinde Beck

... gute Schulungen erwähnen so etwas.

[BenderD]

- Zwischenergebnisse werden in SQL und ILERPG leider unterschiedich behandelt.
Im ILERPG-Handbuch gibts eine ausführliche Erklärung, bei SQL finde ich so schnell nichts.

... ich habe keinen Bock, in Handbüchern zu suchen, was ein Programm macht, wenn ich nicht klar sage, was ich haben will. Ich sage stattdessen genau, was ich haben will.
Sprich: geschachtelte Ausdrücke nicht übertreiben und im Zweifel per cast und round festlegen, wie ich das gerechnet haben will.

D*B

[Fuerchau]

Leider hilft der Cast auf Zwischenergebnisse auch nicht immer.
Bei einer komplexeren Berechnung bekam ich auch kein erwartetes Ergebnis und ein NULL-Anzeiger brachte eine Warnung -2.
Laut Joblog und einer ESC-Nachricht war ein Zwischenergebnis leider bzgl. der Nachkommastellen nicht mehr darstellbar und die Berechung wurde abgebrochen.
Kein Dec-Cast war dazu in der Lage ein Zwischenergebnis zu bekommen.
Letzte Lösung: Cast auf Double der Einzelwerte und zum Schluss ein

round(dec("komplexer Ausdruck", 18, 9), 2)

Und das Ergebnis war korrekt. Dasselbe in ILERPG funktionierte ohne Probleme.