Runden

[Franz.Rung]

Hallo zusammen,

sicher ein kleines Problem für die Fachleute hier.

Weshalb bekomme ich so kein gerundetes Ergebnis ?

round(SUM(EKWERT01)/ SUM(LBMENG01) , 2)

EKWERT01: 31.246.38 Numeric 25, 4
LBMENG01: 11.010.00 Numeric 14, 2

also sollte doch 2.84 rauskommen ??

Danke für die Hilfe

[Fuerchau]

Das Problem bei SQL ist das Zwischenergebnis der Division.
Unter V5R4 sind die Anzahl Nachkommastellen = NK1 - NK2 (warum auch immer).
Teilst du also ein 25,4 durch 14,2 ist das Ergebnis 25,2 da bleibt kein Platz zum Runden.
Die Rundung kürzt nicht das Ergebnisfeld sonder rechnet nur.
Um also genügend NK's zu erhalten muss du den Dividenden auf mehr NK's casten:
round(SUM(dec(EKWERT01, 27, 6))/ SUM(LBMENG01) , 2)

Je mehr NK's im Zwischenergebnis (da dies abgeschnitten wird) desto genauer die Rundung:
round(0,4945, 2) => 0,5000
round(0,494, 2) = 0,490

[Franz.Rung]

Vielen Dank für die Hilfe !

[BenderD]

... da werden keine Nachkommastellen durch Subtraktion ermittelt, das Problem liegt darin, dass die Query Engine nicht weiß wo sie die Genauigkeit braucht!
Für die Summierung geht die Query Engine auf die maximale Länge und bei der Division geht ihr dann die Luft aus und aus lauter Angst vor Overflow spart sie hinten Nachkommastellen.
Das kann man mit einem kurzen Testquery ohne Summe prüfen select ekwert/lbmeng from ...
Abstellen kann man das mit einem entsprechenden cast um die Summierungen.
@Baldur:... im übrigen würde ich mal den PTF Stand überprüfen:
round(0,4945, 2) => 0,5000 ist schnöderweise falsch und gibt bei mir richtigerweise 0,4900

D*B

Das Problem bei SQL ist das Zwischenergebnis der Division.
Unter V5R4 sind die Anzahl Nachkommastellen = NK1 - NK2 (warum auch immer).
Teilst du also ein 25,4 durch 14,2 ist das Ergebnis 25,2 da bleibt kein Platz zum Runden.
Die Rundung kürzt nicht das Ergebnisfeld sonder rechnet nur.
Um also genügend NK's zu erhalten muss du den Dividenden auf mehr NK's casten:
round(SUM(dec(EKWERT01, 27, 6))/ SUM(LBMENG01) , 2)

Je mehr NK's im Zwischenergebnis (da dies abgeschnitten wird) desto genauer die Rundung:
round(0,4945, 2) => 0,5000
round(0,494, 2) = 0,490