Fehler CPD431D: Reduzierung der Gesamtstellenzahl für Operator X'07' nicht zulässig

[Fuerchau]

Die Anzahl Nachkommastellen bei Zwischenergebnissen werden bei Divisionen auf Max berechnet.
Im SQL-Handbuch gibts Formeln für die Berechnung der benötigten Genauigkeiten.

Die Aggregate z.B. ergeben häufig sehr große Felder z.B. 31,2.
Werden diese nun dividiert muss vorher die max. Genauigkeit ermittelt werden. Dabei wird der Inhalt der Werte nicht geprüft.
Im Navigator mit Konstanten wird ein Dezimalfeld ermittelt:
3,2 => dec(2,1)
12345,567 => dec(8,3)
usw.

Helfen kannst du SQL z.B. damit, dass du die Summen selber wieder auf den theoretisch maximalen Inhalt kürzt:
sum(feld11,2) => sum(31,2)
Wenn du nun 10000 Zeilen summierst würde 15,2 ja reichen.
Also kann das Ergebnis der Summe auf dec(sum(xxx), 15, 2) gekürzt werden.

Divisionen können auch mit dem Kehrwert multipliziert werden.
Jetzt kommts auf die Genauigkeit an wie viele Nachkomma du im Ergebnis benötigst.
Bei Multiplikation werden die Ergebniss auf (31, NK1+NK2) erwartet.

Wenn du im Navigator mit Konstanten testest, caste diese auf die später im Programm verwendeten Hostvariablen, also z.B. dec(1234 , 11 , 2).
Dann bekommst du da dieselben Fehlermeldungen.

[bie-dro]

Hallo Baldur,

danke für deine Antwort. Ich habe mir jetzt so geholfen, dass ich den Divisor zu einer Float-Zahl umwandle und das Ergebnis dann wieder als Dezimal-Zahl wandle. Also so:

    ... 

    case
    when af.amwst = 'E' then decimal(gk.oendv_Stamm / float(:PiStBrFE), 11, 6)
    else decimal(gk.oendv_Stamm / float(:PiStBrFV), 11, 6)
    end as shopWgNet_Stamm

    ...

Dadurch wird es etwa ab der 4. Nachkommastelle etwas ungenauer, aber das nehme ich in Kauf.

Aber zumindest kommt dann die Fehlermeldung nicht mehr und ich kann das Programm nutzen.

Gruß

Artur

(bie-dro KG)


[Fuerchau]

Da wäre dann ggf. Double noch etwas genauer (17 Stellen).

[bie-dro]

Da wäre dann ggf. Double noch etwas genauer (17 Stellen).

Ich habe es mal im System i Navigator getestet. Konnte aber keinen Unterschied zwischen Float und Double feststellen.

Bei der Berechnung 4,63 € * 1,19 kommt bei beiden Varianten 5,509699 anstatt 5,5097 heraus. Aber damit kann ich leben.

[Fuerchau]

Ja, ich verwechsle Float immer mit REAL.

Da hilft dann immer noch round(result, 4).

[B.Hauser]

Hast Du eigentlich mal versucht die (Compile/SET OPTION) Option DECRESULT anzupassen, d.h. Größe und Anzahl Dezimal-Positionen für das Ergebnis anzupassen bzw. zu erweitern?