Bei großen Ergebnis/Zwischenfeldern war schon immer ein Cast erforderlich:

dec( dec(Wert1, n1, m1) * dec(Wert2, n2, m3), nE, mE)

Ggf. "round(Erg, m)" nicht vergessen, sonst wird abgeschnitten.