select sum(menge) into :rpgmenge from AUFTRAG
Where artikel in (select concat(Dessin, Farbe)
from Material
where MatNr = :rpgmatnr
group by concat(Dessin, Farbe) ))

Der "Group by" muss die gleichen Felder enthalten, die auch in der Select-Klausel definiert sind.

Schneller geht das ganze, wenn du einen Index über "concat(Dessin, Farbe)" erstellst, ansonsten wird hier ein Tablescan durchgeführt.

Zusätzlich gibts doch sicherlich noch ein oder mehrere Mandentenfelder die sicherlich in der Where-Klausel aufgeführt sein sollten.

PS:
Besser wäre hier ein:

select sum(menge) into :rpgmenge from AUFTRAG
Where artikel in (select distinct concat(Dessin, Farbe)
from Material
where MatNr = :rpgmatnr )