So auf die Schnelle:

RTVWSCST DEVTYPE(*TRANSFORM)
MFRTYPMDL(*HP6)
SRCMBR(HP6)
SRCFILE(QGPL/QTXTSRC)
Bei MFRTYPMDL kann man per F4 sich alternative Modelle aussuchen.
In der generierten Quelle findest du diverse Einträge für "PAGSIZE".

Code:
:PAGSIZE                 
  PAGWTH=11952           
  PAGLEN=16848           
  DATA ='1B266C323641'X.
Hier musst du einen weiteren Eintrag mit der korrekten Größe für A3 hinzufügen.
Der Wert wird in 1/72 Zoll gerechnet. Welche ESC-Sequenz für A3 zu nehmen ist musst du selber herausfinden.
Per CRTWSCST erstellst du das neue Objekt und kannst es dann an deine DEVD/RemoteOUTQ dranhängen.
Bei einer DEVD kann man *A3 als Papierformat angeben, bei einer OUTQ leider nicht.
In der PRTF definiert sich die Größe per Zeile/Spalte oder in *UOM, wobei dieser Wert dann auf UOM(*INCH/*CM) verweist.

Ob das so funktioniert kann ich dir nicht garantieren, aber das ist der Weg.