Das Problem liegt wohl eher in der Jobumgebung. Auch der Java-Job läuft unter einer CCSID !
Beim Zugriff auf die Nachricht wird also VOR Java der Inhalt in die JobCCSID konvertiert und dann an Java übergeben (die Toolbox muss schliesslich intern den RTVMSG bzw. das API aufrufen).
Dadurch erhalten die gelesenen Daten die CCSID des Jobs und werden dann natürlich "falsch" in Unicode übersetzt.
Prüfe mal, in wie weit beim Lesen der Job kurzfristig in die CCSID der Nachricht geändert werden kann. Eine Änderung auf 65535 bringt nichts, da dann eine Standardzuordnung zum Unicode (wahrscheinlich CCSID 037) angenommen wird.
Wie du die CCSID der Nachricht in Java abfragen kannst weiß ich nicht.
Ggf. musst du ein Programm (CLP/RPGLE) schreiben, dass über Java aufgerufen wird und den Zugriff auf die Nachricht selbst übernimmt.