Ggf. musst du halt auf die JRE 8 64-Bit runtergehen um die Java-Kompatibilität zu erreichen.
Da die IBM sehr nachlässig ist, was neue Versionen angeht ist das immer wieder ein Problem der Kompatibilität.
Dasselbe gilt dann ebenso für die JDBC-Version des SQL-Servers.

Unabhängig davon solltest du mal auf einem Windows-Client z.B. mit Squirrel versuchen, ob du den SQL-Server Express überhaupt erreichen kannst. Sonst ist das sowieso alles vergebene Mühe.

Tja, und dann empfehle ich dir trotzdem eine Client-Lösung (Java, C#, u.v.m.).
Man kann vom Client eine DTAQ auch per SQL auslesen. Damit bekommt man einen Auftrag von einem RPG-Programm. Der Client führt die Aktion aus und schreibt eine passende Information in die DB2.
Dies kann genauso gut auch ein Trigger, der die DTAQ schreibt. Und die Antwort per Insert/Update kann auch ein Trigger ggf. weiter verarbeiten.

Wie immer gibts 1000 Möglichkeiten. Ich würde mich da nicht auf RPG fixieren, da das irgendwann niemand mehr warten kann. Insbesonders bei Release-Updates von JVM, JDBC und SQL-Server.