a) wozu soll das gut sein?
b) für die alte 5250-CA-Emulation gibt es C-Api's. Ob und wie du da mit Java zugreifen kannst must du prüfen.
c) die neue ClientSolution ist selber eine Java-Anwendung und bietet wohl nur VB-Script-Integration an.

JTOpen ist ein Sammelsurium von Objekt-API's sowie eines JDBC-Treibers zum Zugriff auf die Datenbank per SQL. Ein Zugriff auf eine 5250-Sitzung ist nicht vorgesehen.

Was also soll das Ziel sein?
Hier bieten sich dann eher Facing-Tools an, die eben selber u.U. auf der 5250 aufsetzen und JScript o.ä. Schnittstellen anbieten.