Wenn du mit SQLDA umgehst muss für Konvertierungen die CCSID in dem entsprechenden SQLVAR mit ausgegeben werden. Der Default ist hier tatsächlich *HEX.
Schau dir diesbezüglich noch mal die SQLVAR-Definition an, hier gibts auch eine CCSID-Angabe (default 0 = Hex).