Windows erkennt UTF-8-Dateien meist nur an dem BOM.
Du musst die Datei so bereits im IFS erstellen und dann binär übertragen.

Das genaue Format kannst du ja auf dem Windows-Server erstellen (Notepad).
Gib Text ein und speichere das als UTF-8.
Schieb die Datei binär ins IFS und schau dir den Inhalt per EDTF und Hex auf der AS/400 an.
Alternativ geht natürlich auch per Hexeditor in Windows.

Nun erstelle eine entsprechende Datei auf der AS/400.