Die IBM-Speicherung speichert HIWORD, LOWORD, HIBYTE, LOBYTE und nicht wie Intel-CPU's in LOxxx, HIxxx.
Kann sein, dass LAND erst ab V5R3 auch numerische Felder erlaubt.
Du kannst aber auch mit LAND(HEX(MYFIELD), '0080') verknüpfen. Das Ganze wird dann halt als Zeichenkette betrachtet, funktioniert aber ebenso.
Probier's einfach mal mit

select HEX(MYFIELD), LAND(HEX(MYFIELD), '00000000000000000080')
from ...